原创 三種梯度下降算法的區別(BGD, SGD, MBGD)

前言 我們在訓練網絡的時候經常會設置 batch_size,這個 batch_size 究竟是做什麼用的,一萬張圖的數據集,應該設置爲多大呢,設置爲 1、10、100 或者是 10000 究竟有什麼區別呢? # 手寫數字識別網絡訓練方法 n

原创 數據降維:主成分分析法

前言 什麼叫做主成分分析法,我們先看一張圖橢圓的圖,如果讓你找一條線,使得橢圓上所有點在該線上映射的點最分散,保留下來的信息最多,你會怎麼選擇這條線?若是下圖,會選擇水平線,這是用一維的方式去儘可能多的表示二維的數據,那麼多維的數據呢,是否

原创 深度學習中的正則化(一)

本文首發自公衆號:RAIS,點擊直接關注。 前言 本系列文章爲《Deep Learning》讀書筆記,可以參看原書一起閱讀,效果更佳。本文我們聊一聊深度學習中的正則化。 深度學習中的正則化 一般來說,深度學習所要做的事情是用已有的訓練集

原创 考研經歷吐血總結

前言 考研總算是結束了,現在真的腦殼疼,真的是那種生理上的腦殼痛,睡一覺應該就好了的那種。 上一篇 寫考研的事情差不多是初試結束後的時間,當時覺得考得不好,但是沒有出成績,簡單寫的隨筆吧,今天確定了錄取通知,算是所有的事情都塵埃落定了,剩下

原创 無監督學習算法

本文首發自公衆號:RAIS,點擊直接關注。 前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。 無監督學習算法 就是無監督的一種學習方法,太抽象,有一種定義(這種定義其實不夠準確,無監督和監督

原创 監督學習算法

本文首發自公衆號:RAIS,點擊直接關注。 前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。由於各平臺 Markdown 解析差異,有些公式顯示效果不好,請到我 個人維護網站 查看。 監督學

原创 願一切安好!

Hexo 靜態博客 完整支持特殊日子黑白悼念,願生者堅強,逝者安息! 方法 1 靜態方法,直接在模板文件中添加 CSS 樣式: <style> html { FILTER: gray; -webkit-filter: graysca

原创 最大似然估計與最大後驗估計

本文首發自公衆號:RAIS,公式顯示錯誤請到:這裏 查看。 前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。 MLE VS MAP 最大似然函數(MLE)和最大後驗概率估計(MAP)是兩種完

原创 估計、偏差和方差

本文首發自公衆號:RAIS 前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。 估計 統計的目的是爲了推斷,大量的統計是爲了更好的推斷,這就是一種估計,一種根據現有信息對可能性的一種猜測。

原创 過擬合和欠擬合

本文首發自公衆號:RAIS ​前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。 構建複雜的機器學習算法 上一篇文章中我們介紹了什麼叫做機器學習算法極其具體的定義和所關心的問題,比較簡單,接下

原创 超參數、驗證集和K-折交叉驗證

本文首發自公衆號:RAIS ​前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。 超參數 參數:網絡模型在訓練過程中不斷學習自動調節的變量,比如網絡的權重和偏差; 超參數:控制模型、算法的參

原创 機器學習算法

本文首發自公衆號:RAIS 前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。深度學習是機器學習的子集,因此想更深入的瞭解深度學習,需要對機器學習的一些基本原理。 學習算法 機器學習算法是一種

原创 【Deep Learning讀書筆記】深度學習中的概率論

本文首發自公衆號:RAIS,期待你的關注。 前言 本系列文章爲 《Deep Learning》 讀書筆記,可以參看原書一起閱讀,效果更佳。 概率論 機器學習中,往往需要大量處理不確定量,或者是隨機量,這與我們傳統所需要解決掉問題是大不一

原创 卷積神經網絡處理文本序列

我們之前討論了卷積神經網絡,從局部可以提取出特徵,用於小貓小狗的圖片識別處理,非常有效;也討論了循環神經網絡進行文本的處理,因爲文本的順序是順序相關的。基於以上特點,我們把時間或者說文本的前後看做一個維度,那一段文本就是一個一維空間,相比圖

原创 循環神經網絡(RNN)

​最近的股市震盪的有點厲害,跌的有點慘,面對如此情景,我波瀾不驚,原因很簡單,前幾年我小試牛刀的時候我意識到了這不是我這種散戶能玩得懂的,如今的我早已空倉。萬物皆可 AI,如何用深度學習的方法去理解呢?當然,本篇不是一個指導買股票的文章,也