深度學習是啥

《神經網絡與深度學習》筆記

深度的機器學習就是深度學習。

神經網絡和深度學習不等價。深度學習可以採用神經網絡模型也可以採用其它模型(例如概率圖模型)

但是,神經網絡模型可以比較容易地解決功勞分配問題(每個組件的貢獻是多少,關係到如何學習每個組件中的參數)

深度學習最開始用來解決機器學習中的“表示學習問題”,後來也用來解決一些通用人工智能問題,例如推理、決策。

 

1

首先,深度學習問題是一個機器學習問題,指從有限樣例中通過算法總結出一般性的規律,並可以應用到新的未知數據上。比如,我們可以從一些歷史病例的集合中總結出症狀和疾病之間的規律。這樣當有新的病人時,我們可以利用總結出來的規律,來判斷這個病人得了什麼疾病。

 2

機器學習僅僅是一種實現人工智能的方法論。

機器學習的主要目的是設計和分析一些學習算法,讓計算機可以從數據(經驗)中自動分析並獲得規律,之後利用學習到的規律對未知數據進行預測,從而幫助人們完成一些特定任務,提高開發效率。

3

傳統的機器學習模型主要關注最後一步,即構建預測函數。但是實際操作過程中,不同預測模型的性能相差不多,而前三步中的特徵處理對最終系統的準確性有着十分關鍵的作用。特徵處理一般都需要人工干預完成,利用人類的經驗來選取好的特徵,並最終提高機器學習系統的性能。因此,很多的機器學習問題變成了特徵工程(Feature Engineering)問題。開發一個機器學習系統的主要工作量都消耗在了預處理、特徵提取以及特徵轉換上。

4

爲了提高機器學習系統的準確率,我們就需要將輸入信息轉換爲有效的特徵,或者更一般性地稱爲表示(Representation)。如果有一種算法可以自動地學習出有效的特徵,並提高最終機器學習模型的性能,那麼這種學習就可以叫作表示學習(Representation Learning)。

5

在表示學習中,有兩個核心問題:一是“什麼是一個好的表示”;二是“如何學習到好的表示”。

6

爲了學習一種好的表示,需要構建具有一定“深度”的模型,並通過學習算法來讓模型自動學習出好的特徵表示(從底層特徵,到中層特徵,再到高層特徵),從而最終提升預測模型的準確率。所謂“深度”是指原始數據進行非線性特徵轉換的次數。如果把一個表示學習系統看作一個有向圖結構,深度也可以看作從輸入節點到輸出節點所經過的最長路徑的長度。

這樣我們就需要一種學習方法可以從數據中學習一個“深度模型”, 這就是深度學習(Deep Learning,DL)。深度學習是機器學習的一個子問題,其主要目的是從數據中自動學習到有效的特徵表示。深度學習是機器學習的一個子問題,其主要目的是從數據中自動學習到有效的特徵表示。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章