深度學習從零開始(2)——由感知機到神經網絡

1、 感知機

在大部分的神經網絡或者深度學習的教材中,基本上都會在開頭介紹感知機。爲什麼呢?因爲感知機是神經網絡算法乃至深度學習算法的源頭,後兩者雖然要複雜,但是也不過是感知機稍作改進,堆疊而成的,因此學習感知機也對學習後續的這些改進有非常大的幫助。而其中最主要的改進就是激活函數還有反向傳播,這是後話,我們會在後面的章節中詳細講解。首先我們來看看感知機是什麼。

1.1 感知機是什麼?

感知機這個名字聽起來挺複雜,其實是一個非常簡單的算法。感知機是一個接收多個輸入,輸出一個輸入的算法。最好理解的例子是,你把感知機想象成很多人推一輛汽車的情景。每個人的推力就是一個輸入,而這個車動(0)或者不動(1)就是輸出。當衆人的合力大於汽車的摩擦力的時候,車子就動了。在感知機中同樣如此,當輸入的和大於或等於某個設定值θ時,感知機輸出1(激活),否則就輸出0(抑制)。而這個數θ就稱爲感知機的閾值。

 

                                         

下圖是一個簡單的感知機的例子,感知機又兩個輸入,分別是x1 和x2,輸出爲y。值得注意的是,感知機不是簡單地將x1和 x2 直接相加,而是分別賦予信號權重 w1 和 w2。 因此,兩個輸入信號先分別乘上權重,再相加,最後輸入到圓形O(也稱爲神經元或者神經節點)中,當兩者的加權大於或等於設定的θ時,神經元輸出1,否則輸出0。

                                      

以上就是感知機的所有原理,可以用數學式表達如下:
/感知機數學表達式

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章