感知機 (perceptron):感知機是神經網絡(深度學習)的起源算法,學習感知機的構造是通向神經網絡和深度學習的一種重要思想。
嚴格講,應該稱爲“人工神經元”或“樸素感知機”,但是因爲很多基本的處理都是共通的,所以這裏就簡單地稱爲“感知機”。
感知機接收多個輸入信號,輸出一個信號。
2. 感知機的原理
感知機是二分類的線性模型,其輸入是實例的特徵向量,輸出的是事例的類別,分別是+1和-1,屬於判別模型。
假設訓練數據集是線性可分的,感知機學習的目標是求得一個能夠將訓練數據集正實例點和負實例點完全正確分開的分離超平面。如果是非線性可分的數據,則最後無法獲得超平面。
2.1 點到線的距離
2.2 樣本到超平面距離
2.3 超平面(Hyperplanes)
3. 感知機模型
4. 感知機學習算法
4.1 原始形式算法
4.2 對偶形式算法
4.3 原始形式和對偶形式的選擇
在向量維數(特徵數)過高時,計算內積非常耗時,應選擇對偶形式算法加速。
在向量個數(樣本數)過多時,每次計算累計和就沒有必要,應選擇原始算法