Lecture 2: PLA 演算法

PLA演算法是機器學習中最簡單的演算法，它找到一個函數式來模擬輸入和輸出之間的關係，並且根據找到的點的錯誤來修正這個函數式。

函數式：模擬現實世界的關係

因爲是是非問題，所以可以通過正負號來表示輸出

修正：函數式學習的過程

如果得到的結果W*X和Y結果不同，就進行修正。
比如W*X小於0，說明W和X之間的夾角太大，而正確的Y大於0，所以修正爲W+Y*X，使向量轉向W和X之間。
如果W*X大於0則相反

演算法是否會停止

說明W的修正是結果越來越接近Y

說明W的修正使其越來越接近理想的w

說明w的更新速度不快

說明了w接近理想w的速度

PLA的缺點

PLA演算法在線性可分的情況一定能找到二元分類的線，但是當數據不是二元可分或者數據中有噪聲，就不一定能停下來

Pocket:對PLA演算法的改進

pocket演算法找到一個使得總共犯的錯誤最少，而不是不發錯誤。

pocket每次檢查一個錯誤的時候都會產生一個新的，而是否採用這個新的要把舊的先存起來，再檢驗所有的資料，如果新的犯的錯誤比原來的，就採用新的。