線性分類器

線性分類器有三大類:感知器準則函數、SVM、Fisher準則,而貝葉斯分類器不是線性分類器。

感知器準則函數:代價函數J=-(W*X+W0),分類的準則是最小化代價函數。感知器是神經網絡(NN)的基礎,網上有很多的介紹。

SVM:支持向量機也是很經典的算法,優化目標是最大間隔(margin),又稱最大間隔分類器,是一種典型的線性分類器。(使用核函數可解決非線性問題)

Fisher準則:更廣泛的稱呼是線性判別分析(LDA),將所有樣本投影到一條原點出發的直線,使得同類樣本距離儘可能小,不同類樣本距離儘可能大,具體爲最大化“廣義瑞利熵”。

貝葉斯分類器:一種基於統計方法的分類器,要求先了解樣本的分佈特點(高斯、指數),所以使用起來限制很多。在滿足一些特定條件下,其優化目標與線性分類器有相同的結構,其餘條件下不是線性分類器。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章