感知機
感知機模型
用於處理二元線性可分的數據。在二維平面中，即尋找一條直線能將二元數據分隔開。推廣到更一般的n維空間中，即尋找n-1維的超平面，將二元數據分隔開。
數學表示：假設有m個樣本，每個樣本是n維特徵。則目標超平面的表達是𝜃0+𝜃1𝑥1+...+𝜃𝑛𝑥𝑛 = 0, 𝜃i就是要尋找的參數。這樣根據超平面的性質，二元數據可以分成大於0和小於0的兩部分，分佈在超平面兩側。
爲了簡化表達式，引入x0 = 1，則上式可寫成𝜃∙𝑥。感知機的模型最終定義爲𝑦 = 𝑠𝑖𝑔𝑛(𝜃∙𝑥)
感知機損失函數
假設𝜃∙𝑥 > 0的樣本類別輸出爲1，𝜃∙𝑥 < 0的樣本類別輸出爲-1.則𝑦∙𝜃∙𝑥 > 0的分類正確，𝑦∙𝜃∙𝑥分類錯誤。損失函數就是誤分類的樣本到超平面的距離之和。
損失函數的優化方法
採用梯度下降法。
