【深度學習筆記整理-1.2.2】支持向量機

1.支持向量機的目的：
獲取一個分類邊界，這個邊界可以最大化距離不同類別的最近點。
這樣的邊界可以擁有更好的抗噪聲干擾性。
2.限制：
①分類正確
②margin=min類別到邊界距離
於是，我們將這個問題轉化爲了一個maxmin的問題，並且我們的限制出現了不等式，於是需要KKT等算法，將原問題轉化爲其對偶問題求解。
3.支持向量機一般需要經過兩步：
① 將數據映射到一個新的高維表示，這時決策邊界可以用一個超平面來表示
注：這一步爲解決一些線性不可分的情況，並且利用核函數，我們可以把多次的高次運算轉化爲一次運算的高次結果，利用RBF徑向基核函數exp（-1/2（x1-x2）平方）及泰勒展開可將低維空間向量投射到無窮維
② 儘量讓超平面與每個類別最近的數據點之間的距離最大化，從而計算出良好決策邊界（分
割超平面），這一步叫作間隔最大化（maximizing the margin）。這樣決策邊界可以很好
地推廣到訓練數據集之外的新樣本。