SVM中關於KKT條件的理解

對KKT條件的理解,是在學習機器學習和麪試機器學習算法工程師時,經常出現的問題,今天我在面試的時候就遇到了這個問題,但是沒有答上來,查閱相關資料後,特此作爲筆記。

簡而言之,KKT條件是求解有不等式約束優化問題的一種方法,可以理解爲是拉格朗日乘子法的一種泛化。當優化問題是凸優化時,KKT條件就是極小值點,同時也是全局最小值點存在的充要條件。若該問題不是凸優化問題時,KKT條件只是極小值點的必要條件,而不是充分條件,滿足KKT的點是駐點。
想要轉化爲極值點的充要條件,還需要附加一個正定條件。

關於凸優化,拉格朗日乘子法以及KKT條件的詳細說明,請參照拉格朗日乘子法和KKT條件這裏有相應的解釋和圖式說明。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章