寫在前頭
凸優化問題（OPT，convex optimization problem）指定義在凸集中的凸函數最優化的問題。一般形式爲：
雖然凸優化的條件比較苛刻，但仍然在機器學習參數最優化領域有廣泛的應用。凸優化問題的優勢體現在：
1、凸優化問題的局部最優解就是全局最優解
2、很多非凸問題都可以被等價轉化爲凸優化問題或者被近似爲凸優化問題
3、凸優化問題的研究較爲成熟，當一個具體被歸爲一個凸優化問題，基本可以確定該問題是可被求解的
相關理論
凸集
定義：
幾何意義：
凸函數
定義：
幾何意義：
凸函數的一階充要條件：
凸函數的二階充要條件：
凸優化問題
定義：
常見的凸優化問題
線性規劃（LP，Linear Program）
二次規劃（QP，Quadratic Program）
二次約束的二次規劃（QCCP，Quadratically Contrained Quadratic Program）
半正定規劃（SDP，Semidefinite Program）
機器學習中的凸優化
凸優化的過程
凸優化的求解過程可以概括爲：找到一個點列使得函數值一直減少，直到達到停止的條件或某個最小值。
數學描述
