深夜裏，你不斷徘徊在我的心田，
你的每一句誓言都在耳邊回蕩，
你閃動的雙眼隱藏着你的羞澀。
天天想你，
天天守住一顆心，
我會把最好的愛留給你。
——暢寶寶的傻逼哥哥
函數的極值是它的極大值與極小值，函數取極小值(極大值)的點稱爲極小值(極大值)點，有幾種不同類型的極小值點(極大值點)，即局部或全局，弱或強。
定義1： 對點x∗∈R ，其中R 是可行域，如果存在ϵ>0 使得如果
x∈R,∥x−x∗∥<ϵ
則
f(x)≥f(x∗)
，那麼稱該點爲弱局部極小值點。
定義2： 如果對所有x∈R,f(x)≥f(x∗) ，那麼稱點x∗∈R 爲f(x) 的弱全局極小值點。
如果點x∗ 滿足定義2，那麼自然滿足定義1，所以全局極小值點也是局部極小值點。
定義3： 如果定義1或定義2中的大於等於改成大於
f(x)>f(x∗)
，那麼稱x∗ 爲強局部(或全局)極小值點。
E2 中的強全局極小如圖1所示。
弱或強與局部或全局極大值點通過反轉一下上面的符號即可。
例1： 圖2中函數的可行域定義爲集合
R={x:x1≤x≤x2}
，求出最小值點。
解： 函數在點B 有弱局部極小值，在A,C,D 有強局部極小值，在C 有強全局極小值。
![這裏寫圖片描述]()
圖1
對於一般的最優化問題，我們原則上是找f(x) 的全局極小值。實踐中，優化問題可能有兩個或更多的局部極小值，因爲優化算法一般都是從解的估計值開始，不斷迭代，最後會收斂到一個值，那麼其他的局部極小就會錯過。如果錯過了全局極小，那麼我們得到的是次最優解，當然也可能得不到。這個問題通過多運行幾次優化算法且從不同的初始值開始，可能會找出幾個不同的局部極小，如果該方法成功，那我們找出裏面最小的值作爲最佳極小值點，雖然從實際角度可以接受這樣的街，但是無法保證達到全局極小值，因此處於簡便，一般優化問題中的最小化f(x) 解釋爲找f(x) 的局部極小值。
對於某些特殊問題，也就是f(x),R 滿足一些凸的性質，f(x) 的任何局部極小也是f(x) 的全局極小。對這類問題可以保證最優解。
![這裏寫圖片描述]()
圖2
