拉格朗日乘子法如何理解

拉格朗日乘子法如何理解？

拉格朗日乘數法（Lagrange multiplier）有很直觀的幾何意義。舉個2維的例子來說明：假設有自變量x和y，給定約束條件g(x,y)=c，要求f(x,y)在約束g下的極值。我們可以畫出f的等高線圖，如下圖。此時，約束g=c由於只有一個自由度，因此也是圖中的一條曲線（紅色曲線所示）。顯然地，當約束曲線g=c與某一條等高線f=d1相切時，函數f取得極值。兩曲線相切等價於兩曲線在切點處擁有共線的法向量。因此可得函數f(x,y)與g(x,y)在切點處的梯度（gradient）成正比。於是我們便可以列出方程組求解切點的座標(x,y)，進而得到函數f的極值。