牛頓法可以用來解決兩種問題，其實本質上也是一種問題，就是方程求根，只不過一個是求f(x)=0的根，一個是求f(x)的導數=0的根
1. 無約束函數f(x) = 0的根
有兩種方式可以解釋一下牛頓法
切線法
這種方式就是不斷的求點的切線，如果初始點是(x1, f(x1))，求得這個點的切線和x軸的交點(x2, 0)，對應到曲線上的值爲(x2, f(x2))，然後再求這個點的切線，一次類推，直到達到要求
我們看一下這個遞推公式，x1, x2的關係如下
由此可以得到遞推公式爲
這個就是牛頓法的迭代公式
泰勒公式法
利用泰勒公式的一階展開
求解f(x)=0就是方程的解，應爲泰勒公式的一階展開只是近似相等，並不完全相等，而且在dx很小的情況下是近似的，所以我們說f(x)=0使得
並不是找到了解，而是在一步步的逼近最優解，所以迭代的想法也就產生了，也得到了上面的迭代公式
2. 無約束函數f(x)的極值點
這裏我們要求f(x)的極值點，其實就是在求f'(x)=0的點，可以跟上面類比，只不過上面的迭代公式中f(xn)變爲f'(xn)，f'(xn)變爲f‘’(xn)，這是一種理解方式
我們還可以根據泰勒公式的二階展開來求解
