- Gradient descent for linear regression
這裏我們將梯度下降算法應用到線性迴歸模型中,我們先回顧一下梯度下降算法以及線性迴歸模型:
然後我們將梯度下降算法中的斜率也就是偏導數展開:
多數情況下,線性迴歸模型代價函數的分佈形如凸面體,因此局部最小值也就相當於全局最小值:
下面是整個收斂以及參數確定過程:
- Gradient descent for linear regression
這裏我們將梯度下降算法應用到線性迴歸模型中,我們先回顧一下梯度下降算法以及線性迴歸模型:
然後我們將梯度下降算法中的斜率也就是偏導數展開:
多數情況下,線性迴歸模型代價函數的分佈形如凸面體,因此局部最小值也就相當於全局最小值:
下面是整個收斂以及參數確定過程: