轉載自https://blog.csdn.net/u010106759/article/details/50380442
線性迴歸中代價函數爲:
J=12m∑i=1m(hθ(x(i))−y(i))2
開始爲何是除以2m,第一反應不應該除以m麼?在吳恩達機器學習視頻公開課上講解是爲了其他數學計算的方便。其實這裏無論除以2m還是m,代價函數最優化的結果θ 都是相同的。
數學計算的方便:之後利用梯度下降法對J求導,如果是2m,求導結果爲:∂J∂θi=1m∑i=1m(hθ(x(i))−y(i))∂hθ(x(i))∂θ,這裏正好除以m,便於計算。