帶有動量的梯度下降的優勢

普通的梯度下降算法在尋找最優解的過程中會醬紫:


可以看到是存在不斷抖動的

使用了帶動量的梯度下降,由於梯度的計算使用了指數加權平均方法,使得本次梯度的計算和之前是有關聯的,這樣就能抵消比如梯度在上下襬動的這種狀況,而真正的下降方向(朝右邊走)卻能很好保持,這樣使得收斂優化變得更快

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章