keras中loss與val_loss的關係

loss是訓練集的損失值,val_loss是測試集的損失值

以下是loss與val_loss的變化反映出訓練走向的規律總結:

train loss 不斷下降,test loss不斷下降,說明網絡仍在學習;(最好的)

train loss 不斷下降,test loss趨於不變,說明網絡過擬合;(max pool或者正則化)

train loss 趨於不變,test loss不斷下降,說明數據集100%有問題;(檢查dataset)

train loss 趨於不變,test loss趨於不變,說明學習遇到瓶頸,需要減小學習率或批量數目;(減少學習率)

train loss 不斷上升,test loss不斷上升,說明網絡結構設計不當,訓練超參數設置不當,數據集經過清洗等問題。(最不好的情況)

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章