loss是訓練集的損失值,val_loss是測試集的損失值
以下是loss與val_loss的變化反映出訓練走向的規律總結:
train loss 不斷下降,test loss不斷下降,說明網絡仍在學習;(最好的)
train loss 不斷下降,test loss趨於不變,說明網絡過擬合;(max pool或者正則化)
train loss 趨於不變,test loss不斷下降,說明數據集100%有問題;(檢查dataset)
train loss 趨於不變,test loss趨於不變,說明學習遇到瓶頸,需要減小學習率或批量數目;(減少學習率)
train loss 不斷上升,test loss不斷上升,說明網絡結構設計不當,訓練超參數設置不當,數據集經過清洗等問題。(最不好的情況)