【模型訓練-loss】模型訓練過程中train, test loss的關係及原因

網上查找了一些資料，避免忘記了，做個筆記供以後參考

train loss 不斷下降，test loss不斷下降，說明網絡仍在學習;

train loss 不斷下降，test loss趨於不變，說明網絡過擬合;

train loss 趨於不變，test loss不斷下降，說明數據集100%有問題;

train loss 趨於不變，test loss趨於不變，說明學習遇到瓶頸，需要減小學習率或批量數目;

train loss 不斷上升，test loss不斷上升，說明網絡結構設計不當，訓練超參數設置不當，數據集經過清洗等問題。