機器學習中的常用超參數

steps:訓練迭代的總次數。一步計算一批樣本產生的損失,然後使用該值修改一次模型的權重。
batch size:單步的樣本數量(隨機選擇)。例如,SGD 的批次大小爲 1。
以下公式成立:
在這裏插入圖片描述

periods:控制報告的粒度。例如,如果 periods 設爲 7 且 steps 設爲 70,則練習將每 10 步輸出一次損失值(即 7 次)。與超參數不同,我們不希望您修改 periods 的值。請注意,修改 periods 不會更改模型所學習的規律。
以下公式成立:在這裏插入圖片描述

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章