caffe訓練提示:Restarting data prefetching from start

在這裏插入圖片描述最近一直調caffemodel,發現這個提示時有時沒有,決定探究下。

這個問題直接翻譯就是從開始重新啓動數據預取,如果假定每個數據都有序號的話,也就是將重新從0開始讀取數據了。

發現這個問題和許多方面有關,不是簡單的調整一個參數就解決的。其分別與數據集大小/batch size大小/solver文件參數設置等均有關係。

會遇到該問題的幾種場景:

  1. batch size很大,大於數據集大小,即所有數據不夠於bn讀取一次數據用的,這樣每次讀取訓練時都會出現;解決一般調小batch size
  2. 另一種碰見的就是,就是與solver文件中設定的display及average_loss的大小相關;這種情況下一般不會每次都顯示,將間隔顯示;

例如:
我的數據集一共1000個,設定的batch size爲1200時,會每次都出現該提示;
我的數據集爲1000個,設定bs爲50,當display定爲10,將完整一整個epoch以後,出現restarting,也就是兩次以後;當display爲15時,一個iteration爲750,當進行第二個時會出現restarting;當display大於等於20時,一個iteration後出現一次;

這個提示僅僅說明遍歷了一次訓練集的訓練輸入。

這個warning提示,不會對訓練結果產生影響,不影響穩步上升的accuracy,基本是沒問題的。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章