深度學習理論——感受野的計算&防過擬合總結

大家好,繼續理論學習,今天是總結的一天,沒有推導!開心!

1.感受野

感受野簡單來說就是最後輸出的一個像素映射到原圖包含了原圖多少像素的信息。

有一個簡單的公式可以從top到down的推算出感受野!

感受野 = (後一層感受野 - 1) * stride +kenel_size

其中,stride爲卷積步長,kenel_size爲卷積核尺寸。

2.防過擬合總結

(1)正則化——減少網絡複雜度

(2)池化——關注特徵存不存在而不是特徵的具體位置,給特徵檢測增加了自由度

(3)dropout——網絡節點隨機失活,增加靈活性

(4)集成學習——綜合多個網絡的學習結果,減少數據對某一網絡的依賴

(5)早停——分訓練集和驗證集,關注驗證集上的檢測精度,如果變大就停止訓練


後面想到會再補充的,我們下期見!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章