遷移學習
遷移學習這塊不是我理解得簡單得微調,微調這塊得內容也是很講究得,你凍結哪些參數,不凍結哪些參數都要進行指定
遷移學習的時候需要根據你的實際問題對網絡結構進行調整,簡單的模型只用調整最後的輸出就行,但是對於複雜一點的問題而言,
我們還需要根據問題修改中間的卷積等層,或者說我們只是取出來這幾個層的權重作爲初始化的操作,來幫助我們進行訓練,
而不是從隨機初始化的權重來進行訓練。
其實爲了方便,我們的對照組可以選擇vgg中的幾層,方便我們查看原始的孿生網絡結果有多差這樣。nice
參考資料
關於PyTorch源碼解讀之torchvision.models
cnblog,說的很詳細,帶你剖析網絡中的結構和參數
PyTorch-網絡的創建,預訓練模型的加載
微改模型,僅僅改變最後的全連接層
PyTorch預訓練,知乎
關於遷移學習的綜述
github 王晉東大佬