怎樣做纔是真正的finetune？

原創 往事如yan 2020-05-13 14:33

我們假設在Resnet101後面加上一個全連接層，然後我們鎖住前面Resnet的參數，不參加梯度更新，然後只更新最後一個全連接層的參數。當全連接層的loss足夠小的時候，再釋放所有的參數一起訓練。這樣Resnet的參數也會微微調整，這就是finetune；

 

遷移學習transfer learning與微調fineTune的區別？一看就懂 - 知乎

發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章

傳統高精度機器視覺與深度學習機器視覺如何結合？(佔坑)

往事如yan 2020-06-01 02:56:51

window10出現安裝cuda失敗原因

出現 博客 裏的錯誤, tensorflow-gpu訓練出現Couldnotcreatecudnnhandle:CUDNN_STATUS_NOT_INITIALIZED_aojue1109的博客-CSDN博客_couldnotcreate

往事如yan 2020-06-30 21:47:55

數據可視化~第2篇

  google tensorflow 關於 數據可視化做得很好的一個網站。 http://projector.tensorflow.org

往事如yan 2020-06-30 21:47:54

關於cv2 和PIL

盤點踩過的關於cv2 和PIL 圖像讀取的一些小坑_tanglion的博客-CSDN博客 https://blog.csdn.net/tanglion/article/details/93898101 PIL.Image與cv2讀取圖像時

往事如yan 2020-06-30 21:47:54

Git版本控制和個人一些總結

Git命令 1. 註冊Github賬號，讓Git 知道這臺電腦做的修改要連結到哪一個使用者 git config --global user.name "<Your Name>" git config --global user.

搬运工Lucas_USTC 2020-06-22 08:04:14

AI基礎：先驗概率、後驗概率

前幾天朋友問到貝葉斯公式，在給他講述時有些概念不容易從字面接受。這裏記錄並通俗解釋下 文章目錄解釋案例解釋貝葉斯公式 解釋 先驗概率：根據以往經驗和分析得到的概率，以因求果問題中因的概率。（個人理解：先，即事情未應驗前來估

maoyuanming0806 2020-06-11 19:29:17

深度學習做圖像識別，和傳統方式比有啥好處？

往事如yan 2020-06-01 02:56:51

經典網絡GoogLeNet(Inception V3)的搭建與實現(全網最佳版本)

往事如yan 2020-06-01 02:56:51

幾大深度學習框架對比

往事如yan 2020-06-01 02:56:51

神經網絡爲什麼可以（理論上）擬合任何函數？

往事如yan 2020-05-27 17:35:16

LIME技術個人總結和理解

方法： 干涉輸入，然後觀察預測結果會怎樣變化。 實驗表明這種做法在可解釋性上是有用的。 因爲我們可以通過改變人類可以理解的組件（比如單詞或圖像的一部分）來改變輸入，即使模型使用的是更加複雜的組件（比如詞向量）作爲輸入的特徵。 LIME 背

往事如yan 2020-06-30 21:47:55

深度學習訓練的過程意圖是親眼

往事如yan 2020-06-03 10:32:18

學習率的問題

往事如yan 2020-06-01 02:56:51

paddleX LIME可解釋性

往事如yan 2020-06-01 02:56:51

神經網絡中 warmup 策略爲什麼有效

往事如yan 2020-06-01 02:56:51