原创 DeepCache: Principled Cache for Mobile Deep Vision (MobiCom2018)

  URL: https://dl.acm.org/doi/abs/10.1145/3241539.3241563   TL;DR DeepCache提出一種CNN在視頻處理時中間feature region重用的方法。將輸入幀內容作爲

原创 A Main/Subsidiary Network Framework for Simplifying Binary Neural Networks_CVPR19

URL: http://openaccess.thecvf.com/content_CVPR_2019/html/Xu_A_MainSubsidiary_Network_Framework_for_Simplifying_Binary_N

原创 Pytorch多卡訓練踩坑記錄——inputs on different devices

pytorch中設置多卡訓練時,操作比較簡便,只要定義了模型,然後加上如下一行指令就可以。 model = nn.DataParallel(model).cuda() 但是,在pytorch中進行多卡訓練還是會遇到一些其他的問題。執行的

原创 Rethinking the Value of Network Pruning_ICLR2019

近期本小白在公司實習,組內有寫paper reading的優良傳統,一來自己總結,二來便於大家交流。感覺這個習慣非常好,於是乎想了想幹脆同步發到自己博客上來,便於以後自己整理。   URL: https://arxiv.org/abs/1

原创 Python列表中append函數和extend函數的區別

近期在寫dataloader函數時,由於錯用了extend和append,導致後面出現了bug。後面發現問題後,便將該問題記錄下來防止重複出錯。 兩個函數從功能上來看非常類似,但處理後的結果卻完全不同,使用時需要特別注意。 尤其是對多個的

原创 解決ubuntu系統主用戶密碼丟失問題

近期實驗室服務器上主用戶密碼因故丟失,因擔心是被人惡搞或惡意更改密碼,遂開始了一頓“猛如虎”的操作。中間走了很多彎路,最終發現簡單兩步操作就可以搞定。 方法一:若部分用戶擁有sudo權限,則可以直接運行以下命令進行解決 sudo su

原创 Filter Pruning via Geometric Median for Deep Convolutional Neural Networks Acceleration_CVPR19

CVPR2019 oral URL: http://openaccess.thecvf.com/content_CVPR_2019/html/He_Filter_Pruning_via_Geometric_Median_for_Deep_

原创 Git分支管理——學習筆記整理

1. Git分支管理常用命令: 查看分支:git branch 創建分支:git branch <name> 切換分支:git checkout <name> 創建+切換分支:git checkout -b <name> 合併某分支到當前

原创 損失函數 - Cross Entropy Loss(交叉熵損失函數)

今天看到一篇寫的不錯的關於交叉熵損失的講解,感覺算法的各個步驟講的很詳細清晰,遂在博客中記錄一下。 交叉熵損失函數經常用於分類問題中,特別是在神經網絡做分類問題時,也經常使用交叉熵作爲損失函數,此外,由於交叉熵涉及到計算每個類別的概率,所

原创 【Pytorch】利用預訓練模型初始化backbone時的常見問題及方案

在訓練模型時,我們常常需要利用預訓練的baseline模型對所設計網絡的backbone或部分layer進行初始化,給網絡訓練提供一個較好的起點,同時減少訓練的時間成本。比較常見的就是利用imagenet上訓練好的標準網絡來初始化新網絡的

原创 Pytorch踩坑記錄——model.eval()

    最近在寫代碼時遇到一個問題,原本訓練好的模型,加載進來進行inference準確率直接掉了5個點,尼瑪,這簡直不能忍啊~本菜雞下意識地感知到我肯定又在哪裏寫了bug了~~~於是開始到處排查,從model load到data loa

原创 Python列表中append和extend區別

原文鏈接:https://blog.csdn.net/lz0499/article/details/80783130 近期在寫dataloader函數時,由於錯用了extend和append,導

原创 ENAS: 更有效地設計神經網絡模型(AutoML)

  URL: https://zhuanlan.zhihu.com/p/35339663

原创 RePr: Improved Training of Convolutional Filters_CVPR2019

  URL: https://arxiv.org/abs/1811.07275 TL;DR 卷積產生的特徵中存在不必要的重疊導致網絡冗餘,因此現有的模型修剪方法可以修剪掉大量的卷積濾波器而幾乎不影響模型的準確率。因此,作者認爲這是傳統訓練

原创 Tmux安裝與使用

一、Tmux安裝 sudo apt-get install tmux 二、Tmux環境變量配置 完成安裝以後,可以進行環境變量的配置。 打開 ~/.tmux.conf ,添加如下代碼:  (以下是某博主使用 Tmux 幾年來逐漸精簡後的