原创 深度學習：調參技巧
1. 梯度下降算法 隨機梯度下降 隨機梯度下降(SGD) 是一種簡單但又非常高效的方法，主要用於凸損失函數下線性分類器的判別式學習，例如(線性) 支持向量機 和 Logistic 迴歸 。 儘管 SGD 在機器學習社區已經存在了
2019-06-21 20:17:07
原创 深度學習之筆記本高溫預警大作戰
在這炎炎的夏日，當你寫好一個神經網絡準備躍躍欲試時。 看着一步一步的訓練，心裏充滿了欣慰。就在這時，筆記本突然發出高溫報警，風扇也在飛速的旋轉似乎要起飛了一樣。 這時，我突然想起前兩天同學的電腦因爲高溫把顯卡燒壞了。嚇得我趕緊
2019-06-12 05:02:02
3
原创 深度學習：選擇性搜索（Selective Search）
在目標檢測時，爲了定位到目標的具體位置，通常會把圖像分成許多子塊，然後把子塊作爲輸入，送到目標識別的模型中。分子塊的最直接方法叫滑動窗口法。滑動窗口的方法就是按照子塊的大小在整幅圖像上窮舉所有子圖像塊。 和滑動窗口法相對的是另外一類基
2019-05-14 14:17:48
53
原创 深度學習：卷積實現滑動窗口（Convolutional implementation of sliding windows）
一、FC網絡 在有全連接層的網絡中，第一個FC是將上一層5516的多維數據拉成一行，轉化爲11400，在通過一個變換矩陣，變成第二個FC，然後經過softmax輸出預測結果。 二、全卷積網絡 在全卷積網絡中，我們通過卷積替換掉全連接，
2019-04-10 19:35:27
7
原创 深度學習：遷移學習（Transfer learning)
深度學習中，最強大的理念之一就是遷移學習，有的時候神經網絡可以從一個任務中習得知識，並將這些知識應用到另一個獨立的任務中。 所以例如，也許你已經訓練好一個神經網絡，能夠識別像貓這樣的對象，然後使用那些知識，或者部分習得的知識去幫助您更
2019-04-09 19:37:18
1
原创 深度學習: 數據增強(Data Augmentation)
數據擴充（data augmentation），又名 數據增強 / 數據增廣。 在深度學習中，當數據量不大時可能會導致過擬合，使得訓練誤差很小，但測試誤差卻特別大。怎麼辦呢，你又沒錢買數據？顯然最好的辦法（之一，其他方法請參看“當數據
2019-04-09 19:37:18
144
原创 深度學習ResNet（殘差網絡）
ResNet在ILSVRC2015競賽中驚豔亮相，一下子將網絡深度提升到152層，將錯誤率降到了3.57，在圖像識別錯誤率和網絡深度方面，比往屆比賽有了非常大的提升，ResNet毫無懸念地奪得了ILSVRC2015的第一名。如下圖所示
2019-04-08 19:36:22
原创 深度學習Inception網絡
構建CNN時，你要決定卷積核的大小，是1x3合適，還是3x3合適，還是5x5合適？要不要添加pooling層？做這些決定（很可能是通過grid search）很麻煩，對吧？ Inception網絡的優點，就是能代替你做決定。 Ince
2019-04-08 19:36:22
原创 浙江工業大學計算機複試經驗
2019年的考研終於告一段落了，現在也開始忙着做畢業設計。今天準備寫寫博客，記錄一下自己考研階段的一些經歷。 選擇浙江工業大學是一件比較艱難的事，我知道每個考研的同學都希望自己能去一個211或985學校，但是考慮到自己的一些其他因
2019-04-02 19:34:37
原创 深度學習局部響應值歸一化（Local Response Normalization，LRN）
Local Response Normalization(LRN)技術主要是深度學習訓練時的一種提高準確度的技術方法。 LRN一般是在激活、池化函數後的一種方法。 在ALexNet中，提出了LRN層，對局部神經元的活動創建競爭機制，
2019-04-02 19:34:37
74
原创 logistic邏輯迴歸算法推導
邏輯迴歸：解決分類問題 在線性迴歸的基礎上，通過激活函數sigmod轉換爲0-1概率值大小。 損失函數 越靠近0,1，cost越大。 爲凸函數，可以通過梯度下降方法求得最小值。函數圖如下： 梯度下降法求最低值 函數求導
2019-03-10 03:15:10
原创 我的大學待續
馬上就要研究生複試了，回憶起以前自己做的項目似乎已經有些淡忘了。今天準備寫下自己過去所經歷過的實習、比賽等項目經歷。 2015年大一上 代碼恐懼 進入到計量大學的我，心裏充滿對學術的憧憬，想盡快能在某個領域學到一身技術。然而剛剛大
2019-03-06 17:05:43
原创 OJ中過不去的坑
曾經跟室友一起參加過許多次的OJ比賽，每次都感覺明明自己沒有錯，爲什麼最後OJ一直不通過。 以前練習的OJ平臺一直不給不通過的提示信息，今天我在小米OJ的練習題目中，終於找到了，那個讓我們曾經頭疼的原因。 int的取值範圍爲： -23
2019-02-28 00:06:33
原创 hibernate一對多映射配置
在客戶實體類中set 聯繫人的對象 //表示所有的聯繫人 private Set<LinkMan> setLinkMan = new HashSet<LinkMan>(); public Set<LinkMan> getSetLi
2019-02-28 00:06:33