原创 4-1 K近鄰算法基礎

目錄 1. K近鄰的python實現 2. 使用scikit-learn中的KNN 3. 判斷機器學習算法的性能 測試我們的算法 劃分出測試集對模型效果進行評估 用sklearn中的train_test_split進行訓練集和數據集的劃分

原创 第一個只出現一次的字符

題目描述 在一個字符串(0<=字符串長度<=10000,全部由字母組成)中找到第一個只出現一次的字符,並返回它的位置, 如果沒有則返回 -1(需要區分大小寫). 解題思路 重點是怎樣在遍歷一遍字符串之後記錄下各個字符出現的次數。 可以用m

原创 把數組排成最小的數

題目描述 輸入一個正整數數組,把數組裏所有數字拼接起來排成一個數,打印能拼接出的所有數字中最小的一個。例如輸入數組{3,32,321},則打印出這三個數字能排成的最小數字爲321323。 解題思路 (1) 先將數組轉換成字符串(拼接會帶來

原创 醜數

題目描述 把只包含質因子2、3和5的數稱作醜數(Ugly Number)。例如6、8都是醜數,但14不是,因爲它包含質因子7。 習慣上我們把1當做是第一個醜數。求按從小到大的順序的第N個醜數。 解題思路 通俗易懂的解釋: 首先從醜數的定義

原创 加速技巧---Conv BN的融合

 網絡完成訓練後,在inference階段,爲了加速運算,通常將卷積層和BN層進行融合: 卷積層: BN層: 融合兩層: 將Conv層的公式帶入到BN層的公式 融合後相當於: 【tips:inference階段,E[x]爲滑動均

原创 ROC曲線和PR曲線

一 ROC曲線 1. 什麼是ROC曲線? 2. 曲線的性質 3. ROC曲線的繪製: 4. ROC曲線的優點 5. ROC曲線的缺點 6. AUC值 二 PR曲線 1. 什麼是PR曲線 2. PR曲線的繪製 三 ROC曲線和PR曲線的適用

原创 連續子數組的最大和

題目描述 HZ偶爾會拿些專業問題來忽悠那些非計算機專業的同學。今天測試組開完會後,他又發話了:在古老的一維模式識別中,常常需要計算連續子向量的最大和,當向量全爲正數的時候,問題很好解決。但是,如果向量中包含負數,是否應該包含某個負數,並期

原创 偏差、方差、噪聲、泛化誤差以及過擬合和欠擬合之間的關係

0. 期望預測 首先定義: 在一個訓練集D上的模型, 對於測試樣本x的預測值爲 在不同訓練集D上訓練出的模型, 對同一個測試樣本x的預測值取期望,  即期望預測---   偏差\方差\噪聲都是針對測試樣本來計算的 即,將一個測試樣本x輸

原创 如何解決過擬合和欠擬合

欠擬合 集成學習 增加模型的迭代次數 增加模型複雜程度(如神經網絡增加層數,決策樹加深等) 更換表達能力更強的模型 生成更多的特徵供訓練使用 降低正則化程度 過擬合 使用正則化項,降低模型的複雜度 增加訓練集 減少訓練使用的特徵數量  

原创 矩陣和線性變換

                  什麼是線性空間? 什麼是線性變換? 什麼是線性組合? 什麼是線性相關? 什麼是基底? 基變換和座標變換? 經過線性變換之後新座標的計算方式? 線性其實就是指滿足加法和數乘兩種運算 矩陣可以看成是一種對於

原创 算數平均數\幾何平均數\調和平均數

1. 算術平均數:   2. 平方平均數:   3. 幾何平均數:   4. 調和平均數:   注意: 算術平均數、調和平均數、幾何平均數是三種不同形式的平均數,分別有各自的應用條件。進行統計研究時,適宜採用算術平均數時就不能用調和平均數

原创 數組中出現次數超過一半的數字

題目描述 數組中有一個數字出現的次數超過數組長度的一半,請找出這個數字。例如輸入一個長度爲9的數組{1,2,3,2,2,2,5,4,2}。由於數字2在數組中出現了5次,超過數組長度的一半,因此輸出2。如果不存在則輸出0。 思路詳解 思路1

原创 優化器

目錄 1. 隨機梯度下降法 SGD 2. 基本動量法 梯度下降法的直觀理解? 爲什麼加入動量可以改善優化路線的曲折程度? 爲什麼動量法可以加快網絡的收斂? 公式 3.Nesterov動量法(Nesterov accelerated gra

原创 空間金字塔池化SPP

轉載自:http://blog.csdn.net/xzzppp/article/details/51377731 論文:Spatial Pyramid Pooling in Deep Convolutional Networks for

原创 DNN的反向傳播

1. DNN反向傳播圖解 轉載自:https://www.cnblogs.com/MatrixPlayer/p/7661232.html   其實反向傳播算法從公式上來看,損失C對W的權重有兩部分, 1)激活函數Z對