原创 機器學習之數學系列(四)推導線性支持向量機SVM

  支持向量機(SVM)是一個二分類模型,它的學習思路是在特徵空間中尋找幾何間隔最大的分離超平面。對支持向量機的研究分成三類1.線性可分支持向量機 2.線性支持向量機 3.非線性支持向量機。本文主要推導線性支持向量機的相關公式,因

原创 文獻調研之如何查找文獻及源碼

  以前也瞭解過很多關於文獻查找的方法,但是總的來講給我的感覺是太泛了,不夠具體。鑑於此,我根據自己的文獻調研經歷,總結了幾種最容易上手的文獻查找方法,這裏以語音情感識別研究方向爲例,廢話不多說,開始!   對於文獻查找首先要確定

原创 python基礎(九)python中的global關鍵字

  python解釋器查找變量時遵循‘legb’原則即:1.先在local即局部作用域中查找變量聲明和值,如果沒有找到;2則在函數的closure屬性中查找變量(只有閉包函數要考慮)即enclosing,如果還沒有找到;3則在全局

原创 python基礎(一)python中的None與Null的區別

None   如下圖所示,None表示沒有,它是NoneType類的對象,你可以把它看成是一個具體的值。正因它是一個具體的值,所以它可以用來初始化變量,可以作爲很多函數在某些異常輸入下的返回值,可以在tensorflow的p

原创 機器學習實踐(一):用KNN進行磁盤故障預測

問題:磁盤故障預測(Disk Failure Prediction) (一)背景和說明   在大規模IDCS和雲計算環境中,各種磁盤故障是罕見但昂貴的事情。因此,爲了節約成本,HDD供應商非常積極的去降低故障率。幸運的是,我們有S

原创 機器學習之數學系列(二)梯度下降法(參數更新公式的由來)

一、引言 下山問題   如下圖所示,假設我們位於黃山的某個山腰處,山勢連綿不絕,不知道怎麼下山。於是決定走一步算一步,也就是每次選個方向往山下走一步,這樣一步一步走下去,一直走到覺得我們已經到了山腳。問題是當我以一定的步長下坡時,

原创 機器學習之數學系列(三)邏輯迴歸反向傳播梯度計算公式推導

一、簡介   在深度學習領域,我們往往採用梯度下降(或上升)法來優化訓練函數模型,梯度下降法尤其是在解決凸優化問題上表現極佳。模型優化涉及到反向傳播過程,反向傳播過程需要先推導出梯度計算公式然後利用機器進行代數運算。這篇博文的工作

原创 python基礎(十)python中魔法方法以及雲算符的重載

(一)魔法方法即類中的特殊方法   Python 的對象天生擁有一些神奇的方法,它們總被雙下劃線所包圍,他們是面向對象的 Python 的一切。他們是可以給你的類增加魔力的特殊方法,如果你的對象實現(重載)了這些方法中的某一個,那

原创 二分類中的precision,recall,F1值計算(舉例)

  二分類中的混淆矩陣中有以下4種標記: 預測(列)/label(行) 正樣本 負樣本 正樣本 TP(真正例) FN(假反例) 負樣本 FP(假正例) TN(真反例)   TP(真正例) :將正樣本預測爲正樣

原创 windows下配置caffe(only CPU)並供python調用(非常詳細)

          windows下配置caffe(only CPU)並供python調用@buchidanhuanger 1. 準備工作 ·1)編譯工具:   VS2015,對應的配置信息是MSVC_VERSION=14,裝好V

原创 Keras學習筆記(二)Keras實現自定義層

  Keras是一個高度封裝的庫,它的優點是可以進行快速的建模,缺點是它不處理底層運算,如張量內積等。爲了彌補這個問題,Keras提供“後端引擎”來實現底層運算操作。目前Keras支持的後端引擎有tensorflow,CNTK,T

原创 python基礎(七)python調試方法

python調試的常用方法有: 1.print簡單粗暴打印,缺點是編碼完成後需要註釋或刪除掉否則會有大量垃圾信息 2.assert斷言,缺點是不美觀 3.logging日誌,推薦方法。這不僅可以在前期編碼過程中進行調試還可以用在上

原创 深度學習中的歸一化方法總結(BN、LN、IN、GN)

  一般在神經網絡中會用到數據的歸一化,比如在卷積層後進行歸一化然後再下采樣然後再激活等。目前比較受歡迎的數據歸一化層有:BN(BatchNormalization),LN(LayerNormalization),IN(Insta

原创 Keras學習筆記(三)不利用padding方式解決可變長序列問題

  在處理序列數據時,由於我們需要進行批量處理,所以我們要保證每個序列樣本都有相同的序列長度。一般文獻中給出的方法是padding:即先確定一個序列長度,然後將每個樣本都固定到這個長度上,如果原始序列是長於這個值就截斷;如果原始序

原创 python基礎(六)python與外部(控制檯)間的交互

1. sys.argv · 應用場景:   當我們在控制檯使用python解釋器運行python程序時,我們需要用戶在控制檯給程序傳遞數據。sys.argv屬性返回的是控制檯參數列表,列表的第一個值是運行文件的相對路徑(相對於當前