原创 OpenCV 的人臉detect及PCA匹配
好久沒寫東西了,一來考試周,二來一直在看deep learning的東西,整理好了一個presentation的ppt,但不是很適合發博客上 人臉識別在OpenCV裏面比較簡單(我沒想到這麼簡單……)直接調用cvHaarDetectOb
原创 【面向代碼】學習 Deep Learning(三)Convolution Neural Network(CNN)
========================================================================================== 最近一直在看Deep Learning,各類博客、論
原创 UFLDL練習(Sparse Autoencoder)
最近開始學習UFLDL,一個deep learning的教程 這個練習的地址:http://deeplearning.stanford.edu/wiki/index.php/Exercise:Sparse_Autoencoder Spar
原创 NLP 學習筆記 01
coursera上MichaelCollins的課程nlp開始了,在讀大部頭(mlapp)學習ML的過程中看看nlp也着實不錯,可以做一些實踐 這個課程老師語速很慢,講解思路十分清晰,推薦給大家。在學習中我可能
原创 二維機器學習測試數據生成
最近在看mlapp的第七八章,講的是線性迴歸和邏輯迴歸的內容 當然就難免寫點代碼來進行實驗,總喜歡自己做一些數據而不只是寫一個原函數再加上噪聲 畢竟自己點點點出來然後得到學習的直線比較有feel,所有就需要這樣一個東西: 一個座標系上點點
原创 NLP 學習筆記 04 (Machine Translation)
all is based on the open course nlp on coursera.org week 5,week 6 lecture -------------------------------------------
原创 決策樹--從原理到實現
================================================================================ 算算有相當一段時間沒寫blog了,主要是這學期作業比較多,而且我也沒怎麼學新
原创 採樣方法(一)
引子 最近開始拾起來看一些NLP相關的東西,特別是深度學習在NLP上的應用,發現採樣方法在很多模型中應用得很多,因爲訓練的時候如果預測目標是一個詞,直接的softmax計算量會根據單詞數量的增長而增長。恰好想到最開始深度學習在DBN的時候
原创 序列的算法(一·b)隱馬爾可夫模型
序言 ….. 本系列對算法的講解都會從兩篇部分予以呈現: a. 溼貨部分要淺入淺出,形象生動,讀得明白。 b. 乾貨部分要一文以蔽之,公式羅列,看得通透; 下面是(一)的 b 部分內容 Unigram Unigram模型認爲序列
原创 自動求導的二三事
知乎上看到一個回答,說是自己學習神經網絡的時候都是自己對公式求導,現在常見的DL庫都可以自動求導了。這個想必實現過神經網絡的同學都有體會,因爲神經網絡的back-propagation算法本質上就是求導鏈式法則的堆疊,所以學習這部分的時候
原创 NE(Network Embedding)論文小覽
NE(Network Embedding)論文小覽 自從word2vec橫空出世,似乎一切東西都在被embedding,今天我們要關注的這個領域是Network Embedding,也就是基於一個Graph,將節點或者邊投影到低維向量空間
原创 時間複雜度最小的最短路徑算法?由這個想到的
最近看書發現了一段很有意思的東西,好像是谷歌的工程師發表在谷歌黑板報裏的: 有一次,我笨得忘記了該如何在一個複雜的有向圖中找出兩點之間的最短路徑。身邊的一位工程師很鄭重地告訴我說:“你知道嗎?解決這個問題有兩種方法,聰明人
原创 採樣方法(二)MCMC相關算法介紹及代碼實現
0.引子 書接前文,在採樣方法(一)中我們講到了拒絕採樣、重要性採樣一系列的蒙特卡洛採樣方法,但這些方法在高維空間時都會遇到一些問題,因爲很難找到非常合適的可採樣Q分佈,同時保證採樣效率以及精準度。 本文將會介紹採樣方法中最重要的一族算
原创 SVM --從“原理”到實現
零. 本文所有代碼均能在我 github上的 DML 找到,順便求點Star 一.引入 從一開始接觸機器學習,就感覺SVM(支持向量機 Support Vector Machine)就是高端大氣上檔次的代名
原创 GBDT(Gradient Boosting Decision Tree) 沒有實現只有原理
阿彌陀佛,好久沒寫文章,實在是受不了了,特來填坑,最近實習了(ting)解(shuo)到(le)很多工業界常用的算法,諸如GBDT,CRF,topic model的一些算法等,也看了不少東西,有時間可以詳細寫一下,