原创 機器學習筆記(2)——感知機

Perceptron(感知機) 感知機是二分類的線性分類器,屬於判別模型。由Rosenblatt在1957年提出,是神經網絡和支持向量機(SVM)的基礎。感知機本身相當於神經網絡中的一個神經元,只能進行簡單的線性分類。感知機的學習

原创 機器學習(7)——支持向量機(二):線性可分支持向量機到非線性支持向量機

線性可分支持向量機 回顧 前面總結了線性可分支持向量機,知道了支持向量機的最終目的就是通過“間隔最大化” 得到最優分類器,能夠使最難區分的樣本點得到最大的分類確信度,而這些難區分的樣本就是支持向量。 還是如下圖所示,超平面H1 和 H

原创 一文讀懂機器學習,大數據/自然語言處理/算法全有了……

本文摘自微信程序員平臺,是看到的機器學習入門的不錯資料,原文連接已不可知,在此就不添加了。 一文讀懂機器學習,大數據/自然語言處理/算法全有了…… 2015-01-06計算機的潛意識 數盟 【數盟倡導“數據創造價值”,致力於打造最卓

原创 機器學習筆記(4)——樸素貝葉斯

Naive Bayes 樸素貝葉斯網絡是貝葉斯分類器的一種,貝葉斯分類算法是統計學的一種分類方法,利用概率論和統計知識進行分類。其原理是利用貝葉斯公式根據樣本的先驗概率來計算其後驗概率(即樣本屬於某一類的概率),然後選擇具有最大後驗概率的

原创 機器學習(7)——支持向量機(三):線性支持向量機和軟間隔最大化

前兩章討論支持向量機時,假設了數據最終是能完全被分開,即數據在原始特徵空間或映射到高維特徵空間之後能夠完全正確分類。但是,這樣絕對的分類存在一個明顯的問題,如果模型中存在異常點,即使高維映射之後,能夠完全正確分類,也可能導致模型複雜度過高

原创 機器學習(5)——決策樹(上)原理

Decision tree 決策樹是機器學習中一種基本的分類和迴歸算法,是依託於策略抉擇而建立起來的樹。其主要優點是模型具有可讀性,分類速度快,易於理解。決策樹的思想主要來源於Quinlan在1986年提出的ID3算法和1993年提出的C

原创 機器學習(7)——支持向量機(一):從感知機到線性可分支持向量機

前言 支持向量機(support vector machine)本來是最早接觸的機器學習算法,最初自己寫的的機器視覺論文也用到了SVM,但和神經網絡一樣,一直覺得它是比較複雜的機器學習方法,需要深入的學習和研究。因此先是系統推導了李航的《

原创 機器學習(6)——從線性迴歸到邏輯斯特迴歸

Linear Regression 在學習李航《統計學習方法》的邏輯斯特迴歸時,正好coursera上相應的線性迴歸和邏輯斯特迴歸都學習完成,在此就一起進行總結,其中圖片多來自coursera課程上。 線性迴歸是機器學習中很好理解的一種

原创 機器學習筆記(3)——K近鄰法

K-nearest neighbor(KNN) k 近鄰法一種基本的分類與迴歸方法,原理和實現都比較直觀。其輸入爲樣本的特徵向量,輸出爲樣本的類別,可以進行多類別分類。k近鄰法是通過統計與未知樣本最近點的訓練樣本的類別來投票決定未知樣本的

原创 Python基礎介紹

最初是在coursera上看的Python講課,後來在看Stanford Fei-fei Li的卷積神經網絡時看到Python Numpy教程,覺得簡潔明瞭,就當筆記記錄下來了。本處主要介紹以下幾個方面: Python 1、基本數據類

原创 成爲深度學習專家的七個步驟

PS:早上看到的一篇不錯的原文,因爲自己也正在進行這些學習研究,一路走來,覺得總結不錯。本想要翻譯出來的,發現有人這麼做了,就直接轉過來,一方面是給自己更多資源,另一方面是希望分享給更多的人。 原文作者:Ankit Agarwal

原创 視覺顯著性發展與現狀——本科畢業設計總結

視覺顯著性發展與現狀(一)                                                      ——大四顯著性研究總結 一、Koch與Ullman的早期研究工作(1985) 實驗室:http://w

原创 機器學習(5)——決策樹(下)算法實現

Decision tree 在機器學習(5)——決策樹(上)原理中介紹了決策樹的生成和剪枝原理。介紹了CART,ID3,C4.5等算法的算法流程,其中CART算法可以實現迴歸和分類,是基於基尼不純度實現的,這裏並未實現。這裏主要實現了ID

原创 創建基於opencv庫的MFC多文檔圖像處理框架

一、學習參考文件 1、《學習OpenCV》參考書,用OpenCV對圖像進行基本的打開,保存等處理。 2、《MFC多文檔中OpenCV處理圖像打開和保存》,http://blog.csdn.net/abcjennifer/article/d

原创 Ubuntu16.04+matlab2014a+anaconda2+OpenCV3.1+caffe安裝

本次安裝caffe是在新的筆記本上,感覺與之前在臺式機上的安裝還是有一定的區別。加之是在新的ubuntu16.04系統上安裝的,可參考教程較少。而且其中添加了不少庫,修改的一些錯誤,難免會有遺漏。如果發現本文未提及錯誤,歡迎一起討論學習。