原创 神經網絡(四)-vanishing gradient problem

在前面的章節中,我們已經瞭解了神經網絡的基本模型,以及如何使用梯度下降法來學習優化神經網絡的參數。在前面的數字識別的例子中,我們可以設計不同的神經網絡結構,當然得到的識別率也是有區別的,比如除了輸入層(784個神經元)和輸出層(1

原创 支持向量機(SVM)

(本文介紹什麼是SVM,SVM推導公式等。所有內容來自Anrew Ng教程) SVM(support vector machine)是一種二分類模型,其基本模型定義是期望特徵空間上分類間隔最大的線性分類器。 1.1 SVM起源-函

原创 SFIT特徵(四)

在上一章節中,我們知道,對於每個穩定檢測的關鍵點,我們賦予其三個信息:座標位置、尺度(哪一組哪一層)以及主方向(統計鄰域像素點的梯度方向和大小計算直方圖而來)。接下來,我們需要爲每個關鍵點建立一個128維度的描述符。 6.1採樣區

原创 邏輯迴歸(Logistic Regression)

(本章節介紹邏輯迴歸模型及如何使用似然函數推導最優參數,並在最後介紹什麼是最大似然算法;下一章節將介紹如何使用牛頓法求解參數及代碼展示) 邏輯回歸屬於分類問題中的一種,與線性迴歸問題不同的是,邏輯迴歸的輸出是有限個離散值,而線性迴

原创 SIFT特徵(三)

上一章節中,我們探討了如何檢測尺度空間上的極值點,以及如何排除掉不穩定的極值點。爲了使得SIFT具有旋轉不變性,我們需要利用關鍵點的鄰域信息爲每一個關鍵點分配一個方向,使得其具有局部結構的穩定方向。 5.關鍵點方向賦值 5.1

原创 SVM-核函數

1.1 SVM非線性可分-核函數 在上一章節中,我們首先假設數據在原始空間上是線性可分的,在這樣的前提條件下,我們知道如何求解最大間隔分類器f(x)=wTx+b=∑mi=1αiy(i)<x(i),x>+b 。但實際上,大多數情況

原创 邏輯迴歸(Logistic Regression)-牛頓法求解參數

在上一章節中,我們介紹了什麼是邏輯迴歸,以及如何基於最大似然的思想使用梯度下降法求解邏輯迴歸參數θ 。在本章節中,將介紹使用另一種方法,牛頓法求解邏輯迴歸參數,並給出代碼演示。 1.1牛頓法求解方程根 考慮牛頓法在求解方程f(θ

原创 直角座標系下點繞點旋轉的座標計算

直角座標系下一點(x0,y0) 繞某一點(x,y) 逆時針旋轉角度 θ 後的座標(x1,y1) 的座標計算公式爲 x1=(x0−x)cos(θ)−(y0−y)sin(θ)+x y1=(x0−x)sin(θ)+(y0−y)

原创 SIFT特徵(一)

1. SIFT特徵簡介 SIFT(Scale Invariant Feature Transform,尺度不變特徵變換)是一種檢測圖像局部特徵的方法,1999年由哥倫比亞大學教授David Lowe提出,此後計算機視覺的世界幾乎

原创 SIFT特徵(五)

經過前面四個章節的介紹,我們已經知道了如何從一幅圖像中提取穩定的SIFT特徵。接下來,我們將針對OpenCV中提供的FeatureDetector函數來說明具體如何實現SIFT特徵檢測,以及如何使用檢測到的SIFT特徵點進行目標識

原创 神經網絡(一)

這一小章節將主要介紹神經網絡的主要模型以及神經網絡參數優化算法,在下一章節將結合代碼進行解析說明。文章所有內容來源於http://neuralnetworksanddeeplearning.com/index.html 個人感覺是對神經網

原创 判別模型(Discriminative model)和生成模型(Generative model)

在前面的章節中,我們介紹過SVM、邏輯迴歸,這兩者都屬於監督學習中的一種,即訓練數據的標籤是給定的,我們希望通過對訓練數據進行學習,這樣對於給定的新樣本數據,我們可以對它的類別標籤進行預測。實際上,監督學習又可以分爲兩類,判別模型(Dis

原创 仿射變換&透視變換

圖像處理中主要涉及兩種幾何變換:仿射變換和透視變換。 Sec1. 仿射變換 仿射變換描述二維座標下的變換操作,主要包括:平移(Translation)、旋轉(Rotation)、縮放(Scale)、翻轉(Flip)、錯切(Shear)幾

原创 ubuntu14.04安裝Theano

轉自:http://blog.csdn.net/xuezhisdc/article/details/47065475 環境 操作系統:ubuntu14.04 Python:2.7.6 需要聯網 相關庫簡介 BLAS(Basic Li

原创 Spatial Filters

圖像濾波器可以分爲線性濾波器和非線性濾波器。線性濾波器中主要涉及的是低通濾波器和高通濾波器。低通濾波器(又稱爲平滑濾波器)是保留圖像的主要信息,部分細節信息被捨棄,而高通濾波器則相反,用來提取圖像的邊緣等細節信息。 1.低通濾波器(low