原创 【Deep Learning 】深度模型中的優化問題(七)之 Adam(自適應算法3)

本文是Deep Learning 之 最優化方法系列文章的 Adam(自適應算法3)方法。主要參考Deep Learning 一書。 以下節選自個人深度學習筆記。 內容整合來源於網絡與個人理解。     Adam(自適應矩估計) 口Ad

原创 【Deep Learning 】深度模型中的優化問題(五)AdaGrad(自適應算法1)

本文是Deep Learning 之 最優化方法系列文章的AdaGrad方法(自適應算法1)。主要參考Deep Learning 一書。   以下節選自個人深度學習筆記。 內容整合來源於網絡與個人理解。   Adagrad 口 應該爲不同

原创 【Deep Learning 】深度模型中的優化問題(三)Nesterov Momentum(牛頓動量)

本文是Deep Learning 之 最優化方法系列文章的Nesterov Momentum(牛頓動量) 方法。主要參考Deep Learning 一書。 以下節選自個人深度學習筆記。 內容整合來源於網絡與個人理解。 Nesterov M

原创 【Deep Learning 】深度模型中的優化問題(二)Momentum(動量)

本文是Deep Learning 之 最優化方法系列文章的Momentum(動量)方法。主要參考Deep Learning 一書。 以下節選自個人深度學習筆記。 內容整合來源於網絡與個人理解。  Momentum ( 動量) 上圖

原创 【Deep Learning 】深度模型中的優化問題(四)之如何逃離(跳出)鞍點(Saddle Points)

局部最優和鞍點   造成神經網絡難以優化的一個重要(乃至主要)原因不是高維優化問題中有很多局部極值,而是存在大量鞍點。   吳恩達視頻中講的,雖然沒有理論的證明,局部最小值就是全局最小值,但是很多實際的經驗告訴我們,最後,只能收斂到一個最

原创 【Deep Learning 】深度模型中的優化問題(一)SGD

本文是Deep Learning 之 最優化方法系列文章的SGD方法。主要參考Deep Learning 一書。 以下節選自個人深度學習筆記。 內容整合來源於網絡與個人理解。 先來看一下學習步長: 口 學習步長的設置是個難題:若學習步

原创 Opencv學習筆記(六)SURF學習筆記

原創文章,轉載請註明出處:http://blog.csdn.net/crzy_sparrow/article/details/7392345 本人挺菜的,肯定有很多錯誤紕漏之處 ,希望大家不吝指正。      看了harris角點

原创 圖像處理之特徵提取之HOG特徵簡單梳理

  HOG 方向梯度直方圖,這裏分解爲方向梯度與直方圖。 一、方向梯度 梯度:在向量微積分中,標量場的梯度是一個向量場。標量場中某一點上的梯度指向標量場增長最快的方向,梯度的長度是這個最大的變化率。更嚴格的說,從歐幾里得空間R

原创 DPM(Defomable Parts Model)--原理(一)

DPM(Deformable Parts Model) Reference: Object detection with discriminatively trained partbased models. IEEE Trans.

原创 圖割小結

不規範定義 : 一個數據結構所謂的圖中有點,點之間有邊,邊上有權值. 一個"特殊的圖",有兩個特殊的點,一爲源點,取源頭之意,一爲匯點,取匯聚之意. 一個"特殊的圖"的劃分稱之爲割,割是邊的集合.劃分出兩部分,一含源點,一含匯點,兩部

原创 學習OpenCV——KeyPoint Matching 優化方式

今天讀Mastering OpenCV with Practical Computer Vision Projects 中的第三章裏面講到了幾種特徵點匹配的優化方式,在此記錄。 在圖像特徵點檢測完成後(特徵點檢測參考:學習Open

原创 SIFT算法系列之尺度空間

尺度空間定義   說到尺度空間理論最早可以追溯到1962年的T.Iijima最先提出,學術界開始關注尺度空間技術主要在1986年IEEE PAMI上同時刊出的4篇關於尺度空間理論的文章奠定了發展基礎。現實世界中物體只有具備一定的尺度才

原创 【OpenCV】SIFT原理與源碼分析:關鍵點描述

《SIFT原理與源碼分析》系列文章索引:http://blog.csdn.net/xiaowei_cqu/article/details/8069548由前一篇《方向賦值》,爲找到的關鍵點即SIFT特徵點賦了值,包含位置、尺度和方

原创 多尺度空間概念

1.圖像的尺度 這裏圖像的尺度並非指圖像的大小,而是指圖像的模糊程度(σ) ,例如,人近距離看一個物體和遠距離看一個物體模糊程度是不一樣的,從近距離到遠距離圖像越來越模糊的過程,也是圖像的尺度越來越大的過程。 2.尺度空間的作用

原创 多尺度與多分辨率的理解

我一開始以爲  多尺度與多分辨率  是一樣的意思。後來看到了xiaowei_cqu博客的一篇文章“【OpenCV】SIFT原理與源碼分析:DoG尺度空間構造”(以下簡稱,xiaowei一文),才發現我的理解有誤。 尺度空間(s