Compressive Tracking之CompressiveSensing(壓縮感知理論)

一、壓縮感知理論概述

所謂壓縮感知理論,就是說:只要信號是可壓縮的或在某個變換域是稀疏的,或者滿足等距約束性(RIP),那麼就可以用一個與變換基不相關的觀測矩陣將變換所得高維信號投影到一個低維空間上,然後通過求解一個優化問題就可以從這些少量的投影中以高概率重構出原信號,可以證明這樣的投影包含了重構信號的足夠信息。

好處:相比於其他壓縮方法,能夠大大降低存儲空間和計算複雜度。

二、壓縮感知理論的歷史

壓縮感知理論依賴於L1技術,歷史上L1技術已經用於其他科學領域。在統計學上,最小二乘法是由L1規則化補充的,L1規則化由拉普拉斯提出。在統計學理論中,L1規則化被George W.Brown和後來的中值無偏估計的作者使用。也被Peter J. Huber和魯棒統計的作者使用。同時,也用於信號處理中,例如,在19世紀70年代,當地質學家在於數據構造地球反射層的時候,似乎並沒有滿足奈奎斯特定理,它還被用於1993年的匹配追蹤和1996年的LASSO估計器和1998的basis pursuit。有理論結果描述這些算法何時恢復稀疏,但是所需的類型和測量的數量是次優的,後來的壓縮感知大大的改善了L1.

乍一看,壓縮感測似乎違反了抽樣定理,因爲壓縮感測取決於所討論的信號的稀疏性,而不是其最高頻率。這是一個誤解,因爲抽樣定理在充分不必要的條件下保證完全重建。與傳統固定速率採樣基本不同的採樣方法不能“違反”採樣定理。與傳統的固定速率採樣相比,具有高頻分量的稀疏信號可以使用壓縮感測進行高度欠採樣。

三、壓縮感知的步驟

1、已知我們需要進行壓縮的信號X,是一個長度爲N的以爲序列,並且存在一個正交基Ψ,x=Ψs,並且信號X是K-壓縮的,即有K個非零信號。存在正交基使得信號在某個變換空間中是稀疏的,是壓縮感知的前提。這裏的K個非零量代表了信號X的絕大多數信息。

2、我們可以找到一個觀測基Φ,並且這個觀測基滿足與正交基不相關,這個觀測基是一個M×N的二維矩陣

3.我們根據Y=ΦX,可以得到信號Y,信號Y是一個長度爲M的信號,這裏K<M<<N,Y信號中包括了K個非零量,信號X中的信息大部分被保留了下來,這樣就做到了對信號進行壓縮降維。

4.Y=ΦX=ΦΨs=Θs,我們最後可以根據優化算法由s信號恢復到X信號。

注:

1.這裏比較經典的稀疏算法(稀疏基)有:DCT,FFT,DWT

2.RIP作用

爲了保證能夠從觀測值準確重構信號,其需要滿足一定的限制:觀測基矩陣與稀疏基矩陣的乘積滿足RIP性質(有限等距性質)。這個性質保證了觀測矩陣不會把兩個不同的K稀疏信號映射到同一個集合中(保證原空間到稀疏空間的一一映射關係),這就要求從觀測矩陣中抽取的每M個列向量構成的矩陣是非奇異的。RIP性質的等價條件是測量矩陣Φ和稀疏基Ψ不相關

3.X信號的恢復

解碼的最直接方法是通過l0範數(0-範數,也就是向量y?中非零元素的個數)下求解的最優化問題。因爲l0範數表示向量中所有非零元素的個數。由於難以求解,所以我們選擇l1最小范數來解決最優化問題(l1範數最優化問題的解是稀疏性的,傾向於選擇很少的非常大的值和很多的非常小的值)。L1範數最小化是通過用L1範數來近似0範數,取1而不取1/2,2/3或者其他值,是因爲1範數最小化是凸優化問題,可以將求解過程轉化成有一個線性規劃問題。L1最小范數下最優化問題又稱爲基追蹤(BP),其常用實現算法有:內點法和梯度投影法。內點法速度慢,但得到的結果十分準確:而梯度投影法速度快,但沒有內點法得到的結果準確 。

壓縮感知的重構算法有兩種:貪婪算法和凸優化算法







發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章