多維正態分佈與圖形識別

多維正態分佈與圖形識別

  • 對一維,二維,多維正態分佈的理解
  • 從圖形識別角度理解和應用正態分佈

目錄


寫在前面

  • 學無止境,最初只是想要寫一個對視頻流進行運動識別匹配的程序,然而匹配識別的算法精度不夠,於是開始學習線性代數,統計學裏的一些知識。這兩天又重新把正態分佈理解了一下。下文裏主要是對於正態分佈的直觀的想象和個人理解,請多指教。另外,因爲對於csdn博客插入數學公式還不太熟悉,用了LaTeX以後會在公式或者變量右邊出現一個“|”,還請不要在意。

從圖形識別的角度對正態分佈的理解

什麼是正態分佈?

一個彈珠從彈珠遊戲機(日本很流行的パチンコ)的頂端落下,並與設置好的障礙發生碰撞。那麼這個彈珠落下來的位置就是一個典型的一維正態分佈。 
正態分佈,也叫高斯分佈,是用來表示一個服從正態分佈的隨機變量的概率分佈。而服從正態分佈的條件就是,該變量周圍存在大量作用因素,但作用因素的影響都很小,那麼視這個變量服從正態分佈。具體數學上的定義和限制條件先放過不提。

一維正態分佈下的識別與匹配

這裏寫圖片描述

若有一組符合正態分佈的數據D₁,其平均值是μ,其標準差是σ,那麼對這組數據就可以用一維正態分佈的公式進行擬合,計算的結果就是這組數據的概率分佈函數。此時再有一個數據x₁,想要知道x₁在D₁的分佈下的概率,那麼就直接將x₁帶入D₁的正態分佈函數中計算出相應的分佈概率即可。

這裏寫圖片描述

二維正態分佈下的識別與匹配

這裏寫圖片描述

類似的,若有兩組二維數據D₁{(x₁,y₁),(x₂,y₂),……(xn , yn)},D₂{(x’₁,y’₁),(x’₂,y’₂),……(x’ₐ,y’ₐ)}符合正態分佈,則通過計算每一維的平均值μx,μy,以及每一維的標準差σx,σy,可以計算得到D₁,D₂各自的正態分佈。

這裏寫圖片描述

如果對一個二維正態分佈的圖像,將Z軸去掉,以等高線的形式表示其分佈的概率值的大小,那麼對於D₁,D₂的圖像,就變爲了一系列包含着的橢圓。

這裏寫圖片描述

當一個新的二維向量T(x,y)需要識別匹配T屬於D₁還是D₂時,將T帶入 
D₁,D₂的正態分佈公式後,得到的概率值大的即選定匹配結果。在圖中可以看到,T與D₂的歐式距離近(雖然不明顯,但是可以姑且想象),但是D₁在T的方向上概率變化緩慢(注意,橢圓表示的是密度的等高線),因此最終計算的結果應該是T匹配到D₁。

多維正態分佈

由此引申到多維正態分佈。 
這裏寫圖片描述

一組數據X在正態分佈wl中對應的概率可由上式計算。 
wl是一個M維樣本,每一維樣本又有N個屬性的正態分佈,也就是一個M*N的矩陣,Σlwl的協方差矩陣。X同樣是一個M*N的數據矩陣。 
X中的數據元素爲xmn

這裏寫圖片描述 
且 
這裏寫圖片描述

μliwl中各維度的第i個屬性相加求的平均值。

這裏寫圖片描述

這樣通過P(X|wl)就計算出了X分佈在wl時候的概率值。有多個樣本wl1wl2……wln時只要求出X在各個樣本中分佈的概率即可完成匹配。

一個圖形匹配實際問題

我學習多維正態分佈主要是因爲我遇到了下邊的問題。

現有三個樣本,每一個樣本是一個120*30的矩陣。矩陣的行表示存儲120幀連續的圖像特徵點信息,列表示每一幀圖像信息是一個10*3的向量(十個關節點的三維座標)。

現在又獲得了一個120*30的新的圖像流信息矩陣,要求將這個矩陣與三個樣本進行比較匹配。

假設這些關節點各自獨立不相互影響。

先求出與樣本矩陣的協方差矩陣,和樣本自身的平均值μ。然後計算P(X|wl),並比較得出概率最大的樣本。

寫在後面

目前還沒有把這個算法實現代碼,所以精度還不能從實驗得知。但是首先,人的上半身10個關節點不能算完全獨立不影響,比如腕關節和肘關節在運動時常常有相同的位移趨勢等。這一點是否將會影響匹配結果還要等接下來的研究。 
另外週二時候學習的奇異值分解與正態分佈也有很大聯繫。在數據矩陣X中,每一列表示一個數據點,每一行表示一維特徵。分解得到的S,U,V可以用正態分佈的觀點來看。U表示數據形成的正態分佈的軸的方向,是一組單位正交基;S代表這些軸的長度,利用奇異值可以將數據矩陣降維並且可以研究數據之間的相關性。 
比如,利用奇異值分解之後的結果,可以確定出我上面問題中,120幀圖像流中,哪幾幀相關性強,並且這些相關性強的幀中,哪幾個關節點與這些幀的相關性強。也就是可以通過分類算法,將幀與動作聯繫在一起,從這樣的相關性的方面對動作進行初步分類識別。而降維後再計算正態分佈的概率想必肯定會提高識別的準確性。

在學習的路上希望能夠堅持下去,共勉。

發佈了74 篇原創文章 · 獲贊 58 · 訪問量 17萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章