序列自相關矩陣的計算和分析

這幾天在搞DSP的時候遇到的一些問題，稍微整理了一下
在下文中，你將會看到：平穩過程到底有什麼意義、隨機信號處理是如何與固定信號分析聯繫起來的、自相關函數的定義、自相關矩陣的意義和計算

平穩過程

平穩過程是現代數字信號處理的一個大問題
它的定義是: 統計特性不隨時間推移而改變的隨機過程
在嚴格的定義中，它需要隨機過程的各階矩都保持一個穩定的值，稱之爲嚴平穩過程。這很難滿足
所以在顯示生活中，我們通常只關注這個隨機過程的一階矩或者二階矩是不是保持平均。這就是我們之後要處理的過程，稱之爲寬平穩過程。
舉個例子：
我們想要測量一個恆壓電源的電壓
第一組測量我們測得五個值：{10.3、10.2、10.1、9.7、9.6}
第二組測量這次測得六個值：{9.9、10.1、10.2、9.6、10.2、10.1}
。。。
這樣在經歷多組測量之後，我們將每一組的測量結果分別平均，發現每一組的平均值都在10左右擺動，根據平穩的定義，我們其實是需要，不管我們進行多少組測量、每一組的樣本有多少個值，最終我們所得的均值都是10的，這纔是一個滿足一階矩平穩的寬平穩過程，在實際中，由於樣本數量的限制，我們得到的均值通常是漸進無偏估計，也就是說，在每一組樣本個數接近無限的時候纔會使得其均值爲10，所以如果每一組都在10左右擺動，我們就將其認爲是一個平穩過程了。
而另一組同學想要測量一個上升信號的電壓
第一組測量得到：{1.1、2.3、2.8、4.0}
第二組測量得到：{5.1、4.3、4.9、6.1}
。。。
在這個測量中，我們發現在不同的組均值不一樣了，這就不是一個一階平穩過程，但是幸運的是，每一組數據的方差又大概保持在一個穩定的值，所以這是一個二階平穩過程

平穩過程有什麼好處呢，很多信號相關的書籍會告訴你這樣一句話：如果一個過程滿足平穩過程，就可以用它的時間平均來代替其統計平均

這句話是這樣理解的，比如在之前一個例子，我們想要知道該恆壓電源的電壓到底是多少，我們就可以通過測量一組數據，然後平均來估算得出。這種估算方式有一個也許很多人都會認爲是自然而然的，但是它其實是建立在一個“該信號一階平穩”的前提下進行的。

自相關矩陣

在瞭解了寬平穩過程之後，我們來了解下自相關矩陣的概念
自相關矩陣定義是這樣的：
assume

x = [x 1 x 2 x 3 . . . x n]

the autocorrelation Mat is defined as

E (x * x H) = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ E (x (0) * x * (0)) E (x (1) * x * (0)) . . . E (x (n) * x * (0)) E (x (0) * x * (1)) E (x (1) * x * (1)) E (x (n) * x * (1)) . . . . . . . . . E (x (0) * x * (n)) E (x (1) * x * (n)) . . . E (x (n) * x * (n)) ⎤ ⎦ ⎥ ⎥ ⎥ ⎥

所以，如果我們想要求取一個序列的自相關矩陣，首先遇到的問題是需要知道這個序列的概率分佈。但是這其實是一個矛盾的問題：正是因爲我們不知道這個序列概率分佈係數，我們纔會想要去通過估計求解的啊

回想在概率與數理統計中學到的概念，如果我們想要估計一個量的期望（一階矩）其實是可以通過大量的樣本平均得到的。這個估計方法是有一個前提的：你每次我們所採樣的樣本都是從同一個概率空間中得到的。也就是說，每次我們進行採樣的樣本，都服從同一個概率分佈。回想之前所提到的平穩過程，它其實可以理解爲在時間維度上始終保持同一個概率分佈（嚴格平穩）或者滿足某概率分佈參數恆定（寬平穩）。又回到了之前那句話：時間平均來代替其統計平均。那麼，該樣本時間序列上的期望在平穩的條件下也可以等於其概率上的期望。

舉個例子：

我們得到了有一個信號的時間序列x=[12345]
現在，我想讓算一下它的自相關矩陣，自然的，我們首先想到的就是按照它的定義來求，也就是計算E(x∗xH) ，問題這時候就出現了：E(x∗xH) 是求x∗xH 的期望啊，可是我們並不知道信號的概率分佈，只知道它的一個個子序列，該如何求得期望呢。這時候，我們就假定這是一個平穩過程，然後就可以使用時間平均來進行一個“估計”了。
例如，比如當我們想要估計E(x(0)∗x∗(r)) 這個元素的時候，我們其實是可以使用N組相隔r的樣本序列乘積的平均得到其期望估計

E (x (0) * x * (r)) = 1 n - r \sum l = 0 n - r x (l) x (l + r)

對於信號序列

x 的

E(x(0)x(1)) ：

E (x (0) * x * (1)) = 1 4 \sum l = 0 4 x (l) x (l + 1) = x ( 0 ) * x ( 1 ) + x ( 1 ) * x ( 2 ) + x ( 2 ) * x ( 3 ) + x ( 3 ) * x ( 4 ) 4

和固定信號自相關公式的關係：
對比我們的自相關公式：

R (r) = \sum l = 0 N - 1 x (l) x (l + r)

似乎和我們估計自相關矩陣係數的公式很像，放過來對比一下：

E (x (0) * x * (r)) = 1 n - r \sum l = 0 n - r x (l) x (l + r)

實際上，由於樣本的數目有限，如果我們將未知的樣本全部補0，這個

R(r) 的上限也可以縮減到

n−r
於是，我們可以得到：

E (x (0) * x * (r)) = 1 n - r R (r)

所以，自相關矩陣的係數就可以使用自相關公式來求解了

討論

雖然我們成功求解了信號序列的自相關矩陣，但實際上來說，樣本長度爲N的時候，我們對於E(x(0)∗x∗(n−1)) 的估計就是一個非常危險的量了（因爲滿足計算條件的樣本過少）所以說自相關矩陣裏面的元素隨着下標的增大，其信度是在逐漸降低的。
其原因在於這個估計並不是一個無偏估計：在概率論的課程中我們也可以知道，統計量的期望估計準確性是和樣本數量成正比的，只有在樣本數量接近於無限的時候，它才接近一個無偏估計。

參考資料
[1]時間序列分析簡明教程 張樹金、齊立心
[2]statistical digital signal processing and modeling Monson H’Hayes

序列自相關矩陣的計算和分析