原创 高斯PDF的性質及其推論

0 符號聲明 (1)粗體字表示矢量或者矩陣,如x 表示N 維矢量。 (2)N(x|μ,Σ) 表示隨機矢量x 是服從均值爲μ 、協方差矩陣爲Σ 的高斯PDF的高斯矢量。 (3)N(μ,Σ) 表示均值爲μ 、協方差矩陣爲Σ 的多元高斯分佈

原创 高斯噪聲與中心極限定理

1. 前言    在衆多的信號處理學科領域,噪聲一直是衡量算法或系統抗噪聲性能的一種指標,筆者是通信專業的學生。對於一個通信系統而言,衡量一個通信系統的質量有兩個最重要的指標,一個是有效性,一個是可靠性。有效性的衡量標準是傳輸帶寬,而

原创 梯度及最小二乘估計器

符號(Notations) (1) ff 表示多個函數的組合⎡⎣⎢⎢⎢⎢⎢f1(x)f2(x)⋮fm(x)⎤⎦⎥⎥⎥⎥⎥[f1(x)f2(x)⋮fm(x)] (2)∇f(x)∇f(x) 表示函數f(x)f(x) 的梯度 (3)粗體符

原创 深度學習筆記之主成分分析

1. Definitions(定義) 主成分分析(principal components analysis, PCA)簡稱PCA,是一種廣泛應用於數據降維(data dimensionality reduction)、有損數據壓縮(lo

原创 The property of Gaussian

Assume x∼N(a,A)x∼N(a,A) , prove that Px∼N(Hx,PAPT)(266)(266)Px∼N(Hx,PAPT) where x∈Rnx∈Rn , P∈Rm×nP∈Rm×n . Notation N

原创 矩陣正態分佈

正態分佈 關於正態分佈的由來,在文章《正態分佈的前世今生》中寫的很清楚,正態分佈是由二項分佈而來。正態分佈的密度形式首次發現是在棣莫弗-拉普拉斯中心極限定理中。讀者可以通過以下幾個鏈接深入瞭解正態分佈的含義 正態分佈的前世今生(上)

原创 深入TR室內定位算法

1. 前言   剛來實驗室的那段時間,我的導師浩川老師讓我研究Ray Liu教授所做的室內定位的研究。由於後來決定讀博之後,浩川老師給我重新規劃了方向,因此室內定位對於我而言算是一個課外擴展的研究方向吧。學習這個也有一段時間了。剛好晚上睡

原创 複數矩陣相乘的擴展矩陣計算方法

Matlab是矩陣計算語言,其最基本的存儲單位就是矩陣。在諸多信號處理領域,我們所涉及到的信號都是複數信號,那麼matlab如何處理複數矩陣呢? 假設矩陣AA 和BB 爲複數矩陣,當我們運用matlab計算兩個矩陣的乘積時(矩陣AA 和B

原创 線性高斯模型中如何將Y的高斯PDF轉變成X的高斯PDF

符號聲明: (1)N(x|μ,Σ) 表示隨機矢量x 是服從均值爲μ 、協方差矩陣爲Σ 的高斯PDF的高斯矢量。 (2)粗體字表示矢量或者矩陣,如x 表示N 維矢量。 (3)N(μ,Σ) 表示均值爲μ 、協方差矩陣爲Σ 的多元高斯分佈

原创 Stein引理(Stein's lemma)

Stein’s lemma:假設XX 是均值爲μμ ,方差σ2σ2 的高斯隨機變量(Gaussian random variable)。進一步假設映射gg 存在期望E[g(X)(X−μ)]E[g(X)(X−μ)] 和E[g′(X)]E[g

原创 高斯相除

The distribution of Complex Gaussian is Nc(x|a,A)∝exp[−(x−a)HA−1(x−a)](1)(1)Nc(x|a,A)∝exp⁡[−(x−a)HA−1(x−a)] Divisio

原创 高斯相乘引理及其證明

高斯相乘引理 (Gaussian product lemma) N(x;a,A)N(x;b,B)=N(0;a−b,A+B)N(x;aA+bB1A+1B,11A+1B)(930)(930)N(x;a,A)N(x;b,B)=N(0;a−b,

原创 矩陣奇異值分解

Notations: (1)Diag(x)Diag(x) 表示以矢量爲矩陣對角線元素構成對角陣,如Diag(a,b)=(a00b)Diag(a,b)=(a00b) ; (2)粗體符號表示矩陣或者矢量,如xx 表示矢量,AA 表示矩陣。

原创 似然函數與概率密度函數的區別

條件概率密度p(x|θ)p(x|θ) 與似然函數p(x;θ)p(x;θ) 有着千絲萬縷的關係,兩者所表示的意義不同,但是大多數情況下,兩者數值上是相等的(量綱不等)。而在有些時候,兩者數值又是不等的。 1. 引入 現代估計理論在許多設計用

原创 矩陣求逆引理的證明

矩陣求逆引理,或者稱Sherman-Woodbury-Morrison公式 (A+BC)−1=A−1−A−1B(I+CA−1B)−1CA−1 其中A∈Rn×n 是非奇異矩陣,B∈Rn×p , C∈Rp×n 。 證明: 考慮線性等式