原创 高斯PDF的性質及其推論
0 符號聲明 (1)粗體字表示矢量或者矩陣,如x 表示N 維矢量。 (2)N(x|μ,Σ) 表示隨機矢量x 是服從均值爲μ 、協方差矩陣爲Σ 的高斯PDF的高斯矢量。 (3)N(μ,Σ) 表示均值爲μ 、協方差矩陣爲Σ 的多元高斯分佈
原创 高斯噪聲與中心極限定理
1. 前言 在衆多的信號處理學科領域,噪聲一直是衡量算法或系統抗噪聲性能的一種指標,筆者是通信專業的學生。對於一個通信系統而言,衡量一個通信系統的質量有兩個最重要的指標,一個是有效性,一個是可靠性。有效性的衡量標準是傳輸帶寬,而
原创 梯度及最小二乘估計器
符號(Notations) (1) ff 表示多個函數的組合⎡⎣⎢⎢⎢⎢⎢f1(x)f2(x)⋮fm(x)⎤⎦⎥⎥⎥⎥⎥[f1(x)f2(x)⋮fm(x)] (2)∇f(x)∇f(x) 表示函數f(x)f(x) 的梯度 (3)粗體符
原创 深度學習筆記之主成分分析
1. Definitions(定義) 主成分分析(principal components analysis, PCA)簡稱PCA,是一種廣泛應用於數據降維(data dimensionality reduction)、有損數據壓縮(lo
原创 The property of Gaussian
Assume x∼N(a,A)x∼N(a,A) , prove that Px∼N(Hx,PAPT)(266)(266)Px∼N(Hx,PAPT) where x∈Rnx∈Rn , P∈Rm×nP∈Rm×n . Notation N
原创 矩陣正態分佈
正態分佈 關於正態分佈的由來,在文章《正態分佈的前世今生》中寫的很清楚,正態分佈是由二項分佈而來。正態分佈的密度形式首次發現是在棣莫弗-拉普拉斯中心極限定理中。讀者可以通過以下幾個鏈接深入瞭解正態分佈的含義 正態分佈的前世今生(上)
原创 深入TR室內定位算法
1. 前言 剛來實驗室的那段時間,我的導師浩川老師讓我研究Ray Liu教授所做的室內定位的研究。由於後來決定讀博之後,浩川老師給我重新規劃了方向,因此室內定位對於我而言算是一個課外擴展的研究方向吧。學習這個也有一段時間了。剛好晚上睡
原创 複數矩陣相乘的擴展矩陣計算方法
Matlab是矩陣計算語言,其最基本的存儲單位就是矩陣。在諸多信號處理領域,我們所涉及到的信號都是複數信號,那麼matlab如何處理複數矩陣呢? 假設矩陣AA 和BB 爲複數矩陣,當我們運用matlab計算兩個矩陣的乘積時(矩陣AA 和B
原创 線性高斯模型中如何將Y的高斯PDF轉變成X的高斯PDF
符號聲明: (1)N(x|μ,Σ) 表示隨機矢量x 是服從均值爲μ 、協方差矩陣爲Σ 的高斯PDF的高斯矢量。 (2)粗體字表示矢量或者矩陣,如x 表示N 維矢量。 (3)N(μ,Σ) 表示均值爲μ 、協方差矩陣爲Σ 的多元高斯分佈
原创 Stein引理(Stein's lemma)
Stein’s lemma:假設XX 是均值爲μμ ,方差σ2σ2 的高斯隨機變量(Gaussian random variable)。進一步假設映射gg 存在期望E[g(X)(X−μ)]E[g(X)(X−μ)] 和E[g′(X)]E[g
原创 高斯相除
The distribution of Complex Gaussian is Nc(x|a,A)∝exp[−(x−a)HA−1(x−a)](1)(1)Nc(x|a,A)∝exp[−(x−a)HA−1(x−a)] Divisio
原创 高斯相乘引理及其證明
高斯相乘引理 (Gaussian product lemma) N(x;a,A)N(x;b,B)=N(0;a−b,A+B)N(x;aA+bB1A+1B,11A+1B)(930)(930)N(x;a,A)N(x;b,B)=N(0;a−b,
原创 矩陣奇異值分解
Notations: (1)Diag(x)Diag(x) 表示以矢量爲矩陣對角線元素構成對角陣,如Diag(a,b)=(a00b)Diag(a,b)=(a00b) ; (2)粗體符號表示矩陣或者矢量,如xx 表示矢量,AA 表示矩陣。
原创 似然函數與概率密度函數的區別
條件概率密度p(x|θ)p(x|θ) 與似然函數p(x;θ)p(x;θ) 有着千絲萬縷的關係,兩者所表示的意義不同,但是大多數情況下,兩者數值上是相等的(量綱不等)。而在有些時候,兩者數值又是不等的。 1. 引入 現代估計理論在許多設計用
原创 矩陣求逆引理的證明
矩陣求逆引理,或者稱Sherman-Woodbury-Morrison公式 (A+BC)−1=A−1−A−1B(I+CA−1B)−1CA−1 其中A∈Rn×n 是非奇異矩陣,B∈Rn×p , C∈Rp×n 。 證明: 考慮線性等式