兩個高斯分佈相加(卷積)的理論推導


本文主要推導兩個高斯分佈的相加結果。在知乎上有個問題:正態分佈隨機變量的和還是正態分佈嗎? _ 也是本文主要解決的問題。

高斯分佈的概率密度函數:
f(x)=12πδe(xu)22δ2(1) f(x) = \frac{1}{\sqrt{2\pi}\delta}{e^{-\frac{(x-u)^2}{2\delta^2}}} \tag{1}

直覺中,兩個高斯(正態)隨機變量的和似乎應該是兩個概率密度函數的和,如下圖所示,其結果就近似爲兩個概率密度的包絡線,這明顯是錯誤的,是用直覺推導數學,大錯特錯
在這裏插入圖片描述
在解決此問題前,我們需要搞清楚兩個高斯函數的和的物理意義,這裏用經典的投骰子作爲爲例子更好理解。

  • 離散卷積:投骰子 - 同時投求兩個骰子所的點數相加得4的概率是多少?
    則其結果爲
    p1(1)p2(3)+p1(2)p2(2)+p1(3)p2(1)=112(2)p_1(1)p_2(3)+p_1(2)p_2(2)+p_1(3)p_2(1)=\frac{1}{12}\tag{2}

注意這裏的概率爲P(X+Y=4)P(X+Y=4),因此卷積的物理意義不是兩個概率密度相加,而是自變量相加後發生的概率,即若設 z=x+yz=x+y,則有 zz 發生的概率爲:
f(z)=+f(x)f(zx)dx(3)f(z)=\int^{ +\infty }_{ - \infty }f(x)f(z-x)dx\tag{3}

當理解到這裏時,我們就可以很容易的計算兩個高斯分佈的加和了。


兩個高斯分佈相加本質問題可抽象爲:已知兩個獨立高斯分佈 N1(u1,δ12)N_1∼(u_1, \delta_1^2), N2(u2,δ22)N_2∼(u_2, \delta_2^2),求新的概率分佈 N=N1+N2(?,?)N =N_1+N_2∼(?,?)

N1N_1 的概率分佈函數爲 f1(x)f_1(x)N2N_2 的概率分佈函數爲 f2(y)f_2(y), 則此問題變爲求 f(z=x+y)f(z=x+y)的概率密度函數?
f(z)=+f1(x)f2(zx)dx=+12πδ1e(xu1)22δ1212πδ2e(zxu2)22δ22dx(4) \begin{aligned} f(z)&=\int^{ +\infty }_{ - \infty }f_1(x)f_2(z-x)dx\\\\ &=\int^{ +\infty }_{ - \infty }\frac{1}{\sqrt{2\pi}\delta_1}{e^{-\frac{(x-u_1)^2}{2\delta_1^2}}}\cdot\frac{1}{\sqrt{2\pi}\delta_2}{e^{-\frac{(z-x-u_2)^2}{2\delta_2^2}}}dx \end{aligned}\tag{4}
仔細一看,這裏的 f(z)f(z) 就是在前一節《兩個高斯分佈乘積的理論推導》中推導的結果,這裏先引用前一節的推導結果,公式7 和 公式8
f1(x)f2(x)=Sg12πδe(xu)22δ2Sg=12π(δ12+δ22)e(u1u2)22(δ12+δ22)(5) \begin{aligned} f_1(x)f_2(x) &=S_g\cdot\frac{1}{\sqrt{2\pi} \delta}{e^{-\frac{(x-u)^2}{2\delta^2}}}\\\\ S_g&=\frac{1}{\sqrt{2\pi(\delta_1^2+\delta_2^2)}}e^{-\frac{(u_1-u_2)^2}{2(\delta_1^2+\delta_2^2)}}\tag{5} \end{aligned}
將公式5代入公式4,其中 f1(x)(u1,δ12)f_1(x)∼(u_1, \delta_1^2) , f2(x)(zu2,δ22)f_2(x)∼(z-u_2, \delta_2^2) 可得:
f(z)=+12πδ1e(xu1)22δ1212πδ2e(x(zu2))22δ22dx=+Sg12πδe(xu)22δ2dx=Sg(6) \begin{aligned} f(z)&=\int^{ +\infty }_{ - \infty }\frac{1}{\sqrt{2\pi}\delta_1}{e^{-\frac{(x-u_1)^2}{2\delta_1^2}}}\cdot\frac{1}{\sqrt{2\pi}\delta_2}{e^{-\frac{(x-(z-u_2))^2}{2\delta_2^2}}}dx\\\\ &=\int^{ +\infty }_{ - \infty }S_g\cdot\frac{1}{\sqrt{2\pi} \delta}{e^{-\frac{(x-u)^2}{2\delta^2}}}dx\\\\ &=S_g \end{aligned}\tag{6}

其中:
Sg=12π(δ12+δ22)exp((u1(zu2))22(δ12+δ22))(7)S_g=\frac{1}{\sqrt{2\pi(\delta_1^2+\delta_2^2)}}exp\bigg(-\frac{(u_1-(z-u_2))^2}{2(\delta_1^2+\delta_2^2)}\bigg)\tag{7}

則可得:
f(z)=12π(δ12+δ22)exp((z(u1+u2))22(δ12+δ22))(8)f(z)=\frac{1}{\sqrt{2\pi(\delta_1^2+\delta_2^2)}}exp\bigg(-\frac{(z-(u_1+u_2))^2}{2(\delta_1^2+\delta_2^2)}\bigg)\tag{8}
對比高斯分佈函數表達式,可以明顯看出,f(x+y)(u1+u2,δ12+δ22)f(x+y)∼(u_1+u_2, \delta_1^2+\delta_2^2)
同理可得:f(xy)(u1u2,δ12+δ22)f(x-y)∼(u_1-u_2, \delta_1^2+\delta_2^2)

同時,我們可以繼續推導得:
若兩個獨立高斯分佈 N1(au1,(Aδ1)2)N2(bu2,(Bδ2)2)N_1∼(au_1, (A\delta_1)^2),N_2∼(bu_2, (B\delta_2)^2)
則其卷積和爲 N1(u,δ2)N_1∼(u, \delta^2)

  • u=au1+bu2u=au_1+bu_2
  • δ2=A2δ12+B2δ22\delta^2= A^2\delta_1^2+B^2\delta_2^2

在這裏插入圖片描述

參考文獻:

https://blog.csdn.net/chaosir1991/article/details/106910668
https://www.zhihu.com/question/26055805
https://blog.csdn.net/erzhonghou0033/article/details/106639102/

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章