两个高斯分布相加(卷积)的理论推导


本文主要推导两个高斯分布的相加结果。在知乎上有个问题:正态分布随机变量的和还是正态分布吗? _ 也是本文主要解决的问题。

高斯分布的概率密度函数:
f(x)=12πδe(xu)22δ2(1) f(x) = \frac{1}{\sqrt{2\pi}\delta}{e^{-\frac{(x-u)^2}{2\delta^2}}} \tag{1}

直觉中,两个高斯(正态)随机变量的和似乎应该是两个概率密度函数的和,如下图所示,其结果就近似为两个概率密度的包络线,这明显是错误的,是用直觉推导数学,大错特错
在这里插入图片描述
在解决此问题前,我们需要搞清楚两个高斯函数的和的物理意义,这里用经典的投骰子作为为例子更好理解。

  • 离散卷积:投骰子 - 同时投求两个骰子所的点数相加得4的概率是多少?
    则其结果为
    p1(1)p2(3)+p1(2)p2(2)+p1(3)p2(1)=112(2)p_1(1)p_2(3)+p_1(2)p_2(2)+p_1(3)p_2(1)=\frac{1}{12}\tag{2}

注意这里的概率为P(X+Y=4)P(X+Y=4),因此卷积的物理意义不是两个概率密度相加,而是自变量相加后发生的概率,即若设 z=x+yz=x+y,则有 zz 发生的概率为:
f(z)=+f(x)f(zx)dx(3)f(z)=\int^{ +\infty }_{ - \infty }f(x)f(z-x)dx\tag{3}

当理解到这里时,我们就可以很容易的计算两个高斯分布的加和了。


两个高斯分布相加本质问题可抽象为:已知两个独立高斯分布 N1(u1,δ12)N_1∼(u_1, \delta_1^2), N2(u2,δ22)N_2∼(u_2, \delta_2^2),求新的概率分布 N=N1+N2(?,?)N =N_1+N_2∼(?,?)

N1N_1 的概率分布函数为 f1(x)f_1(x)N2N_2 的概率分布函数为 f2(y)f_2(y), 则此问题变为求 f(z=x+y)f(z=x+y)的概率密度函数?
f(z)=+f1(x)f2(zx)dx=+12πδ1e(xu1)22δ1212πδ2e(zxu2)22δ22dx(4) \begin{aligned} f(z)&=\int^{ +\infty }_{ - \infty }f_1(x)f_2(z-x)dx\\\\ &=\int^{ +\infty }_{ - \infty }\frac{1}{\sqrt{2\pi}\delta_1}{e^{-\frac{(x-u_1)^2}{2\delta_1^2}}}\cdot\frac{1}{\sqrt{2\pi}\delta_2}{e^{-\frac{(z-x-u_2)^2}{2\delta_2^2}}}dx \end{aligned}\tag{4}
仔细一看,这里的 f(z)f(z) 就是在前一节《两个高斯分布乘积的理论推导》中推导的结果,这里先引用前一节的推导结果,公式7 和 公式8
f1(x)f2(x)=Sg12πδe(xu)22δ2Sg=12π(δ12+δ22)e(u1u2)22(δ12+δ22)(5) \begin{aligned} f_1(x)f_2(x) &=S_g\cdot\frac{1}{\sqrt{2\pi} \delta}{e^{-\frac{(x-u)^2}{2\delta^2}}}\\\\ S_g&=\frac{1}{\sqrt{2\pi(\delta_1^2+\delta_2^2)}}e^{-\frac{(u_1-u_2)^2}{2(\delta_1^2+\delta_2^2)}}\tag{5} \end{aligned}
将公式5代入公式4,其中 f1(x)(u1,δ12)f_1(x)∼(u_1, \delta_1^2) , f2(x)(zu2,δ22)f_2(x)∼(z-u_2, \delta_2^2) 可得:
f(z)=+12πδ1e(xu1)22δ1212πδ2e(x(zu2))22δ22dx=+Sg12πδe(xu)22δ2dx=Sg(6) \begin{aligned} f(z)&=\int^{ +\infty }_{ - \infty }\frac{1}{\sqrt{2\pi}\delta_1}{e^{-\frac{(x-u_1)^2}{2\delta_1^2}}}\cdot\frac{1}{\sqrt{2\pi}\delta_2}{e^{-\frac{(x-(z-u_2))^2}{2\delta_2^2}}}dx\\\\ &=\int^{ +\infty }_{ - \infty }S_g\cdot\frac{1}{\sqrt{2\pi} \delta}{e^{-\frac{(x-u)^2}{2\delta^2}}}dx\\\\ &=S_g \end{aligned}\tag{6}

其中:
Sg=12π(δ12+δ22)exp((u1(zu2))22(δ12+δ22))(7)S_g=\frac{1}{\sqrt{2\pi(\delta_1^2+\delta_2^2)}}exp\bigg(-\frac{(u_1-(z-u_2))^2}{2(\delta_1^2+\delta_2^2)}\bigg)\tag{7}

则可得:
f(z)=12π(δ12+δ22)exp((z(u1+u2))22(δ12+δ22))(8)f(z)=\frac{1}{\sqrt{2\pi(\delta_1^2+\delta_2^2)}}exp\bigg(-\frac{(z-(u_1+u_2))^2}{2(\delta_1^2+\delta_2^2)}\bigg)\tag{8}
对比高斯分布函数表达式,可以明显看出,f(x+y)(u1+u2,δ12+δ22)f(x+y)∼(u_1+u_2, \delta_1^2+\delta_2^2)
同理可得:f(xy)(u1u2,δ12+δ22)f(x-y)∼(u_1-u_2, \delta_1^2+\delta_2^2)

同时,我们可以继续推导得:
若两个独立高斯分布 N1(au1,(Aδ1)2)N2(bu2,(Bδ2)2)N_1∼(au_1, (A\delta_1)^2),N_2∼(bu_2, (B\delta_2)^2)
则其卷积和为 N1(u,δ2)N_1∼(u, \delta^2)

  • u=au1+bu2u=au_1+bu_2
  • δ2=A2δ12+B2δ22\delta^2= A^2\delta_1^2+B^2\delta_2^2

在这里插入图片描述

参考文献:

https://blog.csdn.net/chaosir1991/article/details/106910668
https://www.zhihu.com/question/26055805
https://blog.csdn.net/erzhonghou0033/article/details/106639102/

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章