联合概率
联合概率指的是包含多个条件且所有条件同时成立的概率
P(X=a,Y=b)或P(a,b)或P(ab)
边缘概率
仅与单个随机变量有关的概率称为边缘概率，也可以理解为是将某一项写开
P(X=a)或P(Y=b)
联合概率和边缘概率的关系
\(P(X=a)=\Sigma_bP(X=a,Y=b)\\
P(Y=b)=\Sigma_aP(X=a,Y=b)\)
求和符号表示穷举所有Y（或X）所能取得b（或a）后，所有对应值相加得到的和
条件概率
在条件Y=b的条件下，X=a的概率，记作P(X=a|Y=b)或P(a|b)
性质：
“在条件Y=b下X的条件分布”也是一种X的概率分布，因此穷举X的可取值之后，所有这些值对应的概率之和为1即：
\(\Sigma_aP(X=a|Y=b)=1\)
联合概率、边缘概率、条件概率之间的关系
\(P(X=a|Y=b)=\frac{P(X=a,Y=b)}{P(Y=b)}\)
条件联合分布的分解
\[P(X=a,Y=b|Z=c)=P(X=a|Y=b,Z=c)P(Y=b|Z=c)
\]
这个分解应该是基于独立的吧 ？
贝叶斯公式
- 先验概率：知道原因推结果，P(原因)、P(结果|原因）等
- 后验概率 ：根据结果推原因的，P(原因|结果)等
贝叶斯公式解决的是一些原因X无法直接观测、测量，而我们希望通过其结果Y来反推出原因X的问题，也就是知道一部分先验概率，来求后验概率的问题。