PRML 第一章(2)

概率論

概率論的2大基本法則
（1）加和法則(sum rule)

p(X)=∑Yp(X,Y)(1.2.1)

（2）乘積法則(product rule)

p(X,Y)=p(Y|X)p(X)(1.2.2)

其中X,Y 均爲隨機變量，在實際應用時隨機變量X 和Y 均有特定取值，p(X,Y) 稱爲聯合概率，p(Y|X) 稱爲條件概率；
由公式(1.2.1) 和公式(1.2.2) 可以非常容易推導出貝葉斯定理以及加和法則的另一種表達形式
貝葉斯公式：

p(Y|X)=p(X|Y)p(Y)p(X)=p(X|Y)p(Y)∑Yp(X|Y)p(Y)(1.2.3)

加和法則(sum rule)的另一種表達：

p(X)=∑Yp(X,Y)=∑Yp(X|Y)p(Y)(1.2.4)

隨機變量相互獨立的定義
如果滿足p(X,Y)=p(X)p(Y) ，根據乘積規則，我們有p(Y|X)=P(Y) 或者p(X|Y)=p(X) ，則我們稱隨機變量X 和隨機變量Y 相互獨立
連續變量的概率密度函數