貝葉斯公式
百度百科
貝葉斯定理由英國數學家貝葉斯 ( Thomas Bayes 1702-1761 ) 發展，用來描述兩個條件概率之間的關係，比如 P(A|B) 和 P(B|A)。按照乘法法則，可以立刻導出：P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)。如上公式也可變形爲：P(B|A) = P(A|B)*P(B) / P(A)。
貝葉斯法則是關於隨機事件A和B的條件概率和邊緣概率的。
其中P(A|B)是在B發生的情況下A發生的可能性。 爲完備事件組，即 這裏寫圖片描述
在貝葉斯法則中，每個名詞都有約定俗成的名稱：
Pr(A)是A的先驗概率或邊緣概率。之所以稱爲”先驗”是因爲它不考慮任何B方面的因素。
Pr(A|B)是已知B發生後A的條件概率，也由於得自B的取值而被稱作A的後驗概率。
Pr(B|A)是已知A發生後B的條件概率，也由於得自A的取值而被稱作B的後驗概率。
Pr(B)是B的先驗概率或邊緣概率，也作標準化常量（normalized constant）。
按這些術語，Bayes法則可表述爲：
後驗概率 = (似然度 * 先驗概率)/標準化常量 也就是說，後驗概率與先驗概率和似然度的乘積成正比。
另外，比例Pr(B|A)/Pr(B)也有時被稱作標準似然度（standardised likelihood），Bayes法則可表述爲：
後驗概率 = 標準似然度 * 先驗概率。
用機器學習視角理解
在機器學習的視角下，我們把A理解成“具有某特徵”，把B理解成“類別標籤”
貝葉斯方法把計算“具有某特徵的條件下屬於某類”的概率轉換成需要的計算“屬於某類條件下具有某特徵”的概率，屬於有監督學習。
- 樸素貝葉斯：
加上條件獨立假設的貝葉斯方法就是樸素貝葉斯方法。
由於乘法交換律，樸素貝葉斯方法中算出來交換詞語順序的條件概率完全一樣。
- 樸素貝葉斯簡單高效：
“有些獨立假設在各個分類之間的分佈都是均勻的，所以對於似然的相對大小不產生影響；即便不是如此，也有很大的可能性各個獨立假設所產生的消極影響或積極影響互相抵消，最終導致結果受到影響不大。”