貝葉斯公式

貝葉斯定理由英國數學家貝葉斯 ( Thomas Bayes 1702-1763 ) 發展，用來描述兩個條件概率之間的關係，比如 P(A|B) 和 P(B|A)。按照乘法法則：P(A∩B)=P(A)*P(B|A)=P(B)*P(A|B)，可以立刻導出

　　貝葉斯定理公式：P(A|B)=P(B|A)*P(A)/P(B)

　　如上公式也可變形爲：P(B|A)=P(A|B)*P(B)/P(A)

  

貝葉斯公式

　　例如：一座別墅在過去的 20 年裏一共發生過 2 次被盜，別墅的主人有一條狗，狗平均每週晚上叫 3 次，在盜賊入侵時狗叫的概率被估計爲 0.9，問題是：在狗叫的時候發生入侵的概率是多少？

　　我們假設 A 事件爲狗在晚上叫，B 爲盜賊入侵，則 P(A) = 3 / 7，P(B)=2/(20·365)=2/7300，P(A | B) = 0.9，按照公式很容易得出結果：P(B|A)=0.9*(2/7300)*(7/3)=0.00058

　　另一個例子，現分別有 A，B 兩個容器，在容器 A 裏分別有 7 個紅球和 3 個白球，在容器 B 裏有 1 個紅球和 9 個白球，現已知從這兩個容器裏任意抽出了一個球，且是紅球，問這個紅球是來自容器 A 的概率是多少?

　　假設已經抽出紅球爲事件 B，從容器 A 裏抽出球爲事件 A，則有：P(B) = 8 / 20，P(A) = 1 / 2，P(B | A) = 7 / 10，按照公式，則有：P(A|B)=(7 / 10)*(1 / 2)*(20/8)=7/8

　　貝葉斯公式爲利用蒐集到的信息對原有判斷進行修正提供了有效手段。在採樣之前，經濟主體對各種假設有一個判斷（先驗概率），關於先驗概率的分佈，通常可根據經濟主體的經驗判斷確定(當無任何信息時，一般假設各先驗概率相同)，較複雜精確的可利用包括最大熵技術或邊際分佈密度以及相互信息原理等方法來確定先驗概率分佈。

貝葉斯法則的原理

　　通常，事件A在事件B(發生)的條件下的概率，與事件B在事件A的條件下的概率是不一樣的；然而，這兩者是有確定的關係,貝葉斯法則就是這種關係的陳述。

　　作爲一個規範的原理，貝葉斯法則對於所有概率的解釋是有效的；然而，頻率主義者和貝葉斯主義者對於在應用中概率如何被賦值有着不同的看法：頻率主義者根據隨機事件發生的頻率，或者總體樣本里面的個數來賦值概率；貝葉斯主義者要根據未知的命題來賦值概率。一個結果就是，貝葉斯主義者有更多的機會使用貝葉斯法則。

　　貝葉斯法則是關於隨機事件A和B的條件概率和邊緣概率的。

  

bayes'law

　　其中L(A|B)是在B發生的情況下A發生的可能性。

　　在貝葉斯法則中，每個名詞都有約定俗成的名稱：

　　Pr(A)是A的先驗概率或邊緣概率。之所以稱爲"先驗"是因爲它不考慮任何B方面的因素。

　　Pr(A|B)是已知B發生後A的條件概率，也由於得自B的取值而被稱作A的後驗概率。

　　Pr(B|A)是已知A發生後B的條件概率，也由於得自A的取值而被稱作B的後驗概率。

　　Pr(B)是B的先驗概率或邊緣概率，也作標準化常量（normalized constant）。

　　按這些術語，Bayes法則可表述爲：

　　後驗概率 = (相似度 * 先驗概率)/標準化常量　也就是說，後驗概率與先驗概率和相似度的乘積成正比。

　　另外，比例Pr(B|A)/Pr(B)也有時被稱作標準相似度（standardised likelihood），Bayes法則可表述爲：

　　後驗概率 = 標準相似度 * 先驗概率