前言
條件概率，邊緣概率，聯合概率，全概率，貝葉斯定理是機器學習中幾乎所有算法的基礎，雖然公式記住了，但是爲什麼是這樣，以及如何理解看過之後隔一段時間問題忘，這裏在這裏好好做下總結
1. 邊緣概率
邊緣概率是與聯合概率相對應的，P(A)和P(B)這類僅與單個隨機變量有關的概率稱爲邊緣概率。
邊緣概率是不用求的，一般都會給出。
條件概率是由聯合概率反推出來的，理解起來沒有那麼直觀，全概率，貝葉斯定理也是由聯合概率推導出來的，所以這裏先說聯合概率再說條件概率，最後再講貝葉斯定理。
2.聯合概率
定義
指包含多個條件且所有條件同時成立的概率，記作P(A,B)，或P(AB)或P(A∪B)，不過一般都是寫成P(A,B)。
分析
事件A和事件B可以相互影響的，不過也可以相互獨立，不過沒有討論的意義。
如上圖
綠色的橢圓表示事件A發生的概率P(A)
橘紅色的橢圓表示事件B發生的概率P(B)
A和B相交的部分就是P(A,B))發生的概率
其中
P(A)和P(B)都是邊緣概率，P(A,B)就是聯合概率
可以看到事件A發生的概率和事件B相交的部分就是P(A,B)
然後我們也就很容易理解
P(A,B)發生的概率就是：事件B發生的概率，乘以事件A在事件B發生的條件下發生的概率，
於是有：
P(A,B)=P(B)P(A∣B)
其中P(A∣B)就是事件B發生的情況下事件A發生的概率就是條件概率，記爲P(A∣B)，下文會繼續講到。
3.條件概率
定義
已知事件A發生的條件下，另一個事件B發生的概率稱爲條件概率，即爲：P(A∣B)
事件A和事件B是相互影響的。更通俗地說事件A與事件B是有關係的，發生事件A會影響發生事件B發生的概率。
問條件概率能舉個例子嗎
學生時代兩個人競選班，同學A贏的概率是0.6，同學B贏的概率是0.4，問同學A在同學B先被投票的情況下贏的概率是多少。
心理學上有種先入爲主的現象，不管是誰，第一個被投票的往往比第二個得票更多一些，就這就是兩個事件相互影響，這就是條件概率
問條件概率在圖中表示的是哪一塊呢？
答：條件概率P(A∣B)在圖中表示不出來，P(A,B)和P(B)都是以圖形的形式表示概率的，P(A∣B)則是P(A∣B)是P(A,B)除以P(B)的比值，在圖形上表示不出來。
條件概率畢竟還是有些抽象滴。。。要不然也不會主要求它啊（_）
P(A∣B)是通過聯合概率反推出來的，以圖形化的方式表示自然沒有那麼直觀，不過以聯合概率反推的方式來解理還是很好理解的，參考聯合概率
OK，到這裏來道習題加深下理解吧
條件概率習題：
從1，2，3，…，15中甲乙兩人各任取一個數字（不重複），已知甲取到的數是5的倍數，求甲數大於乙數的概率。
解：
設事件A表示”甲取到的數比乙大“，即P(A)
設事件B表示”甲取到的數是5的倍數”，即P(B)
則顯然所要就是條件概率P(A∣B)
根據公式
通過這麼一個例子，理解起來是不是更深入了?
我們可以發現：
- P(B)是邊緣概率,是直接可以求出來的,
- P(A)與P(B)P(A)是相互影響的，
- P(A,B)是聯合概率通過複雜些的計算也是可以求出來的,
但是條件概率P(A|B)則比較抽象，沒那麼容易求出來，
OK，現在知道了條件概率的意義了吧
全概率
定義
聯合概率中把事件A分割成事件'A1，A2，A3,⋯,An，並把A與B的位置對調於是就成了全概率，如下圖
推導
只是全概率是求事件B的，
全概率需要滿足以下條件：
- 事件A1到An是相互獨立的
- 事件A1到An組成了整個樣本空間A
- 事件A1到An能把事件B無重疊地覆蓋掉
如上圖，事件B發生的概率是由C1~C6組成的,於是有：
注意啊，到全概率的時候A（Ai）與B，的位置就反過來了，比如說
條件概率公式的表示形式是：P(A∣B)
全概率公式的表示形式是：P(B∣Ai)
好了，來道題吧
全概率習題
某工廠有兩個車間產生同一型號的配件，第一車間的次品率是0.150.150.15，第二車間的次品率是0.120.120.12，兩個車間的成品都混合堆放在一直，假設第1，2車間生產的成品比例爲2:32:32:3，現有一客戶從混合成品堆裏隨機抽查一臺產品，求該產品的合格率。
事件B = {從倉庫中隨機抽查的產品的合格率}
事件A_{i} = {抽的是第iii車間產生的}，i=1,2
4.貝葉斯公式
定義
同樣條件概率中把A推分割成'A1，A2，A3,⋯,An,並把A與B的位置對調就成了貝葉斯公式
推導
同樣來道習題
貝葉斯定理習題
某公路上經過的貨車與客車的數量之比爲2:12:12:1，貨車中途停車修理的概率爲0.020.020.02，客車爲0.010.010.01，現有一輛汽車中途停車修理，問該汽車是貨車的概率
解：
設
事件B = {中途停車修理}
事件A1={經過的是貨車}，
事件A2 ={經過的是客車}，
於是事件B有：
