如何理解樸素貝葉斯法中的“特徵條件獨立”

介紹

樸素貝葉斯法對條件概率分佈做了條件獨立性假設。那麼什麼叫條件獨立性假設呢？它是說 用於分類的特徵 在類確定的條件下 都是 條件獨立 的。

我們不能將條件獨立性假設和獨立性假設劃爲等號。
以下面的一個簡單的貝葉斯網爲例，c 是標籤，a、b 是特徵。

我們知道：
$p(a,b,c)=p(c)p(a|c)p(b|c)$
當 c 給定的時候，可得：
$p(a,b|c)=\frac{p(a,b,c)}{p(c)}=p(a|c)p(b|c)^{1}$；
但是 c 未知的情況下
$\sum_{c}p(a,b,c)=\sum_{c}p(c)p(a|c)p(b|c)$
$\Longrightarrow p(a,b)=\sum_{c}p(c)p(a|c)p(b|c)\ne p(a)p(b)$

所以說特徵是條件獨立的，而不是獨立的。

參考文獻

[1]概率圖模型之貝葉斯網絡