概率圖模型的d-separation概念

---

---

d-separation

三種類型：

1. Serial connection （head-to-tail）
2. Diverging connection （tail-to-tail）
3. Converging connection

公式推導

---

鏈式法則

$P(X_1,X_2,...,X_n)=P(X_1|X_2,...,X_n)P(X_2|X_3,...,X_n)...P(X_{n-1}|X_n)P(X_n)$

貝葉斯網絡定義：
$P(X_1,X_2,...,X_n)=\prod^n_{i=1}P(X_i|PA(X_i))$

---

Serial connection （head-to-tail）

不觀測$X_k$

$P(X_i,X_j)=\sum_{x_k}P(X_i,X_j,X_k)=P(X_i)P(X_j|X_i)$

結果：X與Y並不是獨立事件

觀測$X_k$

$P(X_i,X_k,X_j)=P(X_i)P(X_k|X_i)P(X_j|X_k)$

$P(X_i,X_j|X_k)=\frac{P(X_i,X_k,X_j)}{P(X_k)} =\frac{P(X_i)P(X_k|X_i)P(X_j|X_k)}{P(X_k)}=\frac{P(X_i,X_j)P(X_j|X_k)}{P(X_k)}=P(X_i|X_k)P(X_j|X_k)$

結果： $X_i,X_j$關於$X_k$條件獨立

---

Diverging connection （tail-to-tail）

不觀測$X_k$

$P(X_i,X_j)=\sum_{x_k}P(X_i,X_j,X_k)=\sum_{x_k}P(X_k)P(X_j|X_k)P(X_i|X_k)$

結果：X與Y並不是獨立事件

觀測$X_k$

$P(X_i,X_k,X_j)=P(X_k)P(X_i|X_k)P(X_j|X_k)$
$P(X_i,X_j|X_k)=\frac{P(X_i,X_k,X_j)}{P(X_k)} =\frac{P(X_k)P(X_i|X_k)P(X_j|X_k)}{P(X_k)}==P(X_i|X_k)P(X_j|X_k)$

結果：$X_i,X_j$關於$X_k$條件獨立

---

Converging connection

不觀測$X_k$

$P(X_i,X_j)=\sum_{x_k}P(X_i,X_j,X_k)=P(X_i)P(X_j)\sum_{x_k}P(X_k)=P(X_i)P(X_j)$

結果：X與Y是獨立事件

觀測$X_k$

$P(X_i,X_j|X_k)=\frac{P(X_i,X_k,X_j)}{P(X_k)} =\frac{P(X_i)P(X_j)P(X_k|X_i,X_j)}{P(X_k)}$

結果：$X_i,X_j$關於$X_k$ 不是 條件獨立

定義

在不同的已知條件下判斷A，B是否屬於D-Separationd時會得到不同的結果。
比如已知了C下可能判斷出A 和B是d分離的，
但如果不知道c或者已知爲節點D的狀態或者不知道任何其他節點的狀態，則可能得出的結果是A，B未分離的。

定義 D-Separation： 對於 DAG 圖 E，且A，B是圖中的兩個節點，對於A和B之間的每個結點C，如果節點C滿足如下兩個條件之一，則認爲A，B是D-Separationd：

• the connection of C is serial or diverging and the state of C is observed;
• the connection of C is converging and neither the state of C nor the state of any descendant of C is observed

簡單的來說：在C可觀測時候 且 C是 serial 或者 diverging 連接時候，A，B是d分離的（獨立）；在C不可觀測時候 且 C是 converging 連接時候，A，B是d分離的（獨立）
反之：在C 不可觀測時候 且 C是 serial 或者 diverging 連接時候，A，B不是d分離的（獨立）；在C 可觀測時候 且 C是 converging 連接時候，A，B 不是 d分離的（獨立）

參考

參考_d-seperation_知乎
參考_d-seperation_博客園
參考_d-seperation_CSDN