§2 事件獨立性
從本節開始,我們引入一個新的概念:統計獨立性。下面,先從只有兩個事件的獨立性開始,隨後討論更爲一般的場合。
從考慮古典概率的一個例子作爲出發點:
[例] 一口袋中裝有 a a a 只黑球和 b b b 只白球,採用有放回地摸球。求:
在已知第一次摸得黑球的條件下,第二次摸出黑球的概率:
第二次摸出黑球的概率。
[解] 以事件 A A A 表示首次摸得黑球,事件 B B B 表示第二次摸得黑球,則:
P ( A ) = a a + b P(A) = \frac{a}{a+b} P ( A ) = a + b a
P ( A B ) = a 2 ( a + b ) 2 P(AB) = \frac{a^{2}}{(a+b)^{2}} P ( A B ) = ( a + b ) 2 a 2
P ( A ‾ B ) = b a ( a + b ) 2 P(\overline{A}B) = \frac{ba}{(a+b)^{2}} P ( A B ) = ( a + b ) 2 b a
因此
P ( B ∣ A ) = P ( A B ) P ( A ) = a a + b P(B|A) = \frac{P(AB)}{P(A)} = \frac{a}{a+b} P ( B ∣ A ) = P ( A ) P ( A B ) = a + b a
而
P ( B ) = P ( A B ) + P ( A ‾ B ) = a 2 a + b + b a ( a + b ) 2 = a a + b P(B) = P(AB) + P(\overline{A}B) = \frac{a^{2}}{a + b} + \frac{ba}{(a + b)^{2}} = \frac{a}{a+b} P ( B ) = P ( A B ) + P ( A B ) = a + b a 2 + ( a + b ) 2 b a = a + b a
注意:此處的 P ( B ∣ A ) = P ( B ) P(B|A) = P(B) P ( B ∣ A ) = P ( B ) ,即:事件 A A A 發生與否對事件 B B B 發生的概率沒有影響。 在這種情況下,我們可以稱:事件 A A A 和事件 B B B 的出現存在某種“獨立性”。
定義2.2.1 (統計獨立性)
對事件 A A A 和事件 B B B ,若
P ( A B ) = P ( A ) P ( B ) P(AB) = P(A)P(B) P ( A B ) = P ( A ) P ( B )
則稱它們是 統計獨立 的,簡稱 獨立的 。
注:
按照上述定義可知:必然事件 Ω \Omega Ω 和不可能事件 ∅ \empty ∅ 與任何事件獨立。
若 A A A 和 B B B 的位置對稱,亦稱 A A A 和 B B B 相互獨立 。
推論2.2.1
若事件 A , B A,B A , B 獨立,且 P ( B ) > 0 P(B)>0 P ( B ) > 0 ,則:
P ( A ∣ B ) = P ( A ) P(A|B) = P(A) P ( A ∣ B ) = P ( A )
證明
由條件概率定義和 P ( A ∣ B ) = P ( A ) P(A|B) = P(A) P ( A ∣ B ) = P ( A ) 得:
P ( A ∣ B ) = P ( A B ) P ( B ) = P ( A ) P ( B ) P ( B ) = P ( A ) P(A|B) = \frac{P(AB)}{P(B)} = \frac{P(A)P(B)}{P(B) = P(A)} P ( A ∣ B ) = P ( B ) P ( A B ) = P ( B ) = P ( A ) P ( A ) P ( B )
因此,若事件 A , B A,B A , B 相互獨立,則 A A A 關於 B B B 的條件概率和無條件概率 P ( A ) P(A) P ( A ) 相等,這表示: B B B 的發生對於事件 A A A 是否發生並不提供任何信息。
推論2.2.2
若事件 A A A 和 B B B 獨立,則下列各對事件也相互獨立:
{ A ‾ , B } , { A , B ‾ } , { A ‾ , B ‾ } \{ \overline{A},B\},\{A,\overline{B}\},\{\overline{A},\overline{B}\} { A , B } , { A , B } , { A , B }
證明
由於:
P ( A ‾ B ) = P ( B − A B ) = P ( B ) − P ( A B ) = P(\overline{A}B) = P(B-AB) = P(B)-P(AB) = P ( A B ) = P ( B − A B ) = P ( B ) − P ( A B ) =
P ( B ) − P ( A ) P ( B ) = P ( B ) [ 1 − P ( A ) ] = P ( A ‾ ) P ( B ) P(B) - P(A)P(B) = P(B)[1-P(A)] = P(\overline{A})P(B) P ( B ) − P ( A ) P ( B ) = P ( B ) [ 1 − P ( A ) ] = P ( A ) P ( B )
故 A ‾ \overline{A} A 和 B B B 相互獨立,由它立刻推得:A ‾ \overline{A} A 和 B ‾ \overline{B} B 相互獨立;由 A ‾ = A \overline{A}= A A = A 又推出 A , B ‾ A,\overline{B} A , B 相互獨立。
下面,我們考慮多個事件的獨立性:
先定義三個事件: A , B , C A,B,C A , B , C 的獨立性。
定義2.2.2 (多個事件的相互獨立)
對於三個事件 A , B , C A,B,C A , B , C ,若下列四個等式同時成立,則稱他們 相互獨立 :
{ P ( A B ) = P ( A ) P ( B ) P ( B C ) = P ( B ) P ( C ) P ( A C ) = P ( A ) P ( C ) \begin{cases}P(AB) = P(A) P(B)\\P(BC) = P(B)P(C)\\P(AC) = P(A)P(C)\end{cases} ⎩ ⎪ ⎨ ⎪ ⎧ P ( A B ) = P ( A ) P ( B ) P ( B C ) = P ( B ) P ( C ) P ( A C ) = P ( A ) P ( C )
P ( A B C ) = P ( A ) P ( B ) P ( C ) P(ABC) = P(A)P(B)P(C) P ( A B C ) = P ( A ) P ( B ) P ( C )
自然,我們不難提出這個問題:三個事件 A , B , C A,B,C A , B , C 兩兩獨立,能否保證它們相互獨立?事實上,這個問題的答案是否定的。
現在,我們當然可以定義 n n n 個事件的獨立性。
定義2.2.3 (可列多個事件相互獨立)
對 n n n 個事件 A 1 , A 2 , ⋯ , A n A_{1},A_{2},\cdots,A_{n} A 1 , A 2 , ⋯ , A n ,若對所有可能的組合:1 ⩽ i < j < ⋯ ⩽ n 1\leqslant i<j<\cdots\leqslant n 1 ⩽ i < j < ⋯ ⩽ n 成立:
{ P ( A i A j ) = P ( A i ) P ( A j ) P ( A i A j A k ) = P ( A i ) P ( A j ) P ( A k ) ⋯ P ( A 1 A 2 ⋯ A n ) = P ( A 1 ) P ( A 2 ) ⋯ P ( A n ) \begin{cases}P(A_{i}A_{j}) = P(A_{i})P(A_{j})\\P(A_{i}A_{j}A_{k}) = P(A_{i})P(A_{j})P(A_{k})\\\cdots\\P(A_{1}A_{2}\cdots A_{n}) = P(A_{1})P(A_{2})\cdots P(A_{n})\end{cases} ⎩ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎧ P ( A i A j ) = P ( A i ) P ( A j ) P ( A i A j A k ) = P ( A i ) P ( A j ) P ( A k ) ⋯ P ( A 1 A 2 ⋯ A n ) = P ( A 1 ) P ( A 2 ) ⋯ P ( A n )
則稱 A 1 A 2 ⋯ A n A_{1}A_{2}\cdots A_{n} A 1 A 2 ⋯ A n 相互獨立 。
顯然,若 n n n 個事件相互獨立,則它們中的任意 m ( 2 ⩽ m < n ) m (2\leqslant m<n) m ( 2 ⩽ m < n ) 個事件也是相互獨立的。此外,對於多個相互獨立的事件也成立類1似上述兩個推論的結果。
最後,稱無窮多個事件是相互獨立的,若其中任意有限多個事件是相互獨立的。
從事件獨立性的定義可以立即看出:如果事件是獨立的,則可以大大簡化許多概率的計算。下面舉兩個例子:
[相互獨立事件中至少發生其一的概率的計算]
若 A 1 , A 2 , ⋯ , A n A_{1},A_{2},\cdots,A_{n} A 1 , A 2 , ⋯ , A n 是 n n n 個相互獨立的事件,則由於:
A 1 ∪ A 2 ∪ ⋯ ∪ A n ‾ = A ‾ 1 A ‾ 2 ⋯ A ‾ n \overline{A_{1}\cup A_{2}\cup \cdots\cup A_{n}} = \overline{A}_{1}\overline{A}_{2}\cdots \overline{A}_{n} A 1 ∪ A 2 ∪ ⋯ ∪ A n = A 1 A 2 ⋯ A n
因此
P ( A 1 ∪ A 2 ∪ ⋯ ∪ A n ) = 1 − P ( A ‾ 1 A ‾ 2 ⋯ A ‾ n ) = 1 − P ( A ‾ 1 ) P ( A ‾ 2 ) ⋯ P ( A ‾ n ) P(A_{1}\cup A_{2}\cup\cdots \cup A_{n}) = 1-P(\overline{A}_{1}\overline{A}_{2}\cdots \overline{A}_{n}) = 1-P(\overline{A}_{1})P(\overline{A}_{2})\cdots P(\overline{A}_{n}) P ( A 1 ∪ A 2 ∪ ⋯ ∪ A n ) = 1 − P ( A 1 A 2 ⋯ A n ) = 1 − P ( A 1 ) P ( A 2 ) ⋯ P ( A n )
該公式比起不獨立的情況要簡便得多。
有了事件獨立性的概念,我們即可以定義試驗的獨立性。
直觀上說,若試驗 E 1 E_{1} E 1 和試驗 E 2 E_{2} E 2 是獨立的,則他們結果的發生是獨立的。因此,我們需要通過各試驗的事件間的獨立性定義試驗的獨立性。爲了做到這一點,我們首先要構造一個可以描述這些試驗的,公共的樣本空間。
設試驗 E 1 E_{1} E 1 的樣本空間爲 Ω 1 = { ω ( 1 ) } \Omega_{1} = \{\omega^{(1)}\} Ω 1 = { ω ( 1 ) } ,試驗 E 2 E_{2} E 2 的樣本空間爲 Ω 2 = { ω ( 2 ) } \Omega_{2} = \{\omega^{(2)}\} Ω 2 = { ω ( 2 ) } ,⋯ \cdots ⋯ ,試驗 E n E_{n} E n 的樣本空間爲 Ω n = { ω ( n ) } \Omega_{n} = \{\omega^{(n)}\} Ω n = { ω ( n ) } 。爲描述這 n n n 次試驗,應構造複合試驗 E E E ,他表示依次進行試驗 E 1 , E 2 , ⋯ , E n E_{1},E_{2},\cdots,E_{n} E 1 , E 2 , ⋯ , E n ,其樣本點爲:
ω = ( ω ( 1 ) , ω ( 2 ) , ⋯ , ω ( n ) ) \omega = (\omega^{(1)},\omega^{(2)},\cdots,\omega^{(n)}) ω = ( ω ( 1 ) , ω ( 2 ) , ⋯ , ω ( n ) )
這個樣本空間爲 Ω 1 , Ω 2 , ⋯ , Ω n \Omega_{1},\Omega_{2},\cdots,\Omega_{n} Ω 1 , Ω 2 , ⋯ , Ω n 的乘積空間,記爲:
Ω = Ω 1 × Ω 2 × ⋯ Ω n . \Omega = \Omega_{1}\times \Omega_{2}\times \cdots \Omega_{n}. Ω = Ω 1 × Ω 2 × ⋯ Ω n .
接下來,我們引入“與第 k k k 次試驗有關的事件”的概念:這種事件的發生與否僅與第 k k k 次試驗的結果有關,也就是說,爲了判斷某一樣本點是否屬於這個事件,我們只需要考察它的第 k k k 個分量。值得指出的是,必然事件 Ω \Omega Ω 和不可能事件 ∅ \empty ∅ 可認爲與所有的試驗有關。
現在若以 A k \mathscr{A}_{k} A k 記與第 k k k 次試驗有關的事件全體,則可通過下列方式定義試驗的獨立性:
定義2.2.4 (試驗的相互獨立性)
若對於任意的:
A ( 1 ) ∈ A 1 , A ( 2 ) ∈ A 2 , ⋯ , A ( n ) ∈ A n A^{(1)} \in \mathscr{A_{1}}, A^{(2)} \in \mathscr{A_{2}},\cdots,A^{(n)} \in \mathscr{A_{n}} A ( 1 ) ∈ A 1 , A ( 2 ) ∈ A 2 , ⋯ , A ( n ) ∈ A n
均成立
P ( A ( 1 ) A ( 2 ) ⋯ A ( n ) ) = P ( A ( 1 ) ) P ( A ( 2 ) ) ⋯ P ( A ( n ) ) P(A^{(1)}A^{(2)}\cdots A^{(n)}) = P(A^{(1)})P(A^{(2)})\cdots P(A^{(n)}) P ( A ( 1 ) A ( 2 ) ⋯ A ( n ) ) = P ( A ( 1 ) ) P ( A ( 2 ) ) ⋯ P ( A ( n ) )
則稱試驗 E 1 , E 2 , ⋯ , E n E_{1},E_{2},\cdots,E_{n} E 1 , E 2 , ⋯ , E n 是 相互獨立的 。
注意到:Ω ∈ A i , i = 1 , 2 , ⋯ , n \Omega \in \mathscr{A}_{i},i = 1,2,\cdots,n Ω ∈ A i , i = 1 , 2 , ⋯ , n ,因此由定義推得:若 n n n 個實驗相互獨立,則其中的 m ( 2 ⩽ m < n ) m(2\leqslant m<n) m ( 2 ⩽ m < n ) 個試驗也是相互獨立的。