專題五 大數定律與中心極限定理

專題五 大數定律與中心極限定理

5.1 大數定律

1.大數定律： 一類收斂現象$X_1,X_2,...X_n$爲一隨機變量的序列，常常有$\frac{1}{n}\cdot\sum\limits_{i = 1}^n X_i， \ n \rightarrow\infty$ 在某種意義下收斂

2.切比雪夫不等式：

$\ P( |X - E(X)| \leq\epsilon)\geq\ {1 - \frac{D(X)}{\epsilon^2}}$

5.2 中心極限定理

1.中心極限的定義：
當n趨於無窮大時，$X_1,X_2,...,X_n$,隨機變量的序列之和的分佈服從正態分佈

2.中心極限定理：

定理一： 獨立同分布的中心極限定理
設隨機變量$X_1,X_2,..,X_n$相互獨立，服從同一分佈，且具有數學期望，方差： $E(X_k) = \mu$ $D(X_k) = \sigma^2\ (k = 1,2,..,n)$

當$n\rightarrow\infty$時，$\sum\limits_{i =1}^{n}X_i$ ~ $N(n\mu,n\sigma^2)$

定理二： 二項分佈的中心極限定理
設隨機變量 $X$ 服從參數 $n$ ,$p \ (0 < p < 1)$ 的二項分佈
（1）局部極限定理：

$P(X = k) = C_n^k\cdot p^k\cdot(1-p)^{n-k}$
當 $n \rightarrow\infty$ 時，$P(X = k) \approx$ $\frac{1}{\sqrt{np(1-p)}}\cdot\psi(\frac{k - np}{\sqrt{np(1-p)}})$

（2）拉普拉斯定理：

當 $n \rightarrow\infty$ 時，$P(X\leq x) \approx\phi(\frac{x - np}{\sqrt{np(1-p)}})$