bootstrap方法

非參數bootstrap方法

設總體分佈F$F$未知，但是有一個容量爲n$n$的來自分佈F$F$ 的數據樣本，自這一樣本按照放回抽樣的方法抽取一個容量爲n$n$ 的樣本，這種樣本被稱爲bootstrap$bootstrap$ 樣本或自助樣本。

相繼的，獨立地自原始樣本中取很多個bootstrap$bootstrap$ 樣本,利用這些樣本對總體F$F$進行統計推斷，這種方法稱爲非參數bootstrap$bootstrap$ 方法又稱自助法

這種方法可以用於當人們對總體知之甚少的情況。

估計量的標準誤差的bootstrap估計

在估計總體未知參數θ$\theta$ 時，人們不但要給出θ$\theta$ 的估計θ^$\hat{\theta }$ ,還需要指出這一估計θ^$\hat{\theta }$ 的精度，通常我們使用估計量θ^$\hat{\theta }$ 的標準差D(θ^)−−−−√$\sqrt{D(\hat{\theta })}$ 來度量估計的精度。估計量θ^$\hat{\theta }$ 的標準差σθ^=D(θ^)−−−−√${\sigma }_{\hat{\theta }}=\sqrt{D(\hat{\theta })}$ 也稱爲估計量θ^$\hat{\theta }$ 的標準誤差

設X1,X2,⋯,Xn$X_1,X_2,\cdots ,X_n$ 是來自以F(x)$F(x)$ 爲分佈函數的總體的樣本，θ$\theta$ 是我們感興趣的未知參數，用θ^=θ^(X1,X2,⋯,Xn)$\hat{\theta }=\hat{\theta }(X_1,X_2,\cdots ,X_n)$ 作爲θ$\theta$ 的估計量，在應用中θ^$\hat{\theta }$ 的抽樣分佈通常是很難處理的，這樣D(θ)−−−−√$\sqrt{D(\theta )}$ 沒有一個簡單的表達式，不同我們可以採用計算機模擬的方法求得D(θ^)−−−−√$\sqrt{D(\hat{\theta })}$ 的估計。
爲此可以從F$F$ 中產生很多容量爲n$n$ 的樣本(例如B$B$ 個)，對於每一個樣本計算θ^$\hat{\theta }$ 的值，得到θ^1,θ^2,⋯,θ^B${\hat{\theta }}_1,{\hat{\theta }}_2,\cdots ,{\hat{\theta }}_B$ ，則D(θ^)−−−−√$\sqrt{D(\hat{\theta })}$ 可以用：

σ^θ^=1B−1∑i=1B(θ^i−θ¯¯¯)2−−−−−−−−−−−−−−−⎷$${\hat{\sigma }}_{\hat{\theta }}=\sqrt{{\displaystyle \frac{1}{B-1}}\sum _{i=1}^B({\hat{\theta }}_i-\overline{\theta }{)}^2}$$

來估計，其中θ¯¯¯=1B∑Bi=1θ^$\overline{\theta }={\displaystyle \frac{1}{B}}\sum _{i=1}^B\hat{\theta }$ _i