bootstrap方法

非参数bootstrap方法

设总体分布F$F$未知，但是有一个容量为n$n$的来自分布F$F$ 的数据样本，自这一样本按照放回抽样的方法抽取一个容量为n$n$ 的样本，这种样本被称为bootstrap$bootstrap$ 样本或自助样本。

相继的，独立地自原始样本中取很多个bootstrap$bootstrap$ 样本,利用这些样本对总体F$F$进行统计推断，这种方法称为非参数bootstrap$bootstrap$ 方法又称自助法

这种方法可以用于当人们对总体知之甚少的情况。

估计量的标准误差的bootstrap估计

在估计总体未知参数θ$\theta$ 时，人们不但要给出θ$\theta$ 的估计θ^$\hat{\theta }$ ,还需要指出这一估计θ^$\hat{\theta }$ 的精度，通常我们使用估计量θ^$\hat{\theta }$ 的标准差D(θ^)−−−−√$\sqrt{D(\hat{\theta })}$ 来度量估计的精度。估计量θ^$\hat{\theta }$ 的标准差σθ^=D(θ^)−−−−√${\sigma }_{\hat{\theta }}=\sqrt{D(\hat{\theta })}$ 也称为估计量θ^$\hat{\theta }$ 的标准误差

设X1,X2,⋯,Xn$X_1,X_2,\cdots ,X_n$ 是来自以F(x)$F(x)$ 为分布函数的总体的样本，θ$\theta$ 是我们感兴趣的未知参数，用θ^=θ^(X1,X2,⋯,Xn)$\hat{\theta }=\hat{\theta }(X_1,X_2,\cdots ,X_n)$ 作为θ$\theta$ 的估计量，在应用中θ^$\hat{\theta }$ 的抽样分布通常是很难处理的，这样D(θ)−−−−√$\sqrt{D(\theta )}$ 没有一个简单的表达式，不同我们可以采用计算机模拟的方法求得D(θ^)−−−−√$\sqrt{D(\hat{\theta })}$ 的估计。
为此可以从F$F$ 中产生很多容量为n$n$ 的样本(例如B$B$ 个)，对于每一个样本计算θ^$\hat{\theta }$ 的值，得到θ^1,θ^2,⋯,θ^B${\hat{\theta }}_1,{\hat{\theta }}_2,\cdots ,{\hat{\theta }}_B$ ，则D(θ^)−−−−√$\sqrt{D(\hat{\theta })}$ 可以用：

σ^θ^=1B−1∑i=1B(θ^i−θ¯¯¯)2−−−−−−−−−−−−−−−⎷$${\hat{\sigma }}_{\hat{\theta }}=\sqrt{{\displaystyle \frac{1}{B-1}}\sum _{i=1}^B({\hat{\theta }}_i-\overline{\theta }{)}^2}$$

来估计，其中θ¯¯¯=1B∑Bi=1θ^$\overline{\theta }={\displaystyle \frac{1}{B}}\sum _{i=1}^B\hat{\theta }$ _i