本文摘自 《概率論與數理統計》 陳希孺著 中國科學技術大學出版社
相關鏈接:
極大似然估計法
矩估計法
參數的點估計問題
設有一個總體統計,以f(x;θ1,⋯,θn) 記其概率密度函數(若總體分佈爲連續型的)或其概率函數(如總體分佈爲離散型的)。我們約定稱f(x;θ1,⋯,θn) 爲“總體分佈”,其具體含義視其爲連續型或離散型而定。這個分佈包含k 個未知數θ1,⋯,θk 。例如,對正態總體N(μ,σ2) ,有θ1=μ,θ2=σ2 ,而
f(x;θ1,θ2)=(2πθ2‾‾‾‾‾√)−1exp−12θ2(x−θ1)2(−∞<x<∞)
若總體有二項分佈B(n,p) ,則θ1=p ,而
f(x;θ1)=(nx)θx1(1−θ1)n−x(x=0,1,⋯,n)
當k=1 時,也就是隻有一個參數時,我們用θ 取代θ1 。
參數估計問題的一般提法是:設有了從總體中抽出的樣本X1,⋯,\Xn (這樣樣本是獨立隨機樣本,即X1,⋯,Xn 獨立同分布,其公共分佈就是總體分佈),要依據這些樣本去對參數θ1,⋯,θk 中的一部分,或者估計它們某個已知函數g(θ1,⋯,θk) 。例如,爲了要估計θ1 ,我們要構造出適當的統計量θ1^=θ1^(X1,⋯,Xk) 。每當有了樣本X1,⋯,Xn ,就帶入函數θ1^(X1,⋯,Xk) 中算出一個值,用來作爲θ1 的估計值。爲着這樣的特定目的而夠着統計量θ̂ 叫做θ1 的估計量。由於未知參數θ1 是數軸上的一點,用θ1 去估計θ ,等於用一個點去估計另一個點,所以這樣的估計叫做點估計。
點估計包含三種方法,包括矩估計法、極大似然估計法和貝葉斯估計法。我們將會在下面的博客一一介紹。