參數估計
參數估計：是根據從總體中抽取的樣本估計總體分佈中包含的未知參數的方法。它是統計推斷的一種基本形式，是數理統計學的一個重要分支，分爲點估計和區間估計兩部分。
點估計：依據樣本估計總體分佈中所含的未知參數或未知參數的函數。
區間估計（置信區間的估計）：依據抽取的樣本，根據一定的正確度與精確度的要求，構造出適當的區間，作爲總體分佈的未知參數或參數的函數的真值所在範圍的估計。例如人們常說的有百分之多少的把握保證某值在某個範圍內，即是區間估計的最簡單的應用。
本文主要講述點估計的矩估計法和極大似然法
矩估計法：
矩估計法的理論依據是大數定律。矩估計是基於一種簡單的“替換”思想，即用樣本矩估計總體矩。
矩的理解：
在數理統計學中有一類數字特徵稱爲矩。
首先要明確的是我們求得是函數 的最大值，因爲log是單調遞增的，加上log後並不影響 的最大值求解。爲何導數爲0就是最大值：就是我們目前所知的概率分佈函數一般屬於指數分佈族（exponential family），例如正態分佈，泊松分佈，伯努利分佈等。所以大部分情況下這些條件是滿足的。但肯定存在那種不符合的情況，只是我們一般比較少遇到。
極大似然估計總結
似然函數直接求導一般不太好求,一般得到似然函數L(θ)之後,都是先求它的對數,即ln L(θ),因爲ln函數不會改變L的單調性.然後對ln L(θ)求θ的導數,令這個導數等於0,得到駐點.在這一點,似然函數取到最大值,所以叫最大似然估計法.本質原理嘛,因爲似然估計是已知結果去求未知參數,對於已經發生的結果（一般是一系列的樣本值）,既然他會發生,說明在未知參數θ的條件下,這個結果發生的可能性很大,所以最大似然估計求的就是使這個結果發生的可能性最大的那個θ.這個有點後驗的意思
————————————————
版權聲明：本文爲CSDN博主「六月麥茬」的原創文章，遵循 CC 4.0 BY-SA 版權協議，轉載請附上原文出處鏈接及本聲明。
原文鏈接：https://blog.csdn.net/liuyuemaicha/article/details/52497512