似然函數的概念

（源自：維基百科）

在數理統計學中，似然函數是一種關於統計模型中的參數的函數，表示模型參數中的似然性。

似然函數在統計推斷中有重大作用，如在最大似然估計和費雪信息之中的應用等等。“似然性”與“或然性”或“概率”意思相近，都是指某種事件發生的可能性，但是在統計學中，“似然性”和“或然性”或“概率”又有明確的區分。

概率 用於在已知一些參數的情況下，預測接下來的觀測所得到的結果，而

似然性 則是用於在已知某些觀測所得到的結果時，對有關事物的性質的參數進行估計。

 

在這種意義上，似然函數可以理解爲條件概率的逆反。

在已知某個參數B時，事件A會發生的概率寫作。

利用貝葉斯定理，

因此，我們可以反過來構造表示似然性的方法：已知有事件A發生，運用似然函數，我們估計參數B的可能性。

形式上，似然函數也是一種條件概率函數，但我們關注的變量改變了：

注意到這裏並不要求似然函數滿足歸一性：。一個似然函數乘以一個正的常數之後仍然是似然函數。對所有α > 0，都可以有似然函數：

 

 

例子：

考慮投擲一枚硬幣的實驗。通常來說，已知投出的硬幣正面朝上和反面朝上的概率各自是p_H = 0.5，便可以知道投擲若干次後出現各種結果的可能性。比如說，投兩次都是正面朝上的概率是0.25。用條件概率表示，就是：

其中H表示正面朝上。

在統計學中，我們關心的是在已知一系列投擲的結果時，關於硬幣投擲時正面朝上的可能性的信息。我們可以建立一個統計模型：假設硬幣投出時會有p_H 的概率正面朝上，而有1 − p_H 的概率反面朝上。這時，條件概率可以改寫成似然函數：

也就是說，對於取定的似然函數，在觀測到兩次投擲都是正面朝上時，p_H = 0.5 的似然性是0.25（這並不表示當觀測到兩次正面朝上時p_H = 0.5 的概率是0.25）。

如果考慮p_H = 0.6，那麼似然函數的值也會改變。

注意到似然函數的值變大了。這說明，如果參數p_H 的取值變成0.6的話，結果觀測到連續兩次正面朝上的概率要比假設p_H = 0.5時更大。也就是說，參數p_H 取成0.6 要比取成0.5 更有說服力，更爲“合理”。總之，似然函數的重要性不是它的具體取值，而是當參數變化時函數到底變小還是變大。對同一個似然函數，如果存在一個參數值，使得它的函數值達到最大的話，那麼這個值就是最爲“合理”的參數值。

在這個例子中，似然函數實際上等於：

， 其中。

如果取p_H = 1，那麼似然函數達到最大值1。也就是說，當連續觀測到兩次正面朝上時，假設硬幣投擲時正面朝上的概率爲1是最合理的。

類似地，如果觀測到的是三次投擲硬幣，頭兩次正面朝上，第三次反面朝上，那麼似然函數將會是：

， 其中T表示反面朝上，。

這時候，似然函數的最大值將會在的時候取到。也就是說，當觀測到三次投擲中前兩次正面朝上而後一次反面朝上時，估計硬幣投擲時正面朝上的概率是最合理的。