似然函數,極大似然估計(一文搞定,能用嘴說的不堆公式)

總體思想:已知結果,求概率密度函數
輸入:已知一個抽樣樣本的規律,一個存在未知量的概率密度函數
輸出:求得概率密度函數的未知量,獲得分佈規律

例子:1000個胃癌患者中,抽出100人調查體重值,我們大概能用一個函數描述出概率密度函數和體重的關係,f(a,b,c),但是我們不知道a,b,c,我們需要一種方法求a,b,c

我們會說了,我們已經抽出了一個樣本,我們可以直接求概率分佈,用小樣本代替整體的分佈……是可以這樣的,然而,問題來了……怎們求?
用最小二乘麼?讓我們的概率密度函數擬合我們的數據?這個不是一個凸函數,很可能出現局部極小值。。。。。種種。。。就有神級人物提出了似然函數

這裏一個比較重要的概念是,我們從總體中抽出了一個樣本(100人),我們爲什麼會抽出這個樣本?因爲在當前的概率密度下,這個樣本出現的可能性最大呀!!!!就像從逛街的商場(總樣本)中抽出100人(小樣本),我會問了,你大概猜測一下這是個男生多的樣本還是女生多的樣本(抽出的該樣本的概率),你肯定會說是女生多呀(抽出當前樣本的概率最大)!!!

因爲我們抽取是隨機抽取,因此每個個體之間互不干擾,這個樣本出現的概率是每個類別出現概率的乘積
比如:我們假設的概率是男生出現概率爲ax+b/c,女生出現的概率爲ax+b/c,x這裏定義爲男生爲1,女生爲0。
100個人的樣本的概率爲(ax1+b/c)*(ax2+b/c)*…………*(ax100+b/c)
加入統計的順序爲男女……女,那麼結果爲(a+b/c)(b/c)……(b\c)
我們要讓這個樣本的概率最大(過程中,我們就求出了我們的a、b、c,也就意味着我們的概率密度函數也就得到了)(當然上面只是二郎想到的例子,沒有任何數學嚴謹性)

這裏的100個人的樣本概率用符號表示
在這裏插入圖片描述
我們讓樣本概率最大的問題
在這裏插入圖片描述
這裏會看到有很多的相乘,爲了計算簡便,採用對數將乘換爲加
在這裏插入圖片描述
然後求導,導數爲0,即爲我們的極值

給幾道例題就更清楚了
習題來自百度文庫
https://wenku.baidu.com/view/437fdabecaaedd3382c4d3d3.html
在這裏插入圖片描述
在這裏插入圖片描述

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章