Bernouli Distribution(中文翻譯稱伯努利分佈)
該分佈研究的是一種特殊的實驗,這種實驗只有兩個結果要麼成功要麼失敗,且每次實驗是獨立的並每次實驗都有固定的成功概率p。
概率公式可以表示爲 , x只能爲0或者1,即要麼成功要麼失敗
根據數學期望的性質
由於這裏x只有兩個取值所以該分佈的數學期望爲
方差則可以由方差公式來計算
方差公式:
該分佈顯然, 因此可以得到,
所以方差
最後我們來推導該分佈的最大似然估計
是這樣定義的,假設我們做了N次實驗,得到的結果集合爲 ,我們想找到一個,使得該集合的可能性最大,由於各項實驗之間是獨立的,可以運用乘法原理,那麼
由於0<p<1,要使上面的式子最大,等價於使加上ln底的式子值最大,我們加上ln的底就可以將連乘轉換爲加和的形式,推導公式如下
再由最大似然方程可知,要選取p使該式子最大,則只要使該式對p進行求導的值爲0,即
,
化簡後我們最終求得
, 這個就是伯努利分佈的最大似然估計