先驗概率後驗概率

  最近研究序列標註就學習一下條件隨機場然後看到推薦的貝葉斯然後看到"先驗概率,後驗概率"的概念.其實並不是很重要,很早以前也瞭解過,但是想着既然看到了就理解徹底吧.

  很多博客大多是給兩句官方解釋加個例子,就是捅不開那層窗戶紙,最後發現大家都是抄的百度百科的解釋,但是解釋很抽象,那我記錄一下自己的領悟以供複習.

百度百科"後驗概率"的簡介中原話:

"事情還沒有發生,要求這件事情發生的可能性的大小,是先驗概率。事情已經發生,要求這件事情發生的原因是由某個因素引起的可能性的大小,是後驗概率。"

個人理解:

所謂的"事情沒有發生"的意思就是我們要計算的這件事情在理想狀態下,按以往事件正常發生的數據來統計頻率計算得到的概率,主觀上也會認爲這種統計的概率就是事件的概率,比如拋硬幣,落地正面朝上的概率就是0.5,這是先驗概率

而後面的"事情已經發生"的意思是我們要計算的這件事已經發生了,但是我們發現它並不是在理想狀態下發生的,是有一些因素或條件影響了它,那麼我們的先驗概率就不準確了,而在這種真實的"不理想"或者有干擾的情況下發生的概率就是後驗概率.比如拋硬幣,我們限制拋起時正面朝上拋起,在這種條件下落地正面朝上的概率就是後驗概率.也是條件概率.

百度百科"後驗概率"的簡介中原話:

"後驗概率是指在得到“結果”的信息後重新修正的概率,是“執果尋因”問題中的"果"。先驗概率與後驗概率有不可分割的聯繫,後驗概率的計算要以先驗概率爲基礎"

個人理解:

"重新修正的概率"是什麼意思,因爲我們認爲的概率是根據歷史數據得到的理想狀態下的概率(先驗概率),但是當事情發生後我們發現事情發生的概率不是我們早先認爲的概率(這也是"執果尋因"中的"果",事情發生的概率結果和我們想的不一樣,那就要尋找原因了),所以找到影響因素後,就要計算或統計這種真實因素影響下事件發生的概率,這種概率是準確的,所以說是對原來概率(先驗概率)的修正

百度百科"後驗概率"的簡介中原話:

"先驗概率不是根據有關自然狀態的全部資料測定的,而只是利用現有的材料(主要是歷史資料)計算的;後驗概率使用了有關自然狀態更加全面的資料,既有先驗概率資料,也有補充資料;"

個人理解:

全部資料就是全部數據的意思,先驗概率只是根據歷史數據進行計算的,當然不夠準確,而後驗概率是根據當前事件真實的結果回溯事件發生時的影響因素,得到的概率,當然比之前的想當然更準確.

用神經網絡來舉例: 第1個epoch中,第9個batch數據傳進去計算損失值反向傳播參數進行更新後, 先驗概率就是對第下一個batch的數據來說當前各個參數下對結果數據的預測,這裏的下一個batch數據是理想中的類似前面9個batch的數據,根據歷史經驗得到的結果,然而第10個batch中的數據並不同與前面的數據,會有新的影響因素出現,就需要對各參數做更新,這種更新就需要考慮到新的因素出現的情況下得到某結果的概率,這種概率,這就是後驗概率,這裏的先驗後驗相對的事件就是第10個batch的數據.

越解釋越抽象,還是多看博客吧,看多了就頓悟了.

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章