提升算法-boosting algorithm

WIKI

Boosting is a machine learning ensemble meta-algorithm for primarily reducing bias, and also variance[1] in supervised learning, and a family of machine learning algorithms that convert weak learners to strong ones.

  • 在分類問題中,通過改變訓練樣本的權重,學習多個分類器,並將這些分類器線性組合,提高分類的性能。

提升方法AdaBoost算法

  • 在每一輪如何改變訓練數據的權值或概率分佈?:提高那些被前一輪弱分類器錯誤分類樣本的權值,而降低那些被正確分類樣本的權值。這樣一來,那些沒有得到正確分類的數據,由於其權值的加大而受到後一輪的弱分類器的更大關注。於是,分類問題被一系列的弱分類問題“分而治之”。

  • 如何將弱分類器組合成一個強分類器?:加權多數表決的方法。

AdaBoost算法

 

 

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章