机器学习--Adaboost

boosting思想

在这里插入图片描述

算法流程

1.考虑权值进去,初始化相等权值
在这里插入图片描述
2.给基本分类器加权值!
谁的误差率越小,谁的权值就越大!
在这里插入图片描述
3.更新样本权值
若样本预测错误,测样本的权值升高!
在这里插入图片描述
4.构建基本分类器的线性组合,得到最终分类器
在这里插入图片描述

为什么能收敛?

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

理解

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
bagging:基分类器相互独立
m*(均值/m) = 均值
m*(方差/m)^2 = 方差/m
故方差可以减小
boosting:基分类器基于之前的基分类器改进,可以减小偏差

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章