为什么要有放回抽样
- 如果不放回抽样，每棵树用的样本完全不同，结果是有偏的，基学习器之间的相似性小，投票结果差，模型偏差大
- 如果不抽样，基学习器用所有样本，那么模型的泛化能力弱，基学习器之前相似性太大差异性太小，模型的偏差大
- 为什么不随机抽样？ 自助采样首先可以产生一部分袋外样本，可以用来做袋外估计，另一方自助采样一定程度上改变了每个基学习器的所用数据的样本分布，一定程度上引入了噪音，增加了模型的泛化能力
随机森林有放回抽样
發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章