機器學習（五）：Bagging與Boosting

https://www.cs.rit.edu/~rlaz/prec20092/slides/Bagging_and_Boosting.pdf 
https://neilxu.gitbooks.io/mlnb/content/random_forests.html

1. Bagging

   Bagging(Breiman, 1996) 通過訓練許多基本分類器進行投票分類，每種基本分類器（如決策樹，神經網絡）通過投票的方式降低偏差增加方差。

   假設我們的任務是使用訓練數據學習一個模型，我們通過對訓練數據進行採樣劃分爲N個數據集，然後訓練N個基本的分類器。

   Q: 這些公式的含義？

2. Boosting

Boosting(Freund & Shapire, 1996) 通過訓練多個弱分類器，調整其權重並進行投票實現分類，如下圖：

Q: boosting與margin之間有什麼關係？