GBDT面試

GBDT採用的是boosting的思想，先從初始訓練集訓練出一個基學習器，再根據基學習器的表現對訓練樣本分佈進行調整，使得基學習器做錯的訓練樣本在後續受到更多的關注，然後基於調整後的樣本分佈來訓練下一個基學習器，最後將所有基學習器加權結合。GDBT在傳統的boosting的基礎上，將以決策樹爲基函數的提升樹擬合殘差，利用損失函數的負梯度在當前模型的值作爲殘差的估計。