原创 基於ID3、C4.5與CART的決策樹三生成與剪枝原理詳解

基於ID3、C4.5與CART的決策樹三生成與剪枝原理詳解1、決策樹學習決策樹學習本質:從訓練數據集中歸納出一組分類規則。可能有多個,可能沒有。我們需要的是一個與訓練數據矛盾較小的決策樹,同時具有很好的泛化能力。另一方面看,決策樹表示一個

原创 無約束優化和有約束優化原理

由於文章涉及大量公式,在CSDN中公式又很難編輯,所以全部在word中編輯好然後直接上圖片了。  

原创 Python下Gradient Boosting Machine(GBM)調參完整指導

Python下Gradient Boosting Machine(GBM)調參完整指導 簡介:如果你現在仍然將GBM作爲一個黑盒使用,或許你應該點開這篇文章,看看他是如何工作的。 Boosting 算法在平衡偏差和方差方面扮演了重要角色。

原创 用xgboost模型對特徵重要性進行排序

用xgboost模型對特徵重要性進行排序 在這篇文章中,你將會學習到: xgboost對預測模型特徵重要性排序的原理(即爲什麼xgboost可以對預測模型特徵重要性進行排序)。 如何繪製xgboost模型得到的特徵重要性條形圖。 如何根據

原创 RandomForest algorithm之python實現

    RandomForest algorithm之python實現          寫在之前:像一個優秀的工程師一樣使用機器學習,而不要像一個機器學習專家一樣使用機器學習方法。--Google       這句話一直是我進行機器學習

原创 xgboost原理詳解

xgboost原理詳解 不多說,是我看過的寫的最好的xgboost原理詳解博客,沒有之一。絕對的良心資源。如果所有機器學習算法原理詳解都能寫成這樣,機器學習將變成一種享受。向原作者致謝! 轉載文章鏈接:https://blog.csdn.