原创 機器學習基礎知識點

網上總看到的一些機器學習基礎知識,現在爲了自己更好的學習,總結一下,列出一個大綱,然後我再分節去記錄。 機器學習常見問題 1.幾種模型(SVM,LR,GBDT,EM)的原理及公式推導 2. RF,GBDT的區別;GBDT,Xgboost

原创 這就是XGBoost算法原理

說到XGBoost,不得不說GBDT,GBDT(Gradient Boosting Decision Tree) 又叫 MART(Multiple Additive Regression Tree),是一種迭代的決策樹算法,該算法由多棵決

原创 最簡單的信息熵

信息熵的公式 H(X)=−∑p(xi)log(p(xi))H(X)=−∑p(xi)log(p(xi)) 其中X表示隨機變量,隨機變量的取值爲(x1,x2,...,xn)(x1,x2,...,xn) ,p(xi)p(xi) 表示事件xixi

原创 TJU小白的第一天記錄

今天是本小白第一次寫博客,我會記錄下我學習到的東西,一直想寫啦,今天終於提起筆,那就立個flag開始記錄嘍~ 由於最近學習的內容,我會主要在深度學習領域進行學習,我想我會在強化學習,自然語言處理(待學習),情感分析,圖像,機器學習算法,數

原创 你想看的集成學習之bagging和boosting區別特徵及例子

這篇文章主要講述集成學習的bagging和boosting。 首先bagging和boosting是集成學習的兩個大家族,每個家族也包括很多成員,例如boosting包括adaboost、xgboost,bagging也有RandomFo

原创 機器學習小白最想看的SVM

我通過這篇博客https://blog.csdn.net/d__760/article/details/80387432,對SVM的理解學到很多,具體的推導過程大家可以看裏面,我通過用一種最好不用數學的方式把我的理解展示出來,給一些新手,