機器學習大全

1 機器學習基礎

（1）統計學習方法

• 【讀書筆記】統計學習方法
• 【知識拓展】 風險模型之機器學習的損失函數

（2）機器學習分類

• 【知識拓展】機器學習分類
• 【知識拓展】機器學習算法彙總及常用指標總結

2 算法分類

按功能區分,機器學習分爲四大塊： classification (分類)， clustering (聚類), regression (迴歸), dimensionality reduction (降維)。

（1）監督學習

分類問題和迴歸問題
分類算法

1）迴歸（Regression）

（1）線性迴歸

（2）邏輯迴歸

（3）嶺迴歸&Lasso迴歸

（4）CART迴歸

（5）Logistic Regression

（6）Softmax Regression

2）Factorization Machine

3）SVM支持向量機（Support Vector Machines）

4）SGD隨機梯度下降算法

5）DTA決策樹分類器（Decision Tree Algorithm）

• 【知識拓展】決策樹算法原理及案例

（1）ID3

（2）C4.5

（3）CART

6）集成學習（Ensembling）

（1）bagging

① Random Forests 隨機森林

• 【項目實戰】：機器學習算法—隨機森林實現（包括迴歸和分類）
• 【項目實戰】：隨機森林原理與sklearn 使用

（2）boosting

① Adaboost

② GBDT

③ XGBoost

（3）stacking

• K近鄰算法KNN

5）Bayes貝葉斯

（2）無監督學習

聚類算法

1）K均值算法K-Means

2）Mean Shift

3）DBSCAN

4）Label Propagation

（3）強化學習

1）BP神經網絡

（4）推薦算法

1）協同過濾算法

2）基於矩陣分解的推薦算法

3）基於圖的推薦算法

• 【知識拓展】：推薦系統實戰

（5）深度學習

1）AutoEncoder

2）卷積神經網絡

馬爾科夫
神經網絡