XGBoost参数解释：https://blog.csdn.net/qq_40587575/article/details/82886782
XGBoost参数调优：Complete Guide to Parameter Tuning in XGBoost with codes in Python
XGBoost算法是一种高度复杂的算法，功能强大，足以处理各种数据不规则性。
本文最适合XGBoost的新手。在本文中，我们将学习有关XGBoost的一些信息。
XGBoost的优势
1、正则化
标准GBM的实现没有像XGBoost这样的正则化步骤。正则化对减少过拟合也是有帮助的。
实际上，XGBoost以“正则化提升(regularized boosting)”技术而闻名。
2、并行处理
XGBoost实现了并行处理，并且与GBM相比，速度非常快。
XGBoost还支持在Hadoop上的实现。
3、高灵活性
XGBoost允许用户定义自定义优化目标和评估标准。
这为模型增加了一个全新的维度，所以我们的处理不会受到任何限制。
4、处理缺失值
XGBoost内置处理缺失值的规则。
用户需要提供一个和其它样本不同的值，然后把它作为一个参数传进去，以此来作为缺失值的取值。XGBoost在不同节点遇到缺失值时采用不同的处理方法，并且会学习未来遇到缺失值时的处理方法。
5、剪枝
当分裂时遇到一个负损失时，GBM会停止分裂。因此GBM实际上是一个贪心算法。
XGBoost会一直分裂到指定的最大深度(max_depth)，然后回过头来剪枝。如果某个节点之后不再有正值，它会去除这个分裂。
这种做法的优点，当一个负损失（如-2）后面有个正损失（如+10）的时候，就显现出来了。GBM会在-2处停下来，因为它遇到了一个负值。但是XGBoost会继续分裂，然后发现这两个分裂综合起来会得到+8，因此会保留这两个分裂。
6、内置交叉验证
XGBoost允许在每一轮boosting迭代中使用交叉验证。因此，可以方便地获得最优boosting迭代次数。
这与GBM不同，在GBM中，我们必须使用网格搜索，并且只能测试有限的值。
2、继续现有模型
XGBoost可以在上一轮的结果上继续训练。这个特性在某些特定的应用上是一个巨大的优势。
sklearn中的GBM的实现也有这个功能，两种算法在这一点上是一致的。
XGBoost参数
尽管有两种booster可供选择，这里只介绍tree booster，因为它的表现远远胜过linear booster，所以linear booster很少用到。
XGBClassifier(max_depth, learning_rate, n_estimators, silent,
objective, booster, n_jobs, nthread, gamma,
min_child_weight, max_delta_step, subsample,
colsample_bytree, colsample_bylevel, reg_alpha,
reg_lambda, scale_pos_weight, base_score,
random_state, seed, missing)
booster[默认gbtree]
选择每次迭代的模型，有两种选择：
gbtree：基于树的模型
gbliner：线性模型
objective[默认reg:linear]
回归任务
reg:linear (默认)
reg:logistic
二分类
binary:logistic 概率
binary：logitraw 类别
多分类
multi：softmax num_class=n 返回类别
multi：softprob num_class=n 返回概率
rank:pairwise
gamma[默认0]
在节点分裂时，只有分裂后损失函数的值下降了，才会分裂这个节点。
Gamma指定了节点分裂所需的最小损失函数下降值。
这个参数的值越大，算法越保守。
这个参数的值和损失函数息息相关，所以是需要调整的。
max_depth[默认6]
和GBM中的参数相同，这个值为树的最大深度。
这个值也是用来避免过拟合的。max_depth越大，模型会学到更具体更局部的样本。
需要使用CV函数来进行调优。
典型值：3-10
reg_lambda[默认1]
权重的L2正则化项。(和Ridge regression类似)。
这个参数是用来控制XGBoost的正则化部分的。
reg_alpha[默认1]
权重的L1正则化项。(和Lasso regression类似)。
可以应用在很高维度的情况下，使得算法的速度更快。
silent[默认0]
当这个参数值为1时，静默模式开启，不会输出任何信息。
一般这个参数就保持默认的0，因为这样能帮我们更好地理解模型。
learning_rate[默认0.3]
学习率，控制每次迭代更新权重的步长，默认0.3，值越小，训练越慢。
典型值为 0.01-0.2 。
n_esitimators
决策树的棵树，即总共迭代的次数。
min_child_weight[默认1]
决定最小叶子节点样本权重和。
和GBM的 min_child_leaf 参数类似，但不完全一样。
XGBoost的这个参数是最小样本权重的和，而GBM参数是最小样本总数。
这个参数用于避免过拟合。当它的值较大时，可以避免模型学习到局部的特殊样本。
但是如果这个值过高，会导致欠拟合。这个参数需要使用CV来调整。
subsample[默认1]
减小这个参数的值，算法会更加保守，避免过拟合。
但是，如果这个值设置得过小，它可能会导致欠拟合。
对于每棵树，随机采样的比例———随机选择多少样本建立决策树。
float型，如：0.8 取 80 % 的样本
典型值：0.5-1
scale_pos_weight[默认1]
正样本的权重。
在二分类任务中，当正负样本比例失衡时，设置正样本的权重，模型效果更好。
例如，当正负样本比例为1:10时，scale_pos_weight=10。
random_state
随机数的种子
设置它可以复现随机数据的结果，也可以用于调整参数。
colsample_bytree[默认1]
和GBM里面的max_features参数类似。
用来控制每棵随机采样的列数的占比(每一列是一个特征)。
典型值：0.5-1
colsample_bylevel[默认1]
用来控制树的每一级的每一次分裂，对列数的采样的占比。
subsample参数和colsample_bytree参数可以起到相同的作用。
max_delta_step[默认0]
这参数限制每棵树权重改变的最大步长。如果这个参数的值为0，那就意味着没有约束。
如果它被赋予了某个正值，那么它会让这个算法更加保守。
通常，这个参数不需要设置。
但是当各类别的样本十分不平衡时，它对逻辑回归是很有帮助的。
这个参数一般用不到，但是你可以挖掘出来它更多的用处。
nthread[默认值为最大可能的线程数]
这个参数用来进行多线程控制，应当输入系统的核数。
如果你希望使用CPU全部的核，那就不要输入这个参数，算法会自动检测它。
max_leaf_nodes
树上最大的节点或叶子的数量。
可以替代max_depth的作用。
因为如果生成的是二叉树，一个深度为n的树最多生成2 ^ n个叶子。
如果定义了这个参数，GBM会忽略max_depth参数。
XGBClassifier().fit() 参数
fit(self, X, y, sample_weight=None, eval_set=None,
eval_metric=None, early_stopping_rounds=None, verbose=True,
xgb_model=None, sample_weight_eval_set=None)
early_stopping_rounds
在验证集上，当连续n次迭代，分数没有提高后，提前终止训练。
作用：防止overfitting。
sample_weight
样本权重
eval_set
list 型，如：eval_set = [(X_test, y_test)]。
设置自定义样本，将使用列表的样本作为验证集，当迭代几次分数没提高，则终止。
eval_metric
评估标准。使用方法： eval_metric = 'error'
回归任务(默认rmse)
rmse--均方根误差
mae--平均绝对误差
分类任务(默认error)
auc--roc曲线下面积
error--错误率（二分类）
merror--错误率（多分类）
logloss--负对数似然函数（二分类）
mlogloss--负对数似然函数（多分类）
early_stopping_rounds
int 型，当连续迭代几次时，分数没有提高后，提前终止训练。
sample_weight_eval_set
list 型，每个特征样本作为验证集的权重。
代码实现
代码实现：https://www.cnblogs.com/wanglei5205/p/8579244.html
第一种方法：XGBClassifier
from sklearn import datasets
from sklearn.model_selection import train_test_split
from xgboost import XGBClassifier
import matplotlib.pyplot as plt
from sklearn.metrics import accuracy_score
from xgboost import plot_importance
%matplotlib inline
digits = datasets.load_digits()
X = digits.data
y = digits.target
# 训练测试集分割
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=666)
# 训练数据
xgb = XGBClassifier(learning_rate=0.1,
n_estimators=1000, # 树的个数--1000棵树建立xgboost
max_depth=6, # 树的深度
min_child_weight = 1, # 叶子节点最小权重
gamma=0., # 惩罚项中叶子结点个数前的参数
subsample=0.8, # 随机选择80%样本建立决策树
colsample_btree=0.8, # 随机选择80%特征建立决策树
objective='multi:softmax', # 指定损失函数
scale_pos_weight=1, # 解决样本个数不平衡的问题
random_state=666 # 随机数
)
xgb.fit(X_train,
y_train,
eval_set = [(X_test,y_test)],
eval_metric = "mlogloss",
early_stopping_rounds = 10,
verbose = True)
# 对测试集进行预测
y_predict = xgb.predict(X_test)
# 模型评估
accuracy = accuracy_score(y_test, y_predict)
print("accuarcy: %.2f%%" % (accuracy*100.0))
# 特征重要性分析
fig,ax = plt.subplots(figsize=(15,15))
plot_importance(xgb,
height=0.5,
ax=ax,
max_num_features=64)
plt.show()
accuarcy: 97.22%
第二种方法：xgboost
import xgboost as xgb
from xgboost import plot_importance
from matplotlib import pyplot as plt
params = {
'booster': 'gbtree',
'objective': 'multi:softmax',
'num_class': 10,
'gamma': 0.1,
'max_depth': 6,
'lambda': 2,
'subsample': 0.8,
'colsample_bytree': 0.8,
'min_child_weight': 1,
'eta': 0.1,
'seed': 666
}
plst = params.items()
dtrain = xgb.DMatrix(X_train, y_train)
num_rounds = 500
model = xgb.train(plst, dtrain, num_rounds)
# 对测试集进行预测
dtest = xgb.DMatrix(X_test)
y_predict = model.predict(dtest)
print("Accuracy: %.2f%% " % (accuracy_score(y_test, y_predict)*100.0))
# 特征重要性分析
fig,ax = plt.subplots(figsize=(15,15))
plot_importance(model,
height=0.5,
ax=ax,
max_num_features=64)
Accuracy: 97.50%