sklearn 使用软标签进行多标签、多分类训练的一种实现方法

目标场景

Multilabel classifcation in sklearn with soft (fuzzy) labels。
在sklearn中,使用软标签(one-hot标签:(1,0,0),软标签:(0.8,0.2,0))进行多标签分类问题。

解决方案

神经网络的训练方式(例如使用交叉熵作为损失函数时)是直接支持使用软标签训练的。
对于sklearn中的部分基础机器学习分类模型,无法直接支持软标签训练。
一个解决方案是,转化为回归问题解决,结合sklearn中MultiOutputRegressor 类。

样例代码

import numpy as np
from sklearn.ensemble import RandomForestRegressor
from sklearn.multioutput import MultiOutputRegressor
# 100 个样本 , 50个特征 , 5个标签
X_train = np.random.random((100,50))
y_train = np.random.random((100,5))

max_depth = 30
regr_multirf = MultiOutputRegressor(RandomForestRegressor(n_estimators=100,
                                                          max_depth=max_depth,
                                                          random_state=0))
regr_multirf.fit(X_train, y_train)
# 10个测试样本
X_test = np.random.random((10,50))
X_test_predict=regr_multirf.predict(X_test)

说明

测试环境:sklearn 0.22.2 python 3.6
这种方案只是目前测试的一个可能方案,有不妥之处或者有其他解决方案欢迎指出。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章