目标场景
Multilabel classifcation in sklearn with soft (fuzzy) labels。
在sklearn中,使用软标签(one-hot标签:(1,0,0),软标签:(0.8,0.2,0))进行多标签分类问题。
解决方案
神经网络的训练方式(例如使用交叉熵作为损失函数时)是直接支持使用软标签训练的。
对于sklearn中的部分基础机器学习分类模型,无法直接支持软标签训练。
一个解决方案是,转化为回归问题解决,结合sklearn中MultiOutputRegressor 类。
样例代码
import numpy as np
from sklearn.ensemble import RandomForestRegressor
from sklearn.multioutput import MultiOutputRegressor
# 100 个样本 , 50个特征 , 5个标签
X_train = np.random.random((100,50))
y_train = np.random.random((100,5))
max_depth = 30
regr_multirf = MultiOutputRegressor(RandomForestRegressor(n_estimators=100,
max_depth=max_depth,
random_state=0))
regr_multirf.fit(X_train, y_train)
# 10个测试样本
X_test = np.random.random((10,50))
X_test_predict=regr_multirf.predict(X_test)
说明
测试环境:sklearn 0.22.2 python 3.6
这种方案只是目前测试的一个可能方案,有不妥之处或者有其他解决方案欢迎指出。