独热编码(OneHotEncoder)和标签编码(LabelEncoder)

数据分类

我们在构建模型对数据进行训练之前,需要对数据进行特征工程,我们的数据可以分为连续型和离散型。
对于连续型数据,我们一般的做法是对其进行标准化或者归一化,之前写过一篇标准化和归一化的介绍,大家有兴趣的可以看一下:https://blog.csdn.net/weixin_43172660/article/details/83826051
对于离散型数据,我们基本就是按照one-hot(独热)编码,该离散特征有多少取值,就用多少维来表示该特征。

独热编码(OneHotEncoder)

对于离散型数据,比如一个特征为颜色,他一共有三个值,分别为红,蓝,绿,按照正常想法,我们可能认为,令红色=0,蓝色=1,绿色=2,这样对数据进行了编码,但是,如果把这些数据放到需要计算距离的或者其他模型中,模型会认为重要性是绿色>蓝色>红色。但这并不是我们的让机器学习的本意,只是想让机器区分它们,并无大小比较之意。所以这时标签编码是不够的,需要进一步转换。我们可以设置,这个特征有三个取值,我们可以设置三列,分别是红,蓝,绿,对于红色,它的取值是1,0,0,对于蓝色,它的取值是0,1,0,而对于绿色,它的取值是0,0,1。如此一来每两个向量之间的距离都是根号2,在向量空间距离都相等,所以这样不会出现偏序性,基本不会影响基于向量空间度量算法的效果。下面我们来举一个例子,利用sklearn实现独特编码。

from sklearn import preprocessing #引入数据预处理模块
ohe = preprocessing.OneHotEncoder()
ohe.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])#先fit
ohe.transform([[0, 1, 3]]).toarray()#后transform

输出

array([[1., 0., 0., 1., 0., 0., 0., 0., 1.]])

说下这个例子,一共有三个特征。
第一个特征的取值是0,1,
第二个特征的取值是0,1,2,
第三个特征的取值是0,1,2,3。
第一个特征,我们可以把它变成两列,如果取值是0,则这两列的取值是1,0 如果取值是1,则为0,1。
第二个特征,变成三列,取值分别为1,0,0 / 0,1,0 / 0,0,1
第三个特征,变成四列,取值分别为1,0,0,0 / 0,1,0,0 / 0,0,1,0 / 0,0,0,1
通过独热编码,三列的特征被我们变成了2+3+4=9列的特征。
对于0,1,3这个数字,我们就变为了1,0,0,1,0,0,0,0,1。

独热编码优点

通过独热编码,会让特征之间的距离计算更加合理,并且,将特征转为0,1,有利于提升计算速度。要是one hot encoding的类别数目不太多,建议优先考虑。 当类别的数量很多时,特征空间会变得非常大。在这种情况下,一般可以用PCA来减少维度。而且one hot encoding+PCA这种组合在实际中也非常有用。

标签编码(LabelEncoder)

刚才那个,例子,我们将红,蓝,绿转化为0,1,2就是标签编码,将转换成连续的数值型变量。即是对不连续的数字或者文本进行编号。举一个简单的例子:

from sklearn.preprocessing import LabelEncoder
le = LabelEncoder()
le.fit([1,5,67,100])
print(le.classes_)
le.transform([1,1,100,67,5])

输出

array([0,0,3,2,1])

总结

上面基本介绍了,如果遇到了离散型数据,我们需要怎么处理,这样有利于我们进行模型预测, 提高准确率。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章