标签编码、独热编码大不同 - Python 实现

3,458 阅读2分钟

对于新手在做资料的特征工程时,会看到 Label Encoding 或 One Hot Encoding 两种对于类别行资料的编码方式,那他们之间究竟有什么不同呢?

直接讲结论:

  • 原始资料是有序离散值的话 => Label Encoding
  • 原始资料是无序离散值的话 => One Hot Encoding (Dummies)

以下分为两点说明:

为什么要将离散转数值?

因为大部分的模型都是基于数学运算,所以字串资料是无法运算的

为什么要将无序转 One-Hot?

所谓数学运算一般泛指用距离代表相似(几何观点),意思是会用转换后的两个值的差距作为其相似程度。

如果将性别栏位的男/女转换成 0, 1 ,二元的没问题 如果讲水果这个无序栏位中的频果、香蕉、西瓜,Label 成0, 1, 2 会隐含着「香蕉跟苹果」比「西瓜跟苹果」还要相似的意义,但这样是错误的。 如果是年龄这个有序栏位的老年、中年、少年,Label 成 0, 1, 2 就很恰当,到如果硬转成 One-Hot 反而将这个差距关系给拿掉。

在 Python 中实现

很巧的是,在 Python Pandas 跟 SciKit-Learn 两个套件中都有提供编码的操作。以下分别示范用法的不同:

① LabelEncoding

df = pd.DataFrame({'size':['XXL', 'XL', 'L', 'M', 'S']})

# Using Pandas
import pandas as pd 
cat = pd.Categorical(df['size'], categories=df['size'].unique(), ordered=True))
df['size_code'] = cat.codes

# Using sklearn
from sklearn import preprocessing 
le = preprocessing.LabelEncoder()
le.fit(df['tw'])
le.transform(df['size'])

② One Hot Encoding (Dummies)

# Using Pandas
df = pd.DataFrame({'A': ['a', 'b', 'a'], 'B': ['b', 'a', 'c'])
pd.get_dummies(df)

# Using sklearn
enc = preprocessing.OneHotEncoder()
enc.fit([[0, 0, 3], [1, 1, 0], [0, 2, 1], [1, 0, 2]])  
enc.transform([[0, 1, 3]]).toarray()

要注意的是,他们都是同样的动作,仅是不同的套件而已。


License

本著作由Chang Wei-Yaun (v123582)制作, 以创用CC 姓名标示-相同方式分享 3.0 Unported授权条款释出。