python对离散变量的one-hot编码

来源:互联网 发布:mac壁纸2560x1600 编辑:程序博客网 时间:2024/05/06 18:12

      我们在进行建模时,变量中经常会有一些变量为离散型变量,例如性别。这些变量我们一般无法直接放到模型中去训练模型。因此在使用之前,我们往往会对此类变量进行处理。一般是对离散变量进行one-hot编码。下面具体介绍通过python对离散变量进行one-hot的方法。

① pd.get_dummies(prefix=)

pandas的get_dummies()可以直接对变量进行one-hot编码,其中prefix是为one-hot编码后的变量进行命名。

LabelEncoder和OneHotEncoder

我们也可以通过sklearn的模块实现对离散变量的one-hot编码,其中LabelEncoder是将离散变量替换为数字,

OneHotEncoder则实现对替换为数字的离散变量进行one-hot编码。

get_dummies()可以直接对字符型变量进行one-hot编码,但OneHotEncoder不能直接对字符型变量编码,因此我们需要先将字符型变量转换为数值型变量。这就是为什么在OneHotEncoder之前需要LabelEncoder的原因。

下面我们通过实例来介绍这两种方法的具体使用:

①数据的导入

import pandas as pdimport osos.getcwd() os.chdir('E:\study\kaggle\Titanic')from sklearn.preprocessing import OneHotEncoder  from sklearn.preprocessing import LabelEncoder  data = pd.read_csv('train.csv')
②数据熟悉

data['Sex'].value_counts()Out[38]: male      577female    314Name: Sex, dtype: int64  #可以看到,变量Sex为字符型变量,取值有male和female两种
get_dummies

Sex_ohe_1 = pd.get_dummies(data['Sex'])Sex_ohe_1.head()Out[40]:    female  male0       0     11       1     02       1     03       1     04       0     1
OneHotEncoder

Sex_ohe_2 = OneHotEncoder(sparse=False).fit_transform(data['Sex'].reshape((-1,1))) ValueError: could not convert string to float: male  
可以看到OneHotEncoder无法直接对字符型变量进行编码,需要通过OneHotEncoder将字符型变量转换为数值型变量。
le_sex=LabelEncoder().fit(data['Sex'])  Sex_label=le_sex.transform(data['Sex'])  Sex_label= LabelEncoder().fit_transform(data['Sex']) #fit_transform等价于fit和transform两个函数结合ohe_sex=OneHotEncoder(sparse=False).fit(Sex_label.reshape(-1,1))  Sex_ohe=ohe_sex.transform(Sex_label.reshape(-1,1)) Sex_ohe_3 = OneHotEncoder(sparse=False).fit_transform(Sex_label.reshape((-1,1)))

注:get_dummies返回的为数据框,OneHotEncoder返回的为数组。




原创粉丝点击