Sklearn-preprocessing.scale/StandardScaler/MinMaxScaler

1. 标准化

数据的标准化（normalization）是将数据按比例缩放，使之落入一个小的特定区间。这样去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。其中最典型的就是0-1标准化和Z标准化

• 0-1标准化(0-1 normalization)

也叫离差标准化，是对原始数据的线性变换，使结果落到[0,1]区间，转换函数如下：

其中max为样本数据的最大值，min为样本数据的最小值。这种方法有一个缺陷就是当有新数据加入时，可能导致max和min的变化，需要重新定义。

• Z-score标准化(zero-mean normalization)

也叫标准差标准化，经过处理的数据符合标准正态分布，即均值为0，标准差为1，其转化函数为：

 

其中μ为所有样本数据的均值，σ为所有样本数据的标准差。

2. sklearn相关类

• 使用sklearn.preprocessing.scale()函数，可以直接将给定数据进行标准化（Z-score 标准化）

sklearn.preprocessing.scale(X, axis=0, with_mean=True, with_std=True, copy=True)

>>> fromsklearn import preprocessing>>> importnumpy as np>>> X =np.array([[ 1., -1.,  2.],...               [ 2.,  0., 0.],...               [ 0.,  1., -1.]])>>>X_scaled = preprocessing.scale(X) >>>X_scaled                                         array([[ 0.  ..., -1.22...,  1.33...],       [ 1.22...,  0. ..., -0.26...],       [-1.22...,  1.22..., -1.06...]]) >>>#处理后数据的均值和方差>>>X_scaled.mean(axis=0)array([ 0.,  0., 0.])>>>X_scaled.std(axis=0)array([ 1.,  1., 1.])

• 使用sklearn.preprocessing.StandardScaler类，使用该类的好处在于可以保存训练集中的参数（均值、方差）直接使用其对象转换测试集数据。

classsklearn.preprocessing.StandardScaler(copy=True,with_mean=True, with_std=True)

>>> scaler= preprocessing.StandardScaler().fit(X)>>> scalerStandardScaler(copy=True,with_mean=True, with_std=True) >>>scaler.mean_                                     array([ 1. ...,  0. ..., 0.33...]) >>>scaler.std_                                      array([0.81...,  0.81...,  1.24...]) >>>scaler.transform(X)                              array([[ 0.  ..., -1.22...,  1.33...],       [ 1.22...,  0. ..., -0.26...],       [-1.22...,  1.22..., -1.06...]]) >>>#可以直接使用训练集对测试集数据进行转换>>>scaler.transform([[-1.,  1., 0.]])               array([[-2.44...,  1.22..., -0.26...]])

• preprocessing.MinMaxScaler类将属性缩放到一个指定的最大和最小值（通常是1-0）之间

把特征的样本均值变成0，标准差变成1，这种标准化处理并不是唯一的方法。preprocessing还有MinMaxScaler类，将样本数据根据最大值和最小值调整到一个区间内；通过MinMaxScaler类可以很容易将默认的区间0到1修改为需要的区间。

使用这种方法的目的包括：

1、对于方差非常小的属性可以增强其稳定性。

2、维持稀疏矩阵中为0的条目。

classsklearn.preprocessing.MinMaxScaler(feature_range=(0,1), copy=True)

，在构造类对象的时候也可以直接指定最大最小值的范围：feature_range=(min, max)，此时应用的公式变为：

X_std=(X-X.min(axis=0))/(X.max(axis=0)-X.min(axis=0))

X_scaled=X_std/(max-min)+min

>>> X_train= np.array([[ 1., -1.,  2.],...                     [ 2.,  0., 0.],...                     [ 0.,  1., -1.]])...>>>min_max_scaler = preprocessing.MinMaxScaler()>>>X_train_minmax = min_max_scaler.fit_transform(X_train)>>>X_train_minmaxarray([[ 0.5       , 0.        ,  1.       ],       [ 1.        , 0.5       ,  0.33333333],       [ 0.        , 1.        ,  0.       ]]) >>>#将相同的缩放应用到测试集数据中>>> X_test= np.array([[ -3., -1.,  4.]])>>>X_test_minmax = min_max_scaler.transform(X_test)>>>X_test_minmaxarray([[-1.5       , 0.        ,  1.66666667]]) >>>#缩放因子等属性>>>min_max_scaler.scale_                            array([ 0.5       , 0.5       ,  0.33...]) >>>min_max_scaler.min_                              array([ 0.        , 0.5       ,  0.33...])