数据归一化方法

数据标准化(归一化)处理是数据挖掘的一项基础工作,不同评价指标往往具有不同的量纲和量纲单位,这样的情况会影响到数据分析的结果,为了消除指标之间的量纲影响,需要进行数据标准化处理,以解决数据指标之间的可比性。原始数据经过数据标准化处理后,各指标处于同一数量级,适合进行综合对比评价。以下是三种常用的归一化方法:

min-max标准化(Min-Max Normalization)

也称为离差标准化,是对原始数据的线性变换,使结果值映射到[0 , 1]之间。转换函数如下:


其中max为样本数据的最大值,min为样本数据的最小值。这种方法有个缺陷就是当有新数据加入时,可能导致max和min的变化,需要重新定义。

min-max标准化python代码如下:

import numpy as np arr = np.asarray([0, 10, 50, 80, 100])for x in arr:    x = float(x - np.min(arr))/(np.max(arr)- np.min(arr))    print x # output# 0.0# 0.1# 0.5# 0.8# 1.0

使用这种方法的目的包括:

  • 1、对于方差非常小的属性可以增强其稳定性;
  • 2、维持稀疏矩阵中为0的条目。

下面将数据缩至0-1之间,采用MinMaxScaler函数

from sklearn import preprocessing    import numpy as np   X = np.array([[ 1., -1.,  2.],                 [ 2.,  0.,  0.],                 [ 0.,  1., -1.]])   min_max_scaler = preprocessing.MinMaxScaler()   X_minMax = min_max_scaler.fit_transform(X)  

最后输出:

array([[ 0.5       ,  0.        ,  1.        ],         [ 1.        ,  0.5       ,  0.33333333],         [ 0.        ,  1.        ,  0.        ]])  

测试用例:

注意:这些变换都是对列进行处理。

当然,在构造类对象的时候也可以直接指定最大最小值的范围:feature_range=(min, max),此时应用的公式变为:

X_std=(X-X.min(axis=0))/(X.max(axis=0)-X.min(axis=0))  X_minmax=X_std/(X.max(axis=0)-X.min(axis=0))+X.min(axis=0))

​​​

Z-score标准化方法

也称为均值归一化(mean normaliztion), 给予原始数据的均值(mean)和标准差(standard deviation)进行数据的标准化。经过处理的数据符合标准正态分布,即均值为0,标准差为1。转化函数为:


其中 μμ 为所有样本数据的均值,σσ为所有样本数据的标准差。

import numpy as np arr = np.asarray([0, 10, 50, 80, 100])for x in arr:    x = float(x - arr.mean())/arr.std()    print x # output# -1.24101045599# -0.982466610991# 0.0517087689995# 0.827340303992# 1.34442799399

参考来源:

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 【转载】数据归一化和两种常用的归一化方法 数据标准化(归一化)处理是数据挖掘的一项基础工作,不同评价指标往往具有不...
    深思海数_willschang阅读 3,919评论 0 1
  • 数据的标准化 在数据分析之前,我们通常需要先将数据标准化(normalization),利用标准化后的数据进行...
    瑚楊AFPMCC阅读 11,430评论 0 5
  • 数据的标准化(normalization)和归一化 数据的标准化(normalization) 将数据按比例缩放,...
    单细胞空间交响乐阅读 15,613评论 0 7
  • 安装wordcloud: python -m pip install --upgrade pip pip inst...
    wshsdm阅读 5,104评论 0 0
  • 戌二、第二義(分三科)亥一、標遠離攝【若遠離攝正語業命,彼於證得無漏作意諸覺支時,先已獲得。】前邊把正語、正業、正...
    德虔阅读 1,651评论 0 0