首页 > > 网络编程 > 其它 >

1.3预处理与热图

2018-10-11 09:59:18来源：博客园阅读 ()

　　在数据分析当中的东西还是很多的，我在这里只是启发式的介绍一下，了解到这方面的东西之后，使用的时候可以更快的找到解决办法，希望能对大家有所帮助。

　　这次，依然是使用的sklearn中的iris数据集，对其进行通过热图来展示。

　　预处理

　　sklearn.preprocessing是机器学习库中预处理的模块，可以对数据进行标准化处理，正则化等等，根据需求来使用。在这里利用它的标准化方法对数据进行整理。其他的方法可以自行查询。

Standardization标准化:将特征数据的分布调整成标准正态分布，也叫高斯分布，也就是使得数据的均值为0，方差为1。
标准化的原因在于如果有些特征的方差过大，则会主导目标函数从而使参数估计器无法正确地去学习其他特征。
标准化的过程为两步：去均值的中心化（均值变为0）；方差的规模化（方差变为1）。
在sklearn.preprocessing中提供了一个scale的方法，可以实现以上功能。

　　下面举个例子来看一下：

 1 from sklearn import preprocessing
 2 import numpy as np
 3 
 4 # 创建一组特征数据，每一行表示一个样本，每一列表示一个特征
 5 xx = np.array([[1., -1., 2.],
 6               [2., 0., 0.],
 7               [0., 1., -1.]])
 8 
 9 # 将每一列特征标准化为标准正太分布，注意，标准化是针对每一列而言的
10 xx_scale = preprocessing.scale(xx)
11 
12 xx_scale

　　经过对每列数据进行标准化处理之后的结果是：

array([[ 0.        , -1.22474487,  1.33630621],
       [ 1.22474487,  0.        , -0.26726124],
       [-1.22474487,  1.22474487, -1.06904497]])

　　可以看到，里面的数据发生了变化，数值比较小，也许有人可以一眼看出来，看不出来也没有关系，Python可以很方便的计算他们的一些统计量。

1 # 测试一下xx_scale每列的均值方差
2 print('均值：', xx_scale.mean(axis=0))  # axis=0指列，axis=1指行
3 print('方差：', xx_scale.std(axis=0))

　　上面已经介绍了标准化的是要将它转换成什么样，结果的确吻合，按列求均值和方差的结果为：

均值： [0. 0. 0.]
方差： [1. 1. 1.]

　　当然对于标准化其方差和均值也不是一定要一起进行，比如有时候仅仅希望利于其中一个方法，也是有办法的：

with_mean,with_std.这两个都是布尔型的参数，默认情况下都是true,但也可以自定义成false.即不要均值中心化或者不要方差规模化为1.

　　热图

　　关于热图在这里只简单提一下，因为网上关于它的资料已经很多很详细了。

　　在热图中，数据以矩阵的形式存在，属性范围用颜色的渐变来表示，在这里，使用pcolor绘制热图。

　　小栗子

　　还是从导库开始，然后加载数据集，对数据进行处理，然后绘制图像，并对图像做一些标注装饰等等。我习惯在代码中做注释，如果有不明白的，可以留言，我会及时回复。

 1 # 导入后续所需要的库
 2 from sklearn.datasets import load_iris
 3 from sklearn.preprocessing import scale
 4 import numpy as np
 5 import matplotlib.pyplot as plt
 6 
 7 # 加载数据集
 8 data = load_iris()
 9 x = data['data']
10 y = data['target']
11 col_names = data['feature_names']
12 
13 # 数据预处理
14 # 根据平均值对数据进行缩放
15 x = scale(x, with_std=False)
16 x_ = x[1:26,] # 选取其中25组数据
17 y_labels = range(1, 26)
18 
19 # 绘制热图
20 plt.close('all')
21 plt.figure(1)
22 fig, ax = plt.subplots()
23 ax.pcolor(x_, cmap=plt.cm.Greens, edgecolors='k')
24 ax.set_xticks(np.arange(0, x_.shape[1])+0.5) # 设置横纵坐标
25 ax.set_yticks(np.arange(0, x_.shape[0])+0.5)
26 ax.xaxis.tick_top() # x轴提示显示在图形上方
27 ax.yaxis.tick_left() # y轴提示显示在图形的左侧
28 ax.set_xticklabels(col_names, minor=False, fontsize=10) # 传递标签数据
29 ax.set_yticklabels(y_labels, minor=False, fontsize=10)
30 plt.show()