python数据分析1

Python是一门拥有众多库的语言，用于数据分析十分方便。

一.数据质量分析
1.1异常值分析
使用箱型图进行分析。箱型图提供了识别一场值的标准，具体如下图所示。

在Python中可以使用pandas进行数据的查看（需要读入数据，然后使用describe（）函数就可以查看数据的基本情况）

#coding:utf-8import pandas as pd catering_sale = '/home/xiao/Desktop/analysis/3/catering_sale.xls'data = pd.read_excel(catering_sale, index_col = u'日期')data.describe()

使用箱型图对数据进行分析：

#-*- coding: utf-8 -*-import pandas as pdcatering_sale = '/home/xiao/Desktop/analysis/3/catering_sale.xls' #餐饮数据data = pd.read_excel(catering_sale, index_col = u'日期') #读取数据，指定“日期”列为索引列import matplotlib.pyplot as plt #导入图像库plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号plt.figure() #建立图像p = data.boxplot(return_type='dict') #画箱线图，直接使用DataFrame的方法x = p['fliers'][0].get_xdata() # 'flies'即为异常值的标签y = p['fliers'][0].get_ydata()y.sort() #从小到大排序，该方法直接改变原对象#用annotate添加注释#其中有些相近的点，注解会出现重叠，难以看清，需要一些技巧来控制。#以下参数都是经过调试的，需要具体问题具体调试。for i in range(len(x)):   if i>0:    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.05 -0.8/(y[i]-y[i-1]),y[i]))  else:    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.08,y[i]))plt.show() #展示箱线图

1.2数据特征分析
分析指标：极差/标准差/变异系数/四分位数间距。

#-*- coding: utf-8 -*-#餐饮销量数据统计量分析from __future__ import print_functionimport pandas as pdcatering_sale = '/home/xiao/Desktop/analysis/3/catering_sale.xls' #餐饮数据data = pd.read_excel(catering_sale, index_col = u'日期') #读取数据，指定“日期”列为索引列data = data[(data[u'销量'] > 400)&(data[u'销量'] < 5000)] #过滤异常数据statistics = data.describe() #保存基本统计量statistics.loc['range'] = statistics.loc['max']-statistics.loc['min'] #极差statistics.loc['var'] = statistics.loc['std']/statistics.loc['mean'] #变异系数statistics.loc['dis'] = statistics.loc['75%']-statistics.loc['25%'] #四分位数间距print(statistics)

结果如下：

1.3贡献度分析
贡献度又称为帕累托分析，原理是帕累托法则，又称为20/80定律。

#coding:utf-8from __future__ import print_functionimport pandas as pd dish_profit = '/home/xiao/Desktop/analysis/3/catering_dish_profit.xls'data = pd.read_excel(dish_profit, index_col = u'菜品名')data = data[u'盈利'].copy()#data = data.sort_index(ascending = False)import matplotlib.pyplot as plt plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签plt.rcParams['axes.unicode_minus'] = False#plt.figure()data.plot(kind = 'bar')plt.ylabel(u'profit(yuan)')p = 1.0*data.cumsum()/data.sum()###用于累加，cumprod用于累乘p.plot(color = 'r', secondary_y = True, style = '-o', linewidth = 2)plt.annotate(format(p[6], '.4%'), xy = (6, p[6]), xytext=(6*0.9, p[6]*0.9), arrowprops=dict(arrowstyle="->", connectionstyle="arc3,rad=.2")) #添加注释，即85%处的标记。这里包括了指定箭头样式。plt.ylabel(u'percentage')plt.show()

1.4相关性分析
分为直接绘制散点图与绘制散点图矩阵。
散点图矩阵可以用于对多个变量的关系进行分析，在进行多原线性回归会比较重要。
1.4.1pearson相关系数

1.4.2spearman秩相关系数

在实际应用中，上面两个相关系数都要进行假设检验，使用t检验方法检验显著性水平以确定相关程度。在正态分布假设下，spearman秩相关系数与pearson相关系数在效率上等价，对于连续测量数据，用Pearson相关系数更好。

1.4.3判定系数
判定系数是相关系数的平方，越接近1说明相关行越强。
使用corr()函数进行统计。

1.5数据统计函数
sum():计算数据样本的总和（按列计算）；
mean():算数平均数
var()：计算数据样本的方差
std()：计算数据样本的标准差
corr()：计算数据样本的Spearman（Pearson）相关系数矩阵
cov()：协方差矩阵
skew()：偏度
kurt()：峰度
describe()：样本的基本描述（基本统计量）

函数的使用

#coding:utf-8import pandas as pd import numpy as np d = pd.DataFrame([range(1,8),range(2,9)])#一行1-7，一行2-8dd.corr(method = 'pearson')#计算相关系数矩阵s1 = d.loc[0]#提取第一行s2 = d.loc[1]#提取第二行s1.corr(s2,method = 'pearson')#计算两行的相关系数dd = pd.DataFrame(np.random.randn(6,5))#产生6*5随机矩阵dd.cov()#协方差矩阵dd[0].cov(dd[1]#第一列和第二列的协方差

1.6扩展统计特征函数
pandas除了提供基本操作，还提供计算统计特征的函数，主要有累计计算（cum）和滚动计算（pd.rolling_）

函数的使用

1.7出图
Python主要的做图库是matplotlib，一般是结合pandas进行使用。

作图之前一般要敲以下代码：

#coding:utf-8import matplotlib as plt plt.rcParams['font.sans-serif'] = ['SimHei']plt.rcParams['axes.unicode_minus'] = Falseplt.figure(figsize = (7,5))

作图完成后使用plt.show()显示结果。
（1）plot

#coding:utf-8#在区间绘制一条蓝色的正弦曲线import matplotlib.pyplot as plt import pandas as pd import numpy as np plt.rcParams['font.sans-serif'] = ['SimHei']plt.rcParams['axes.unicode_minus'] = Falsex = np.linspace(0,2*np.pi,50)y = np.sin(x)plt.plot(x,y,'bp--')plt.show()

（2）pie

labels = 'frogs','hogs','dogs','logs'sizes = [15,30,45,10]#比例colors = ['yellowgreen','gold','lightskyblue','lightcoral']explode = (0, 0.1, 0, 0)#突出显示，仅突出第二块plt.pie(sizes, explode = explode, labels = labels, colors = colors, autopct = '%1.1f%%',shadow = True, startangle = 90)plt.axis('equal')#显示为圆，避免比例压缩plt.show()

（3）hist

x = np.random.randn(1000)plt.hist(x,10)plt.show()

（4）boxplot

（5）plot(logx = True) / plot(logy = True)

x = pd.Series(np.exp(np.arange(20)))x.plot(label = u'原始数据图',legend = True)##legend用于图例plt.show()x.plot(logy = True, label = u'对数数据图',legend = True)plt.show()

(6)plot(yerr=error)

error = np.random.randn(10)y = pd.Series(np.sin(np.arange(10)))y.plot(yerr = error)plt.show()

总结
刚开始接触这些库有些不熟练，需要查找更多的资料进行编程实践。