Pandas 基本用法

查看数据(查看对象的方法对于Series来说同样适用)
(1)查看DataFrame前xx行或后xx行
a=DataFrame(data);
a.head(6)表示显示前6行数据，若head()中不带参数则会显示全部数据。
a.tail(6)表示显示后6行数据，若tail()中不带参数则也会显示全部数据。

(2)查看DataFrame的index，columns以及values
a.index ; a.columns ; a.values 即可

(3)describe()函数对于数据的快速统计汇总
a.describe()对每一列数据进行统计，包括计数，均值，std，各个分位数等。

(4)对数据的转置
a.T

(5)对轴进行排序

DataFrame.sort_index(axis=0, level=None, ascending=True, inplace=False, kind='quicksort', na_position='last', sort_remaining=True, by=None)

a.sort_index(axis=1,ascending=False)；axis:取要排序的行或列，by通过以哪个字段排序，其中axis=1表示对所有的columns进行排序，下面的数也跟着发生移动。后面的ascending=False表示按降序排列，参数缺失时默认升序。
eg:了解女性朋友对影片的爱好，故按‘F’降序排序

top_female_ratings=mean_ratings.sort_index(by='F',ascending=False)

(6)对DataFrame中的值排序a.sort(columns=’x’)即对a中的x这一列，从小到大进行排序。注意仅仅是x这一列，而上面的按轴进行排序时会对所有的columns进行操作。
选择对象
(1)选择特定列和行的数据a[‘x’] 那么将会返回columns为x的列，注意这种方式一次只能返回一个列。a.x与a[‘x’]意思一样。
data.ix[0]选取数据，取第一行数据，因为下标从0开始
取行数据，通过切片[]来选择
如：a[0:3] 则会返回前三行的数据。

*(2)*loc是通过标签来选择数据a.loc[‘one’]则会默认表示选取行为’one’的行；a.loc[:,[‘a’,’b’] ] 表示选取所有的行以及columns为a,b的列；a.loc[[‘one’,’two’],[‘a’,’b’]] 表示选取’one’和’two’这两行以及columns为a,b的列；a.loc[‘one’,’a’]与a.loc[[‘one’],[‘a’]]作用是一样的，不过前者只显示对应的值，而后者会显示对应的行和列标签。

*(3)*iloc则是直接通过位置来选择数据这与通过标签选择类似a.iloc[1:2,1:2] 则会显示第一行第一列的数据;(切片后面的值取不到)a.iloc[1:2] 即后面表示列的值没有时，默认选取行位置为1的数据;a.iloc[[0,2],[1,2]] 即可以自由选取行位置，和列位置对应的数据。

(4)使用条件来选择使用单独的列来选择数据a[a.c>0] 表示选择c列中大于0的数据使用where来选择数据a[a>0] 表直接选择a中所有大于0的数据使用isin()选出特定列中包含特定值的行a1=a.copy()a1[a1[‘one’].isin([‘2’,’3’])] 表显示满足条件：列one中的值包含’2’,’3’的所有行。设置值（赋值）赋值操作在上述选择操作的基础上直接赋值即可。例a.loc[:,[‘a’,’c’]]=9 即将a和c列的所有行中的值设置为9，a.iloc[:,[1,3]]=9 也表示将a和c列的所有行中的值设置为9同时也依然可以用条件来直接赋值a[a>0]=-a 表示将a中所有大于0的数转化为负值缺失值处理在pandas中，使用np.nan来代替缺失值，这些值将默认不会包含在计算中。

(1)reindex()方法用来对指定轴上的索引进行改变/增加/删除操作，这将返回原始数据的一个拷贝。a.reindex(index=list(a.index)+[‘five’],columns=list(a.columns)+[‘d’])a.reindex(index=[‘one’,’five’],columns=list(a.columns)+[‘d’])即用index=[]表示对index进行操作，columns表对列进行操作。

(2)对缺失值进行填充a.fillna(value=x)表示用值为x的数来对缺失值进行填充(3)去掉包含缺失值的行a.dropna(how=’any’)表示去掉所有包含缺失值的行合并(1)contactcontact(a1,axis=0/1，keys=[‘xx’,’xx’,’xx’,…])，其中a1表示要进行进行连接的列表数据,axis=1时表横着对数据进行连接。axis=0或不指定时，表将数据竖着进行连接。a1中要连接的数据有几个则对应几个keys，设置keys是为了在数据连接以后区分每一个原始a1中的数据。例：a1=[b[‘a’],b[‘c’]]result=pd.concat(a1,axis=1，keys=[‘1’,’2’])(2)Append 将一行或多行数据连接到一个DataFrame上a.append(a[2:],ignore_index=True)表示将a中的第三行以后的数据全部添加到a中，若不指定ignore_index参数，则会把添加的数据的index保留下来，若ignore_index=Ture则会对所有的行重新自动建立索引。

(3)merge类似于SQL中的join设a1,a2为两个dataframe,二者中存在相同的键值，两个对象连接的方式有下面几种：
(1)内连接，pd.merge(a1, a2, on=’key’)(2)左连接，pd.merge(a1, a2, on=’key’, how=’left’)(3)右连接，pd.merge(a1, a2, on=’key’, how=’right’)(4)外连接， pd.merge(a1, a2, on=’key’, how=’outer’)至于四者的具体差别，具体学习参考sql中相应的语法。分组（groupby）用pd.date_range函数生成连续指定天数的的日期pd.date_range(‘20000101’,periods=10)此外用a.groupby(‘gender’).size()可以对各个gender下的数目进行计数。

operating_system=np.where(cfram['a'].str.contains('Windows'),'Windows','Not Windows') #对数据key为‘a’的数据包含windows的则存入operating_system中为window,否则为Not windows再按operating_system进行分组by_tz_os=cfram.groupby(['tz',operating_system])#通过size对分组结果进行计数(类似于value_counts函数)，并利用unstack对计数结果进行重塑agg_counts=by_tz_os.size().unstack().fillna(0)print agg_counts[:10]

categorical按某一列重新编码分类
如六中要对a中的gender进行重新编码分类，将对应的0，1转化为male，female，过程如下：

a['gender1']=a['gender'].astype('category')a['gender1'].cat.categories=['male','female']  #即将0，1先转化为category类型再进行编码。

所以可以看出重新编码后的编码会自动增加到dataframe最后作为一列。

相关操作
描述性统计：
(1)a.mean() 默认对每一列的数据求平均值；若加上参数a.mean(1)则对每一行求平均值；

(2)统计某一列x中各个值出现的次数：a[‘x’].value_counts()；

(3)对数据应用函数
a.apply(lambda x:x.max()-x.min())
表示返回所有列中最大值-最小值的差。

(4)字符串相关操作
a[‘gender1’].str.lower() 将gender1中所有的英文大写转化为小写，注意dataframe没有str属性，只有series有，所以要选取a中的gender1字段。

时间序列
在六中用pd.date_range(‘xxxx’,periods=xx,freq=’D/M/Y….’)函数生成连续指定天数的的日期列表。
例如pd.date_range(‘20000101’,periods=10),其中periods表示持续频数；
pd.date_range(‘20000201’,’20000210’,freq=’D’)也可以不指定频数，只指定起始日期。

此外如果不指定freq，则默认从起始日期开始，频率为day。其他频率表示如下：

画图(plot)
在pycharm中首先要：import matplotlib.pyplot as plt

a=Series(np.random.randn(1000),index=pd.date_range('20100101',periods=1000))b=a.cumsum()b.plot()plt.show()    #最后一定要加这个plt.show()，不然不会显示出图来。也可以用下面的代码生成多条图形：a=DataFrame(np.random.randn(1000，4),index=pd.date_range('20100101',periods=1000),columns=list('ABCD'))b=a.cumsum()b.plot()plt.show()

导入和导出文件

写入和读取excel文件
虽然写入excel表时有两种写入xls和csv，但建议少使用csv，不然在表中调整数据格式时，保存时一直询问你是否保存新格式，很麻烦。而在读取数据时，如果指定了哪一张sheet，则在pycharm又会出现格式不对齐。

还有将数据写入表格中时，excel会自动给你在表格最前面增加一个字段，对数据行进行编号。

eg:a.to_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',sheet_name='Sheet1')    a=pd.read_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls','Sheet1',na_values=['NA'])#注意sheet_name后面的Sheet1中的首字母大写；读取数据时，可以指定读取哪一张表中的数据，而且对缺失值补上NA。

最后再附上写入和读取csv格式的代码：

a.to_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv'，sheet_name='Sheet1')a=pd.read_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',na_values=['NA'])

datefram.take取数据：
DataFrame.take(indices, axis=0, convert=None, is_copy=True, **kwargs)
indices:array-like; axis=0行，axis=1为列，默认行；convert为bool, default True；is_copy : bool, default True是否返回拷贝好的一个对象

DataFrame.take(indices, axis=0, convert=None, is_copy=True, **kwargs) #indices:array-like; axis=0行，axis=1为列，默认行；convert为bool, default True；is_copy : bool, default True是否返回拷贝好的一个对象

 df.take([0, 3]) #取第1行和第4行数据，因为下标是0开始 df.take([1, 2], axis=1) #取第2列和第3列 df.take([-1, -2]) #取倒数第一行和倒数第二行数据

pandas.get_dummies one-hot编码:

 for col in columns[:-1]:        t = pd.get_dummies(data[col]) #one-hot编码        t = t.rename(columns=lambda x: col+'_'+str(x))        x = pd.concat((x, t), axis=1) #数据结构重塑