读写
创建DataFrame
df = pd.DataFrame(dict,index=[ ]) #从字典
df = pd.DataFrame(array,columns=[ ], index=[ ]) #从矩阵,如没有定义列名、索引名,默认数字
data.loc[data.shape[0], :] = [:] #逐行加入df读取列名、索引
df.columns
df.index读取csv
df = pd.read_csv()写CSV
df.to_csv(path,index=False)默认显示前五行
df.head()通过名称索引
df.loc[row,col]通过数字索引
df.iloc[row,col]
修改、删增
- 删除行(axis=0)、列(axis=1)
df.drop([ ],inplace=False,axis=0) - 改变索引
df.set_index(colunms=[ ],inplace=False) - 重置0开始的索引
df = df.reset_index(drop=True) - 重新索引
df = df.reindex(index=[ ],columns=[ ]) # 对行和列均可以重新索引 - 改变列名
df.rename(columns=({'old':'new','old1':'new1'}),inplace=True) - 组合两个dataframe
df = pd.concat([df1,df2],axis=1) #axis=1增加列 ;axis=0增加行
df = df1.append(df2) #增加行,同上axis=0的情况,可用作逐行添加数据
df1.join(df2,how='inner/outer') #增加行,默认保留df1的全部索引,inner表示保留交集索引,outer保留并集索引
计算
- 求和
df.sum() #对每列求和
df.sum(1) #对行求和 - 求均值、最大、最小值
df.mean() #对每列求平均
df.mean(1) #对行
df.max()
df.min()
数据处理
- 正则匹配
series.str.extract(pat, flags=0, expand=None)
#pat : 字符串或正则表达式
#flags : 整型,
#expand : 布尔型,是否返回DataFrame
#Returns:数据框dataframe/索引index - 去重复
df.drop_duplicates(cols,keep='first',inplace=True) - 空值处理
df.dropna(inplace=True) #去空值
df.fillna(0) #替换空值为0 - 显示基本信息(包括行列数、每行非空数据条数等)
df.info() - 改变列的数据类型
df[ ].astype() - 显示数值特征
df.describe() - 显示数据分布
df[ ].value_counts(normalize=True) #normalize=True显示比例,不加显示数量 - 根据某个列的值排序
df.sort_values(by='xxxx', ascending=False).head()
df.sort_values(by=['xxxx', 'yyyy'], ascending=[True, False]).head() #根据多个列的数值排序
-应用函数至每一列
df.apply() #一般用lambda表示函数
df.apply( ,axis=1) #应用到每一行 - 替换某一列中的值
df[xxxx'] = df['xxxx'].map(dict)
df = df.replace({'xxxx': dict}) - 分组数据
df.groupby(by=grouping_columns)[columns_to_show].function()
#groupby方法根据grouping_columns的值进行分组。
#接着,选中感兴趣的列(columns_to_show)。如果不包括这一项,那么会包括所有非groupby列。
#最后,应用一个或多个函数。 - 列联表
pd.crosstab(df['xxxx'],df['yyyy'],normalize=False) - 透视表
df.pivot_table(['xxxx', 'yyyy'], ['zzzz'], aggfunc='mean')
#values 需要计算统计数据的变量列表
#index 分组数据的变量列表
#aggfunc 需要计算哪些统计数据,例如,总和、均值、最大值、最小值,等等