前期准备
读数据
file1_path ='E:/Users/lenovo/Desktop/中视/622召回.csv' # 源数据
格式：file1=pd.read_csv(file1_path)
0.0 读取数据（调整成gbk格式，如果乱码）
pd.read_csv(file1_path,encoding='gbk')
0.1 读取数据并删除第2，3行数据
pd.read_csv(file1_path,encoding='gbk',skiprows=[2,3])
0.2 读取数据并删除奇数索引的数据
pd.read_csv(file1_path,encoding='gbk',skiprows=lambda x:x%2==1)
0.3 读取数据为空的会显示NaN，让其显示为空
pd.read_csv(file1_path,encoding='gbk',keep_default_na=False)
建表
new=pd.DataFrame()
一、数据筛选
1.行值筛选
1.1 行值-获取第0，1，2行（列表索引）
new.new[[0,1,2]]
1.2 行值-获取第0-2行（切片索引）
new.new[0:2]
查询结果同上
1.3 行值范围的筛选(布尔索引）
new.loc[new['激活数']>1000]
2.列值的筛选
loc和iloc的区别：
loc：纯标签筛选
iloc：纯数字筛选
2.1 loc：纯标签筛选：
#筛选出new的某两列
new=new.loc[:,['phone','收件人姓名']]
2.2 iloc：纯数字筛选:
#筛选new的第0，1列
new.iloc[:,[0,1]]
3.筛选指定明确的值-“==”
使用‘==’筛选-筛查“崔旭”的人（只能筛查指定明确的）
#new=file1.loc[(file1['收件人姓名']=='崔旭')|(file1['收件人姓名']=='崔霞')]
#print(new)
4.筛选值里的某个字，使用loc函数-str.contains/str.startswitch函数
#使用loc函数筛选-str.contains函数-筛查名字中包含'亮'和'海'的人
#new=file1.loc[file1['收件人姓名'].str.contains('亮|海')]
#print(new)
#使用loc函数筛选-str.contains函数-筛查'崔'姓的人
#new=file1.loc[file1['收件人姓名'].str.startswitch('崔')]
#print(new)
5.筛选列中非空的值
df = df[(df['DEPOSIT_PAY_TIME_x'].notnull()) & (df['DEPOSIT_PAY_TIME_x'] != "")]
二、数据统计
1.统计during_time(number)为0的个数
print("during_time(number)=0的个数：",newdata[newdata['during_time(number)'] ==0].count()['during_time(number)'])
2.统计during_time(number)为1,2,3的个数
print("during_time(number)=1,2,3的个数：",newdata[(newdata['during_time(number)'] >0) & (newdata['during_time(number)'] <4)].count()['during_time(number)'])
3.1筛选during_time(number)为0时的数据
print(newdata[newdata['during_time(number)'] ==0])
3.2 筛选英格兰(England)、意大利(Italy)和俄罗斯(Russia)的射正率(Shooting Accuracy)
newdata[newdata['Team'].isin(['England','Italy','Russia'])][['Team','Shooting Accuracy']]
4.统计某一列有多少种值，个数各为多少
df.年龄.value_counts()
三、数据修改、删除
1.修改指定位置数据的值（修改第0行，’创建订单数‘列的值为3836）
new.loc[0,'创建订单数']=3836
2.替换‘小明’-‘xiaoming’
df.replace({'name':{'小明':'xiaoming'}})
3.批量替换某一列的值（把‘性别’列里的男-male，女-felmale）
方法一：df['性别']=df['性别'].map({'男':'male','女':'female'})
方法二：df['性别'].replace('female','女',inplace=True)
或df['性别']=df['性别'].replace('female','女') 这就是inplace的作用
+df['性别'].replace('male','男',inplace=True)
4.替换列索引
df.columns=['sex','name','height','age']
或者：df.rename(columns={'性别':'sex','姓名':'name','身高':'height','年龄':'age'})
5.删除某一列
del df['player']
6. 删除某一列（方法二），删除某一行（默认axis=0删除行，为1则删除列）
删除某一列（方法二）
df.drop('性别',axis=1)
删除某一行
df.drop(1,axis=0)
四、连表、拼接、拆分
4.1 pd.merge(new1,new2,on=' ',how=' ')
file1=pd.read_csv(file1_path)
file2=pd.read_csv(file2_path)
new1=pd.DataFrame()
new1['phone']=file1['phone']
new1['contact_time']=file1['contact_time']
new2=pd.DataFrame()
new2['phone']=file2['phone']
new2['submission_audit_time']=file2['提交审核时间']
newdata=pd.merge(new1,new2,on='phone',how='left')
4.2 拼接：concat
4.2.1 纵向表连接
df=pd.concat([df1,df2],axis=0)
4.2.2 横向表连接
df=pd.concat([df1,df2],axis=1)
4.3 拆分：split
df1['地区'].str.split('·',3,expand=True)
df1:
df1[['城市', '城区','地址']] = df1['地区'].str.split('·', 3, expand = True)
五、缺失值处理
5.1 缺失值删除
data.dropna(axis=0,subset = ["Age", "Sex"]) # 丢弃‘Age’和‘Sex’这两列中有缺失值的行
data.dropna(how = 'all') # 传入这个参数后将只丢弃全为缺失值的那些行
data.dropna(axis = 1) # 丢弃有缺失值的列（一般不会这么做，这样会删掉一个特征）
data.dropna(axis=1,how="all") # 丢弃全为缺失值的那些列
5.2 缺失值填充：pandas.DataFrame.fillna()函数
DataFrame.fillna(value=None, method=None, axis=None, inplace=False, limit=None, downcast=None, **kwargs)
功能：使用指定方法填充NA/NaN值
其中inplace=True就是直接在原有基础上填满
5.3 缺失值查询：
缺失值数量查询：df.isnull().sum()
缺失值行查询：df[df.isnull().T.any()]
六、CSV的时间类型问题
1.提取时间-pd.to_datetime()
newdata['during_time']=pd.to_datetime(newdata['submission_audit_time'])-pd.to_datetime(newdata['contact_time'])
2.将时间转化为数值-pd.to_datetime().apply(lambda x:x.days)
newdata['during_time(number)']=(pd.to_datetime(newdata['submission_audit_time'])-pd.to_datetime(newdata['contact_time'])).apply(lambda x: x.days)
七、CSV的保存和导出
new=pd.DataFrame()
new=newdata[newdata['during_time(number)'] ==0]
new.to_csv(save_path,encoding='utf-8-sig')
八、数据转存
将数据按行拆分并存储到不同的csv文件中：
path='C:/Users/EDZ/Desktop/工作/2021.08.19/'
for i in range(0,30):
df.loc[[i]].to_csv(path+str(i)+'.csv',encoding='gbk')
九、修改列的顺序
df = df[['购药日期', '星期','社保卡号','商品编码', '商品名称', '销售数量', '应收金额', '实收金额' ]]
