selectstudent_id,student_namefromexam_scoreswherechinese>=90andmath>=90
上面的 SQL 语句表示从考试成绩表 (exam_scores) 中,筛选出语文和数学都大于或等于 90 分的所有学生 id 和 name。学习 pandas 数据获取,推荐这种以数据处理的目标为导向的方式,而不是被动的按 pandas 提供的loc,iloc的语法中,一条条顺序学习。
本篇我们要分析的关于销售数量和金额的一组数据,数据存放在 csv 文件中。示例数据我在github上放了一份,方便大家对照练习。
选择列
以下两种方法返回Series类型:
importpandasaspddf=pd.read_csv('sample-salesv3.csv')df.name# 或者df['name']
如果需要返回DataFrame格式,使用 list 作为参数。为了方便说明,给出在 jupyter notebook 中显示的界面。
如果需要选取多列,传给DataFrame一个包含列名的 list:
选择行
假设我们要筛选quantity < 0的所有记录:
按多条件筛选的处理方式。假设想筛选quantity < 0并且unit price > 50的所有记录:
代码:
criteria=(df['quantity']<0)&(df['unit price']>50)df[criteria].head()
在 pandas 中,AND 条件的运算符为&,OR 条件的运算符为|。假设想筛选所有quantity > 30或unit price > 50的记录:
代码:
criteria=(df['quantity']>30)|(df['unit price']>50)df[criteria].head()
基于字符串的记录筛选
如果筛选条件为基于字符串,可以使用用Series.str.xxx方法,主要有startswith,endswith和contains等。举一个例子,筛选出所有name含有White的记录:
代码:
criteria=df['name'].str.contains('White')df[criteria].head()
这里解释一下 pandas布尔索引(boolean indexing) 的概念。布尔索引的意思是首先构建一个与DataFrame的 index 长度相同的一个 boolean 向量 (boolean vector),这个向量中只包含 True 或者 False,布尔索引是一个Series。然后DataFrame在筛选的时候,基于DataFrame的行索引,当布尔索引相同行索引所在行的 value 为 True 时,DataFrame的这一行就包含在筛选之中,否则就排除在外。
为了能看得更加清晰,我们把上面的例子用另外一个方法来展示。创建一个新列:is_selected,这一列是一个布尔索引。
df['is_selected']=df['name'].str.contains('White')
我们看到,is_selected由 True 和 False 构成。
构建了is_selected列之后,通过df[df['name'].str.contains('White')]筛选与下面的语句作用相同:
df[df['is_selected']==True]
可以把df['name'].str.contains('White')这个布尔索引理解为构建了一个新列,然后基于这一列进行筛选。
基于 DateTime 类型的记录筛选
如果列的类型是DateTime类型,比如本示例的date列。pandas 读取 csv 文件时,date 列是 str 类型,所以我们先将 date 列转换成 datetime 类型,然后基于 pandas 的Timestamp类型构建筛选条件。
# 将 date 列转换成 datetime 类型df['date']=pd.to_datetime(df['date'])# 筛选条件为日期大于 2014/4/1criteria=df['date']>pd.Timestamp(2014,4,1)df[criteria].head()
同时选择行和列
如果基于本篇所说的模式,同时选择行和列,最简单的方法是组合,比如先基于行构建DataFrame,然后再基于这个DataFrame选取需要的列:
where=df['name'].str.contains('White')cols=['name','quantity','unit price','ext price']df[where][cols].head()