Pandas介绍之四-DataFrame排序
admin<time datetime="2018-04-30T15:03:31+00:00" data-reader-unique-id="110" class="date" style="margin: 0px; max-width: 100%; font-size: 1em !important; font-weight: normal !important; font-style: normal !important; display: inline !important;">四月 30, 2018</time>
everyang.net 老Lin原创在介绍pandas选择和取值时,没有谈到一个重要的问题就是排序。在处理大批量数据的时候,不仅仅要用多重条件进行筛选,也同样需要用排序查看,甚至是多个排序条件。这在日常应用中非常普遍,就如果Excel运用的筛选和排序两种功能。在介绍之前,博主先与大家一起学习pandas csv的导入。因为公共数据,单靠输入太费劲了。很多的公共数据,都提供了xls的格式下载或者可以拷贝为xls。学会转换,这在数据源上将减少很多工作量。
我们假设一个场景:比如我们要分析2017年全国固定资产投资增长额最高的的行业前十的是哪几个?
一、pandas csv导入处理
从国家统计局年网站2017年度社会发展公告公开文件表4 2017年分行业固定资产投资(不含农户)及其增长速度可以查询到有关数据。
我们把这个表格用拷贝方法,可以形成一个xls表格,略做处理,比如表头最好用英文。博主不确定用汉字是否会对排序形成影响。然后用Excel另存为utf8的csv文件,假定命名为c:/mypri/invest.csv。iPython下执行:
<pre data-reader-unique-id="16" style="font-family: -apple-system-ui-monospaced, Menlo; font-size: 0.87em; line-height: 1.45em; max-width: 100%; white-space: pre-wrap;">import pandas as pd
df = pd.read_csv('c:\myPrivate\invest.csv')
industry invest increse
0 农、林、牧、渔业 24638.0 9.1
1 采矿业 9209.0 -10.0
2 制造业 193616.0 4.8
3 电力、热力、燃气及水生产和供应业 29794.0 0.8
....</pre>
以上是国标标准行业分类18个。有了这个数据,我们就可以进行下一步操作。
在涉及csv操作可能还涉及复杂比如分隔符设定、列名及区域选择等,可以参考下面的中文解释;这是官方函数说明。
二、pandas 排序 sort_values说明
sort_values Signature: df.sort_values(by, axis=0, ascending=True, inplace=False, kind=’quicksort’, na_position=’last’)Parameters:by : str or list of str, Name or list of names which refer to the axis items.axis : {0 or ‘index’, 1 or ‘columns’}, default 0, Axis to direct sortingascending : bool or list of bool, default Truena_position : {‘first’, ‘last’}, default ‘last’
上面是sort_values的参数解释,用例子说明更清楚:
1、简单排序的设定
投资额大小排序,需设定倒叙,by最好用列表方式,后面升序必须匹配
<pre data-reader-unique-id="38" style="font-family: -apple-system-ui-monospaced, Menlo; font-size: 0.87em; line-height: 1.45em; max-width: 100%; white-space: pre-wrap;">print(df.sort_values(by = ['invest'], ascending = [False]))
industry invest increse
2 制造业 193616.0 4.8
10 房地产业[31] 139734.0 3.6
13 水利、环境和公共设施管理业 82105.0 21.2</pre>
2、结合筛选条件进行排序
比如增长率大于10的,排名存量投资额
<pre data-reader-unique-id="43" style="font-family: -apple-system-ui-monospaced, Menlo; font-size: 0.87em; line-height: 1.45em; max-width: 100%; white-space: pre-wrap;">print(df[df['increse']>10].sort_values(by=['invest'],ascending=[False]))
industry invest increse
13 水利、环境和公共设施管理业 82105.0 21.2
6 交通运输、仓储和邮政业 61186.0 14.8
11 租赁和商务服务业 13304.0 14.4</pre>
筛选的问题,可以看第二节如何进行数据选择和取值。
3、设置多个排序条件
比如按行业名及增长率排序,当然这没有实际意义
<pre data-reader-unique-id="50" style="font-family: -apple-system-ui-monospaced, Menlo; font-size: 0.87em; line-height: 1.45em; max-width: 100%; white-space: pre-wrap;">print(df.sort_values(by=['industry', 'increse'], ascending=[True, False]))
industry invest increse
6 交通运输、仓储和邮政业 61186.0 14.8
7 住宿和餐饮业 6107.0 3.9
8 信息传输、软件和信息技术服务业 6987.0 12.8</pre>
三、实际综合应用
回到原题。要解决这个问题,分成两步:
step1:首先要增加一列,就是计算当年增长额。
step2:对当年增长额进行排序
1、列计算应用
<pre data-reader-unique-id="62" style="font-family: -apple-system-ui-monospaced, Menlo; font-size: 0.87em; line-height: 1.45em; max-width: 100%; white-space: pre-wrap;">df['inc_invest'] = df['invest'] - df['invest']/(100+df['increse'])*100</pre>
直接定义列就可以了
2、按列数值倒序排序
<pre data-reader-unique-id="67" style="font-family: -apple-system-ui-monospaced, Menlo; font-size: 0.87em; line-height: 1.45em; max-width: 100%; white-space: pre-wrap;">print(df.sort_values(by=['inc_invest'],ascending=[False]))