《利用Python进行数据分析》 10.3应用:通过拆分-应用-联合

10.3应用:通过拆分-应用-联合


1.GroupBy方法最常见的目的是apply(应用)

如图10-1所示, apply将对象拆分成多块,然后在每一块上调用传递的函数,之后尝试将每一块拼接到一起

图10-1:分组聚合的阐述

2.示例:小费数据集(见图10-2)

图10-2:小费数据集


操作1:利用特定列中选出最大值所在行的函数,按组选出小费百分比(tip-pct)最高的五组(见图10-3)

图10-3:操作1


操作2:按照smoker进行分组,之后调用apply(见图10-4)

图10-4:操作2

:DataFrame.apply(func,axis=0,broadcast=None,raw=False,reduce=None,result_type=None,args=(),**kwds)

        Apply a function along an axis of the DataFrame.

补充说明:top函数在DataFrame的每一行分组上被调用,之后使用pandas. concat将函数结果粘贴在一起,并使用分组名作为各组的标签。因此结果包含一个分层索引,该分层索引的内部层级包含原DataFrame的索引值


操作3:不仅向apply传递函数,还传递其他参数或关键字(见图10-5)

图10-5:操作3

提示: 除了基础的使用机制,还需要一些创造力才能充分地使用apply

           传递函数的内部发生的事情取决于你自己,函数只需要返回一个pandas对象或一个标量值。

           本节后续主要讲解如何使用groupby解决多种问题,例如:在GroupBy对象上调用了describe方法(见图10-6)

图10-6:在GroupBy对象上调用了describe方法

10.3.1 GroupBy示例:压缩分组键


1.通过向groupby传递group_keys=False来禁用分层索引(见图10-8)

在之前的例子中,你可以看到所得到的对象具有分组键所形成的分层索引以及每个原始对象的索引(见图10-7)

图10-7:形成分组索引
图10-8:禁用分层索引

10.3.2 GroupBy示例:分位数与桶分析


1.利用pandas一些工具,尤其是cut和qcut,与groupby方法一起使用这些函数可以对数据集更方便地进行分桶或分位分析

示例:一个简单的随机数据集和一个使用cut的等长桶分类(见图10-9)

图10-9:一个使用cut的等长桶分类

:pandas.cut(x,bins,right=True,labels=None,retbins=False,precision=3,                                            include_lowest=False,duplicates='raise')

Bin values into discrete intervals.


2.cut返回的Categorical对象可以直接传递给groupby

示例:计算出data2列的一个统计值集合(见图10-10)

图10-10:计算出data2列的一个统计值集合

:DataFrame.unstack(level=-1,fill_value=None)

Pivot a level of the (necessarily hierarchical) index labels, returninga DataFrame having a new level of column labels whose inner-most levelconsists of the pivoted index labels. If the index is not a MultiIndex,the output will be a Series (the analogue of stack when the columns arenot a MultiIndex).The level involved will automatically get sorted.


3.使用qcut计算出等大小的桶,传递labels=False来获得分位数数值(见图10-11)

图10-11:使用qcut获取等大小的桶

:pandas.qcut(x,q,labels=None,retbins=False,precision=3,duplicates='raise')

Quantile-based discretization function. Discretize variable into equal-sized buckets based on rank or based on sample quantiles.


10.3.3 GroupBy示例:使用指定分组值填充缺失值


1.使用单一修正值或来自于其他数据的值来输入(填充)到null值(NA)

示例:使用平均值来填充NA值(见图10-12)

图10-12:使用平均值来填充NA值

:DataFrame.fillna(value=None,method=None,axis=None,inplace=Falselimit=None,downcast=None,**kwargs)

Fill NA/NaN values using the specified method


2.对数据分组后使用按组变化的填充值来输入(填充)到null值(NA)

对数据分组后使用apply和一个在每个数据块上都调用fillna的函数

示例:对美国分为东部地区和西部地区的样本数据使用分组的平均值填充NA值(见图10-13,图10-14)

图10-13:美国分为东部地区和西部地区的样本数据
图10-14:使用分组的平均值来填充NA值

3.当数据分组时已经在代码中为每个分组预定义了填充值,利用每个分组都有一个内置的name属性(见图10-15)

图10-15:利用分组预定义填充值

10.3.4 GroupBy示例:随机采样与排列


1.“抽取”

使用Series的sample方法,从大数据集中抽取随机样本(有或没有替换)以用于蒙特卡罗模拟目的或某些其他应用程序

示例:构造一副英式扑克牌并加以抽取(见图10-16)

图10-16:构造英式扑克牌并抽取

从每个花色中随机抽取两张牌(见图10-17)

由于花色是牌名的最后两个字符,我们可以基于这点进行分组,并使用apply

图10-17:每个花色中随机抽取两张牌

10.3.5 GroupBy示例:分组加权平均和相关性


1.在groupby的拆分-应用-联合的范式下,DataFrame的列间操作或两个Seriese之间的操作,可以做到分组加权平均

示例1:使用一个包含分组键和权重值的数据集分组加权平均(见图10-18)

图10-18:一个包含分组键和权重值的数据集加权平均

:numpy.average(a,axis=None,weights=None,returned=False)

Compute the weighted average along the specified axis.


示例2:读入一个从雅虎财经上获得的数据集,该数据集包含一些标普500 (SPX符号)和股票的收盘价(见图10-19) 

雅虎财经数据集请浏览:雅虎财经获得的数据集

https://github.com/wesm/pydata-book/blob/2nd-edition/examples/stock_px_2.csv

图10-19:雅虎财经数据集

:标准普尔500指数英文简写为S&P 500 Index,是记录美国500家上市公司的一个股票指数,为美国投资组合指数的基准


计算一个DataFrame,包含标普指数(SPX)每日收益的年度相关性(通过百分比变化计算)(见图10-20)

图10-20:计算年度相关性

计算内部列相关性(见图10-21)

图10-21:计算内部相关性

10.3.6 GroupBy示例:逐组线性回归


1.逐组线性回归


在与前一个示例相同的主题中,只要该函数返回一个pandas对象或标量值,就可以使用groupby执行更复杂的按分组统计分析

示例:定义regress(回归)函数(使用statsmodels计量经济学库),该函数对每个数据块执行普通最小二乘(OLS)回归,计算AAPL在SPX回报上的年度线性回归(见图10-22)

图10-22:逐组线性回归

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,843评论 6 502
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,538评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,187评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,264评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,289评论 6 390
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,231评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,116评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,945评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,367评论 1 313
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,581评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,754评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,458评论 5 344
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,068评论 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,692评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,842评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,797评论 2 369
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,654评论 2 354

推荐阅读更多精彩内容