数据科学 IPython 笔记本 9.6 聚合:最小、最大和之间的任何东西

9.6 聚合:最小、最大和之间的任何东西

本节是《Python 数据科学手册》(Python Data Science Handbook)的摘录。

译者:飞龙

协议:CC BY-NC-SA 4.0

通常,当面对大量数据时,第一步是计算相关数据的汇总统计信息。也许最常见的汇总统计数据是均值和标准差,它允许你汇总数据集中的“典型”值,但其他汇总也很有用(总和,乘积,中位数,最小值和最大值,分位数等)。

NumPy 具有内置的快速的聚合函数,可用于处理数组;我们将在这里讨论和演示其中的一些内容。

对数组中的值求和

作为一个简单的例子,考虑计算数组中所有值的总和。Python 本身可以使用内置的sum函数来实现:

import numpy as np

L = np.random.random(100)
sum(L)

# 55.61209116604941

NumPy 的sum函数的语法非常相似,结果在最简单的情况下是相同的:

np.sum(L)

# 55.612091166049424

但是,因为它在编译代码中执行操作,所以操作的 NumPy 版本计算速度更快:

big_array = np.random.rand(1000000)
%timeit sum(big_array)
%timeit np.sum(big_array)

'''
10 loops, best of 3: 104 ms per loop
1000 loops, best of 3: 442 μs per loop
'''

但要小心:sum函数和np.sum函数不相同,有时会产生混乱!特别是,它们的可选参数具有不同的含义,并且np.sum知道多个数组维度,我们将在下一节中看到。

最小和最大

类似地,Python 内置了minmax函数,用于查找任何给定数组的最小值和最大值:

min(big_array), max(big_array)

# (1.1717128136634614e-06, 0.9999976784968716)

NumPy 的相应函数具有相似的语法,并且同样运行得更快:

np.min(big_array), np.max(big_array)

# (1.1717128136634614e-06, 0.9999976784968716)

%timeit min(big_array)
%timeit np.min(big_array)

'''
10 loops, best of 3: 82.3 ms per loop
1000 loops, best of 3: 497 μs per loop
'''

对于minmaxsum和其他几个 NumPy 聚合,更短的语法是使用数组对象本身的方法:

print(big_array.min(), big_array.max(), big_array.sum())

# 1.17171281366e-06 0.999997678497 499911.628197

只要有可能,请确保在 NumPy 数组上运行时,使用这些聚合的 NumPy 版本!

多维聚合

一种常见类型的聚合操作是沿行或列的聚合。假设你有一些存储在二维数组中的数据:

M = np.random.random((3, 4))
print(M)

'''
[[ 0.8967576   0.03783739  0.75952519  0.06682827]
 [ 0.8354065   0.99196818  0.19544769  0.43447084]
 [ 0.66859307  0.15038721  0.37911423  0.6687194 ]]
'''

默认情况下,每个NumPy聚合函数都将返回整个数组的聚合:

M.sum()

# 6.0850555667307118

聚合函数接受另一个参数来指定计算聚合的轴。 例如,我们可以通过指定axis = 0,寻找每列中的最小值:

M.min(axis=0)

# array([ 0.66859307,  0.03783739,  0.19544769,  0.06682827])

该函数返回四个值,对应于四列数字。同样,我们可以在每行中找到最大值:

M.max(axis=1)

# array([ 0.8967576 ,  0.99196818,  0.6687194 ])

此处指定轴的方式,可能会使来自其他语言的用户感到困惑。axis关键字指定要折叠的数组的维度,而不是将返回的维度。

因此,指定axis = 0意味着折叠第一个轴:对于二维数组,这意味着将聚合每列中的值。

其它聚合函数

NumPy 提供了许多其他聚合函数,但我们不会在这里详细讨论它们。

此外,大多数聚合都有一个NaN安全的替代品来计算结果,同时忽略缺失值,缺失值由特殊的 IEEE 浮点NaN值标记(对于缺失数据的更全面讨论,请参阅“处理缺失数据)。其中一些NaN安全的函数直到 NumPy 1.8 才被添加,所以它们在旧的 NumPy 版本中不可用。

下表提供了 NumPy 中可用的实用聚合函数的列表:

函数名称 NaN 安全的版本 描述
np.sum np.nansum 计算元素的和
np.prod np.nanprod 计算元素的积
np.mean np.nanmean 计算元素的均值
np.std np.nanstd 计算标准差
np.var np.nanvar 计算方差
np.min np.nanmin 寻找最小值
np.max np.nanmax 寻找最大值
np.argmin np.nanargmin 寻找最小值的下标
np.argmax np.nanargmax 寻找最大值的下标
np.median np.nanmedian 计算元素的中值
np.percentile np.nanpercentile 计算元素的百分位数
np.any N/A 计算是否任何元素是真
np.all N/A 计算是否所有元素是真

我们将在本书的其余部分经常看到这些聚合。

示例:美国总统的平均身高是多少?

NumPy 中可用的聚合对于汇总一组值非常有用。举个简单的例子,让我们考虑所有美国总统的身高。此数据位于president_heights.csv文件中,该文件是一个简单的逗号分隔的标签和值的列表:

!head -4 data/president_heights.csv

'''
order,name,height(cm)

1,George Washington,189

2,John Adams,170

3,Thomas Jefferson,189
'''

我们将使用 Pandas 软件包,来读取文件并提取信息(请注意,高度以厘米为单位)。我们将在第三章中更全面地探索 Pandas。

import pandas as pd
data = pd.read_csv('data/president_heights.csv')
heights = np.array(data['height(cm)'])
print(heights)

'''
[189 170 189 163 183 171 185 168 173 183 173 173 175 178 183 193 178 173
 174 183 183 168 170 178 182 180 183 178 182 188 175 179 183 193 182 183
 177 185 188 188 182 185]
'''

现在我们有了这个数据数组,我们可以计算各种汇总统计数据:

print("Mean height:       ", heights.mean())
print("Standard deviation:", heights.std())
print("Minimum height:    ", heights.min())
print("Maximum height:    ", heights.max())

'''
Mean height:        179.738095238
Standard deviation: 6.93184344275
Minimum height:     163
Maximum height:     193
'''

请注意,在每种情况下,聚合操作都会将整个数组缩减为单个汇总值,从而为我们提供值分布的信息。

我们也可能打算计算分位数:

print("25th percentile:   ", np.percentile(heights, 25))
print("Median:            ", np.median(heights))
print("75th percentile:   ", np.percentile(heights, 75))

'''
25th percentile:    174.25
Median:             182.0
75th percentile:    183.0
'''

我们看到美国总统的身高中值为 182 厘米,或者只有 6 英尺。

当然,有时看到这些数据的直观表示更有用,我们可以使用 Matplotlib 中的工具来完成(我们将在第四章中更全面地讨论 Matplotlib)。 例如,此代码生成以下图表:

%matplotlib inline
import matplotlib.pyplot as plt
import seaborn; seaborn.set()  # 设置绘图风格

plt.hist(heights)
plt.title('Height Distribution of US Presidents')
plt.xlabel('height (cm)')
plt.ylabel('number');
png

这些聚合是探索性数据分析的一些基本部分,我们将在本书的后续章节中进行更深入的探索。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,651评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,468评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,931评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,218评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,234评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,198评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,084评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,926评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,341评论 1 311
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,563评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,731评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,430评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,036评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,676评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,829评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,743评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,629评论 2 354

推荐阅读更多精彩内容