如何统计序列中元素的出现的频度

实际案例
  • 某随机序列[12, 5, 6, 4, 6, 5, 5, 7, ...]中,找到出现次数最高的3个元素,它们出现次数是多少?
  • 对某英文文章的单词,进行词频统计,找到出现次数最高的10个单词,它们出现次数是多少?

现在我们以序列为例,看下我们如何处理该问题。首先我们先创建一个序列,具体操作如下:

from random import randint

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]

我们思考一下,最终的统计结果必定是字典类型的。因此,我们可在上述的代码中进行如下操作:

# -*- coding: utf-8 -*-

from random import randint

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]
print data

# 创建字典,以data序列的值为字典的键,值初始化为0
c = dict.fromkeys(data, 0)
print c

# 遍历data序列
for x in data:
    c[x] += 1

print c

输出结果如下:

[5, 0, 1, 5, 2, 5, 0, 4, 1, 2, 4, 1, 4, 1, 0, 3, 4, 2, 0, 4]
{0: 0, 1: 0, 2: 0, 3: 0, 4: 0, 5: 0}
{0: 4, 1: 4, 2: 3, 3: 1, 4: 5, 5: 3}

这样,我们就统计出了序列中各个元素出现的次数。再回到实际案例中,案例1要求找到出现次数最高的3个元素。那我们就要根据字典的值,对字典的元素进行排序,具体操作如下:

# -*- coding: utf-8 -*-

from random import randint

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]
print data

# 创建字典,以data序列的值为字典的键,值初始化为0
c = dict.fromkeys(data, 0)
print c

# 遍历data序列
for x in data:
    c[x] += 1

print c

# 根据键值进行从大到小排序
c_list = sorted(c.items(), key=lambda i:i[1], reverse=True)

# 打印出现次数最多的3个元素
print c_list[:3]

其输出结果如下:

[5, 0, 1, 5, 2, 5, 0, 4, 1, 2, 4, 1, 4, 1, 0, 3, 4, 2, 0, 4]
{0: 0, 1: 0, 2: 0, 3: 0, 4: 0, 5: 0}
{0: 4, 1: 4, 2: 3, 3: 1, 4: 5, 5: 3}
[(4, 5), (0, 4), (1, 4)]

除上述方法外,我们还可以使用collections.Counter对象处理该问题。首先,将序列传入Counter的构造器,得到Counter的对象是元素频度的字典;然后,我们利用Counter.most_common(n)方法得到频度最高的n个元素的列表;最后,我们输出频度最高的3个元素。collections.Counter的相关操作可具体参考Python官方文档,此处的代码具体如下所示:

# -*- coding: utf-8 -*-

from random import randint
from collections import Counter

# 创建随机数序列
data = [randint(0, 5) for _ in xrange(20)]
print data

# 创建字典,以data序列的值为字典的键,值初始化为0
c = dict.fromkeys(data, 0)
print c

# 遍历data序列
for x in data:
    c[x] += 1

print c
# 统计元素的频率
counter = Counter(data)

# 打印出现次数最多的3个元素
print counter.most_common(3)

其输出结果如下:

[5, 0, 1, 5, 2, 5, 0, 4, 1, 2, 4, 1, 4, 1, 0, 3, 4, 2, 0, 4]
{0: 0, 1: 0, 2: 0, 3: 0, 4: 0, 5: 0}
{0: 4, 1: 4, 2: 3, 3: 1, 4: 5, 5: 3}
[(4, 5), (0, 4), (1, 4)]

好了,实际案例中的第一个案例我们已经圆满解决了。现在,让我们看看实际案例中的第二个案例。第二个案例是要求我们对英文单词进行词频统计,这里我们就要采用正则表达式了。我们运用正则表达式把英文单词一个一个地分割出来,然后再使用collections.Counter对象进行词频统计,最后,我们输出出现次数最高的10个单词,其代码如下:

# -*- coding: utf-8 -*-

import re

from collections import Counter

# 读入test.txt文件
text = open("test.txt").read()

# 运用正则表达式做切割
word_list = re.split("\W+", text)

# 统计英文单词的词频
counter = Counter(word_list)

# 打印出现次数最多的10个元素
print counter.most_common(10)

其中,输出结果如下:

[('in', 12), ('the', 11), ('as', 10), ('China', 9), ('by', 7), ('AI', 7), ('guideline', 6), ('and', 6), ('to', 5), ('intelligence', 5)]

代码中,test.txt文件的内容来自扇贝新闻。这样我们也圆满完成实际案例中的第二个案例。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 常规解法:迭代 该问题的实际场景主要有两种,一是单纯的统计序列中元素的出现的次数,二是统计某篇文章中出现频度最高的...
    Airing阅读 989评论 0 6
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,991评论 19 139
  • 教你如何迅速秒杀掉:99%的海量数据处理面试题 本文经过大量细致的优化后,收录于我的新书《编程之法》第六章中,新书...
    Helen_Cat阅读 7,461评论 1 39
  • 小说目录第二十话 见来使公瑾震惊 忆稷下周瑜求学“什么呀大小姐。今天是我专门来找你玩的!”小乔连忙解释道,“看,...
    杯酒挽卿留阅读 514评论 0 0
  • 最近总是听到关于善良问题的讨论,是由江歌事件引起的吗?还是这个变幻无常的世界让我们的认知一次一次的被刷新。 今天看...
    w壁立千仞阅读 221评论 1 1