TOPK 问题

TOPK 问题

描述

如从海量数字中寻找最大的 k 个,这类问题我们称为 TOPK 问题,通常使用堆来解决:

  • 求前 k 大,用最小堆
  • 求前 k 小,用最大堆

例子

现有列表 [1, 2, 0, 3, 5], 求前 2 个大的元素。

如传入列表和 k = 2,输出 [3, 5]

思路

  1. 先放入元素前 k 个建立一个最小堆

  2. 迭代剩余元素:

    如果当前元素小于堆顶元素,跳过该元素(肯定不是前 k 大)

    否则替换堆顶元素为当前元素,并重新调整堆

  3. 最后获取 最小堆 中的值,即为 topk

image.png

代码如下

import heapq

class Topk:
    """获取大量元素 topk 大个元素,固定内存
    思路:
    1. 先放入元素前 k 个建立一个最小堆
    2. 迭代剩余元素:
        如果当前元素小于堆顶元素,跳过该元素(肯定不是前 k 大)
        否则替换堆顶元素为当前元素,并重新调整堆
    """
    def __init__(self, iterable, k):
        self.minheap = []
        self.capacity = k
        self.iterable = iterable

    def push(self, val):
        if len(self.minheap) >= self.capacity:
            min_val = self.minheap[0]
            if val < min_val:       # 当然你可以直接 if val > min_val 操作,这里我只是显示指出跳过这个元素
                pass
            else:
                heapq.heapreplace(self.minheap, val)    # 返回并且 pop 堆顶最小值,推出新的 val 值并调整堆
        else:
            heapq.heappush(self.minheap, val)           # 前面 k 个元素直接放入 minheap

    def get_topk(self):
        for val in self.iterable:
            self.push(val)
        return self.minheap

def test():
    import random
    i = list(range(1000))   # 这里可以是一个可迭代元素,节省内存
    random.shuffle(i)
    _ = Topk(i, 10)
    print(_.get_topk())     # [990, 992, 991, 993, 996, 997, 998, 994, 995, 999]

test()
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 堆的定义 堆是一种特殊的数据结构,可以形象化的看成一颗完全二叉树,一般内部的存储结构为数组;堆中的某个节点总是不大...
    yandaren阅读 7,713评论 0 5
  • 我的博客地址:https://rebornc.github.io/2018/11/15/%E5%A0%86%E6%...
    白夜叉小分队阅读 5,977评论 0 5
  • 面试中常会被问到的一个经典问题就是给定一个无序的数(N个),寻找其中最大(最小) 的K个(K<N)。 思路一:对整...
    小蛋子阅读 4,214评论 0 1
  • 如下图,将一个数组转化堆,有如下性质 所有父节点的值小于或等于两个子节点的值(最小堆) 如果有左子树,那么左子树的...
    Acamy丶阅读 7,251评论 0 3
  • 拔牙后的第三天,我终于没有那么明确的感觉到疼痛,虽然还是有些脸肿和张不开嘴。我忽然发现我身边有个可爱的女子,有那么...
    luory阅读 1,326评论 4 0