django 使用全局线程池

需求背景

系统里面有频繁的异步操作,每次触发异步操作就会开始一个新的线程处理相关逻辑,逻辑集中在I/O密集型;频繁的新建/销毁线程,消耗大量资源;由此,考虑使用线程池替换现有逻辑。

实现逻辑

经过查询资料,python有ThreadPoolExecutor(tomorrow)可以直接实现线程池的相关功能,它的使用方式

executor = ThreadPoolExecutor(max_workers=2)

具体使用方法见ThreadPoolExecutor
ThreadPoolExecutor建立的线程池会先启动若干数量的线程,并让这些线程都处于睡眠状态,当向线程池submit一个任务后,会唤醒线程池中的某一个睡眠线程,让它来处理这个任务,当处理完这个任务,线程又处于睡眠状态。减少了建立销毁线程池消耗
在本项目里面的实现如下(定义的装饰器)

from concurrent.futures.thread import ThreadPoolExecutor
class ThreadPool(object):
    def __init__(self):
        # 线程池
        self.executor = ThreadPoolExecutor(100)

global_thread_pool = ThreadPool()
def async_func(f):
    def wrapper(*args, **kwargs):
        global_thread_pool.executor.submit(f, *args, **kwargs)
    return wrapper

如何设置max_workers

总体的原则是: CPU密集型任务应配置尽可能小的线程,尽量跟CPU的个数相近;IO密集型任务应配置尽可能多的线程,因为IO操作不占用CPU,不要让CPU闲下来,应加大线程数量。推荐的公式:

最佳线程数目 = (线程等待时间与线程CPU时间之比 + 1)* CPU数目

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 个人记录,麻烦指正! 线程池的前世今生   答:Java1.5中引入的Executor框架把任务的提交和执行进行解...
    沈先生的影子阅读 448评论 0 1
  • 1 线程池简介 1.1 为什么使用线程池 降低系统资源消耗,通过重用已存在的线程,降低线程创建和销毁造成的消耗; ...
    上善若泪阅读 1,559评论 0 1
  • [TOC] 什么是线程池 在 Java 中,如果每个请求到达就创建一个新线程,创建和销毁线程花费的时间和消耗的系统...
    悠娜的奶爸阅读 197评论 0 1
  • 使用线程池的原因 无线创建线程的不足在生产环境中,为每一个任务都分配一个线程这种方法存在一些缺陷:线程生命周期的开...
    德彪阅读 679评论 0 1
  • 一. 简介 在实际开发中,我们有时会需要多线程并发执行一些任务,如果并发的线程数量很多,并且每个线程都是执行一个时...
    wind_sky阅读 1,186评论 0 0