python 在类里使用进程池

  1. 首先, 进程池的作用就是减少进程的创建和释放 开销的, 所以在类中作为局部变量是不合适的;
  2. 其次, 进程池必须在if __name__ == "__main__"里 ,否则会报 frozen_ 什么什么的错误;(这一点可能解释有误);
  3. 然后, 线程池的apply_async 中如果传入self.xxx方法,会报multiprocessing.Pool pickling error什么的错误, 具体解释见 https://blog.csdn.net/dutsoft/article/details/70336462 , 里面有解决方法,但是我没有成功;

由于第1点 不合理, 所以有什么办法在类 函数中获取 进程池对象po的地址:


image.png

我的解决思路和方法是:

  1. 通过globals() 取得全局变量 , 测试证明 :不同文件的globals()是不同的: 如Tab2.pyglobals()main_extra_func_file.py中的 globals()是不同的 , 所以 这样在Tab2.py中取不到po对象;
  2. 通过__main__.po 来获取 (为什么会想到这个呢, 因为有时候导包 import .xxx 和import xxx 会报 __main__ 没有什么属性什么的):
def getPoolObject():
    # po 的名字在main函数中定义
    #  __main__ 模块在sys.modules 的键是"__mp_main__"
    return sys.modules["__mp_main__"].po

ps : (图没截好 , rglob_worker 是外部函数 , 非类内函数 ,po = getPoolBojcet() 这一行是类内函数 ,红色箭头 2. 在的那条白色分割线 是2个函数。 )

image.png

len(po._cache) == 1 : po._cache 是当前有任务的进程数, ==1表示所有任务结束;

利用回调 , 可以更轻松地进行进程通信。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 进程 操作系统背景知识 顾名思义,进程即正在执行的一个过程。进程是对正在运行程序的一个抽象。 进程的概念起源于操作...
    go以恒阅读 967评论 0 2
  • 上帝最爱拿老年人开涮。 比如:人一老,身体上该茂盛的毛发不仅停止生长还不断脱落,偏偏最不该长的――鼻毛却如深谷幽兰...
    谜样男人阅读 411评论 0 0
  • 2018.6.2.星期六,天气晴,(173)二年级一班刘紫涵 早上闺女做一个小时的作业然后去美术班,我突然腰...
    凤舞涵歆阅读 82评论 0 0