Celery FAQ

什么时候使用celery

队列化所有的东西。适用于后台任务、在处理完web请求后还有工作需要做、确保某件事会被完成(异步的执行它并启用重试)、规划定时任务。此外可以考虑分布式计算和并发的意义。

celery的依赖项

kombu 用于发送和接收消息,支持多种消息中间件。

kombu依赖amqp(纯python实现的amqp客户端)

billiard 多线程库,性能、稳定性更好。

pytz 提供了timezone和相关工具

[MySQL is throwing deadlock errors]

mysql的默认隔离级别是REPEATABLE-READ,可以设置为READ-COMMITTED,更多可见MySQL - The InnoDB Transaction Model and Locking

task just hang

可能是到中间件的权限没配置好

[Worker doesn’t start: Permission Error]

如果使用的是 Debian, Ubuntu 或者其他的Debian-based的Linux发行版,注意/dev/shm 已经被替换为 /run/shm。

简单的解决方法:

# ln -s /run/shm /dev/shm

如果使用了 [--pidfile], [--logfile] [--statedb] 这些选项,需要保证拥有指定路径的读写权限。

[Result backend doesn’t work or tasks are always in PENDING state]

所有的任务默认都是 [PENDING] 状态,Celery在发送了该任务后也不会改变状态,之前没有过记录的任务也是PENDING。

首先确保该任务没有设置 ignore_result

确保没有设置 task_ignore_result

检查是否有之前启动的工作进程没有关闭,由于是可以同时启动多个工作进程的,可能你在启动新进程时忘记关闭之前的工作进程了,而之前的工作进程可能没有配置记录结果选项。

可以把 [--pidfile] 设成一个绝对路径可避免这种情况发生。

确保结果backend正常:

result = task.delay()
print(result.backend)

应该使用retry还是ack late

Django

Windows

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 序言第1章 并行和分布式计算介绍第2章 异步编程第3章 Python的并行计算第4章 Celery分布式应用第5章...
    SeanCheney阅读 12,614评论 3 35
  • task是一个类,扮演了两方面的角色:任务被调用时来发送消息、工作进程在收到消息时操作。task的名称则是标志,这...
    xncode阅读 16,517评论 0 11
  • Celery 部署小记 参考版本: 4.0.2 概念 旧版中文翻译 最新版英文文档 以下摘自官方文档的翻译: Ce...
    esrever阅读 5,193评论 0 1
  • 1.定义: Celery是一个异步的任务队列(也叫做分布式任务队列) 2.工作结构 Celery分为3个部...
    四号公园_2016阅读 28,793评论 5 60
  • Game Kit 的核心功能在于为 iOS 应用提供了另一个点到点的网络选项. 在传统的网络配置中, Game K...
    spbreak阅读 359评论 0 0