线上使用celery和supervisor+redis做异步消息处理时遇到一些问题的笔记

环境

描述:项目主要是是基于celery和supervisor+redis+bottle这些来组成,
在bottle运行的时候,为提高响应的速度,部分的处理转移给了celery做异步。但是在部署的时候出现了一些问题。

问题

相关的项目已部署完成,在运行的celery -A async_tasks worker
的时候出现了各种问题

1:开始以为是使用的python环境不对,需要修改一下/usr/bin/celery 文件的下的python环境,但是启动还是不行

2:仔细查看对应的错误日式是说redis连接的时候密码连接有问题,去除中文的redis密码,再次启动。

3:这时候出现先的问题是 说是找不到命令,但是我直接的使用 celery -A async_tasks worker到对应的目录下执行是可以的

[root@web1 xxxx_sys2]# celery -A async_tasks worker --loglevel=info
xxxxxxx

4:修改c/usr/bin/celery--->elery

[program:celery_for_xxxxxx]
command=celery -A async_tasks worker  ;supervisord将要执行的运行celery服务的命令
directory=/data/www/xxxxxxxx_sys2
stdout_logfile=/data/logs/celery/xxxxxx_sys2_celery.log    ; supervisord当前这个test服务运行产生的日志存储路径,方便我们查看运行情况
socket-timeout=3
autostart=true
autorestart=true
redirect_stderr=true
stopsignal=QUIT

查看实时日志不输出


image.png

5:重启的启动还是找不到对应的命令,或文件找不到,重新找其他问题,还是无法使用supervisor来启动

[root@web1 iread_business_management_sys2]# supervisorctl 
celery_for_iread_business          FATAL     Exited too quickly (process log 

其他错误:


image.png

6:尝试使用supervisor 重新的reload 所有的进程!-OK!启动成功了!

[root@web1 iread_business_management_sys2]# ps -ef|grep celery          
root     11160 10489  0 19:05 pts/0    00:00:00 grep --color=auto celery
[root@web1 iread_business_management_sys2]# ps -ef|grep celery
root     11162 10489  0 19:05 pts/0    00:00:00 grep --color=auto celery
[root@web1 iread_business_management_sys2]# ps -ef|grep celery
root     11164 10489  0 19:05 pts/0    00:00:00 grep --color=auto celery
[root@web1 iread_business_management_sys2]# ps -ef|grep celery
root     11167 10489  0 19:05 pts/0    00:00:00 grep --color=auto celery
[root@web1 iread_business_management_sys2]# ps -ef|grep celery
root     11169 10489  0 19:05 pts/0    00:00:00 grep --color=auto celery
[root@web1 iread_business_management_sys2]# 
[root@web1 iread_business_management_sys2]# supervisorctl 
celery_for_iread_business          FATAL     can't find command '/usr/bin/celery'
cu_iread_web_server_qt             RUNNING   pid 11061, uptime 0:07:20
cu_iread_web_server_qt2            RUNNING   pid 11060, uptime 0:07:20
iread_business_management_sys2_1   RUNNING   pid 11058, uptime 0:07:20
iread_business_management_sys2_2   RUNNING   pid 11059, uptime 0:07:20
test                               RUNNING   pid 11062, uptime 0:07:20
supervisor> reload
Really restart the remote supervisord process y/N? y
Restarted supervisord
supervisor> status 
celery_for_iread_business          STARTING  
cu_iread_web_server_qt             STARTING  
cu_iread_web_server_qt2            STARTING  
iread_business_management_sys2_1   STARTING  
iread_business_management_sys2_2   STARTING  
test                               STARTING  
supervisor> status 
celery_for_iread_business          RUNNING   pid 11175, uptime 0:00:18
cu_iread_web_server_qt             RUNNING   pid 11176, uptime 0:00:18
cu_iread_web_server_qt2            RUNNING   pid 11174, uptime 0:00:18
iread_business_management_sys2_1   RUNNING   pid 11172, uptime 0:00:18
iread_business_management_sys2_2   RUNNING   pid 11173, uptime 0:00:18
test                               RUNNING   pid 11177, uptime 0:00:18
supervisor> 

--------------------------------------------------2018年3月21日 17:17:02------------------------------------
PS:如果线上使用到其他celcey启动多个任务对象,需要使用不对的数据库ID,如:
celery_for_iread_business
celery_for_ixxxxxxxx-------对应的不同任务,配置的数据库ID 也需要不一样

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,204评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,091评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,548评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,657评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,689评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,554评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,302评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,216评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,661评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,851评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,977评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,697评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,306评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,898评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,019评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,138评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,927评论 2 355

推荐阅读更多精彩内容