使用beanstalk搭建队列服务

一. 应用场景

  1. 在web后端服务的交互中很多场景上游和下游处理的时间不匹配,比如上游处理的快,下游处理的慢。这时候就需要队列服务来缓冲服务以达到更高的吞吐率(扛过高峰)
  2. 延迟处理请求,比如:延迟添加用户奖励,延迟写入mysql等等。逻辑可以只关注主流程即返回。

二. 我们现在的解决方案-beanstalk队列服务

  • 项目介绍
    http://kr.github.io/beanstalkd/

  • 协议介绍
    https://raw.githubusercontent.com/kr/beanstalkd/master/doc/protocol.txt

  • Beanstalkd设计里面的核心概念:

  • job:
    一个需要异步处理的任务,是Beanstalkd中的基本单元,需要放在一个tube中。

  • tube:
    一个有名的任务队列,用来存储统一类型的job,是producer和consumer操作的对象。

  • producer:
    Job的生产者,通过put命令来将一个job放到一个tube中。

  • consumer:
    Job的消费者,通过reserve/release/bury/delete命令来获取job或改变job的状态。

  • job生命周期:


    job状态转移图
  • 一个典型的使用流程:** 延迟发放用户奖励 **
    1)上游put job 并带有delay设置(delay n秒后在进入ready队列)
    2)job进入ready状态,下游使用reserve接口取得job内容,并使job进入reserved状态。
    3)如果job在RRT时间内处理完成,则下游直接调用delete,删除该job,表示处理正常完成。如果job在RRT时间没有处理完成,该job会自动变为ready状态,以供其他的下游worker使用。
    4)注意:3)中会有可能1个job被多个work处理多次的问题,如果要严格限制job被执行一次或者失败,则可以在2)步骤后由下游直接调用bury接口将job置为buried状态,这样其只会被一个下游获取并执行。

  • 集群化方案
    开源的beanstalk是单机版本的队列,集群化需要自己维护。
    上游写入客户端需要做负载均衡和分组的工作(一致性hash)。
    下游读取客户端需要线性扫描读取每个队列并读取。这里面有个问题就是:原来beanstalk设置的读取超时时间,会在现有的策略中放大N倍。

监控和辅助工具

  • 重点关注如下数据项

总体的
bmq.cmd-release
the cumulative number of release commands

bmq.current-connections
the number of currently open connections

bmq.job-timeouts
the cumulative count of times a job has timed out

bmq.total-jobs
the cumulative count of jobs created in this tube in the current beanstalkd process

tube的
bmq.current-jobs-delayed
the number of delayed jobs in this tube

bmq.current-jobs-ready
the number of jobs in the ready queue in this tube

bmq.current-jobs-reserved
the number of jobs reserved by all clients in this tube

bmq.current-jobs-urgent
the number of ready jobs with priority < 1024 in this tube

管理界面

系统性能数据

系统稳定性

  • 当开启-b启动持久化后,其会将binlog每隔N秒(N可配置为0)刷入到硬盘,类似redis的aof持久化方式

系统容量

  • 依赖内存大小(持久化只是把binlog刷到硬盘)

系统性能

  • 可以保守认为job 的body size小于1k时,qps可以到put 10k,reserve+delete 9k
  • 单 server 最大 put 速度
    client 开 50 进程,每进程写入 10k 条 “00”,用时 36s,平均 13800/s
  • 单 server 最大 reserve + delete 速度
    client 开 50 进程,每进程 10k 条,用时 52s,平均 9600/s
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,539评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,911评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,337评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,723评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,795评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,762评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,742评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,508评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,954评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,247评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,404评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,104评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,736评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,352评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,557评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,371评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,292评论 2 352

推荐阅读更多精彩内容

  • 总括 beanstalkd协议基于ASCII编码运行在tcp上。客户端连接服务器并发送指令和数据,然后等待响应并关...
    零一间阅读 1,208评论 0 1
  • **2014真题Directions:Read the following text. Choose the be...
    又是夜半惊坐起阅读 9,460评论 0 23
  • 题目描述输入一个正整数数组,把数组里所有数字拼接起来排成一个数,打印能拼接出的所有数字中最小的一个。例如输入数组{...
    NoFacePeace阅读 208评论 0 0
  • 【经文】神啊,求你为我造清洁的心,使我里面重新有正直(“正直”或作“坚定”)的灵。——诗篇51:10 温良的舌,是...
    斐斐feifei阅读 1,804评论 0 1
  • 一、概述 Spring MVC中的Front controller、Page controller Spring ...
    远o_O阅读 320评论 0 1