作为测试你应该知道的MQ知识(一)

-----------------------------------------------------------------------------------------------------------

【爱测试·爱分享】

更多内容可关注公众号:测试专享

       专注于性能、自动化、接口测试、中间件等技术,与您分享测试技术点滴,内容涵盖:Jmeter、PTS、Python、Selenium、小程序自动化、Linux等热门测试技术,让您在实战中提升自我。在手机上阅读所有文章,随时随地都能学习。

-------------------------------------------------------------------------------------------------------------------


       笔者收到几位小伙伴的私信,作为测试工程师,需要学习消息队列MQ吗?从测试职业发展,保持市场竞争力的角度来看,掌握一些底层技术,深耕个人技术栈的深度,对测试工作是有重要的作用的。接下来我带你学会MQ,提升你的技术栈,让开发测试都对你刮目相看~

一、消息队列有什么作用?

   在分布式场景下,消息队列MQ基本上是标配,在很多场景下都会用到,MQ主要有三大角色(生产者、消息服务、消费者),大致的过程是这样的:

    在这个过程中,发送和接收是异步的,也就是发送无需等待,而且发送者和接收者的生命周期也没有必然的关系;以下以电商中最常见的秒杀场景为例分析消息队列的作用。

1、异步处理

① 不使用消息队列下单步骤:

以上,从用户下单需要经历5个流程才能返回结果给用户,用户需要等待结果的返回

② 使用消息队列后下单步骤:

     以上,从用户下单只经历2个流程就可以返回结果给用户,生成订单、短信通知、更新统计数据都是异步通过MQ消费的,无需等待这3个流程的结果,缩短了响应时间。

2、服务解耦

① 不使用消息队列下单:

以上,一个下单流程经历了4个系统。当任何一个系统出现问题无法访问时, 订单也会失败。订单系统与其他系统耦合。

② 使用消息队列后下单:

【订单系统】:用户下单后,订单系统完成持久化处理,将消息写入消息队列,返回用户订单下单成功。

【其他系统】:订阅下单的消息,采用pull或push的方式,获取下单信息,库存系统根据下单信息,进行库存操作。

此时,其他系统出问题,不会影响到订单系统。这就是将原来耦合的两个系统实现了应用解耦。

3、流量削峰

前面说的秒杀活动异步处理仅仅只是提升响应速度,但是面对秒杀场景也需要做好流量控制,避免流量过大将秒杀系统压垮。因此可以利用消息队列隔离网关和后端服务,以达到流量控制和保护后端服务的目的。

    以上,当短时间内大量的秒杀请求到达网关时,不会直接冲击到后端的秒杀服务,而是先堆积在消息队列中,后端服务按照自己的最大处理能力,从消息队列中消费请求进行处理。这样,能根据下游的处理能力自动调节流量,达到“削峰填谷”的作用。


二、常见的消息队列 

消息队列有很多成熟的产品,每一个产品都有自己的优势和劣势,常见的MQ产品有:

(1)RocketMQ:阿里下的开源产品,用在电商场景比较多,Java开发的,低延时,非常适合在线业务,活跃的中文社区。

(2)ActiveMQ:老牌的开源消息队列,目前社区不活跃,功能及性能方面比较欠缺,目前在一些遗留的系统比较常用。

(3)RabbitMQ:Erlang开发的,对消息堆积的支持不好,会导致性能急剧下降。

(4)Kafka:Scala开发的,开始用于处理海量日志,大多用于大数据和流计算领域,与周边生态系统的兼容性最好。

在后面文章中,笔者会以RocketMQ作为例子进行分享,掌握后看其他就很容易理解~


三、MQ的核心概念

1、Producer 

     生产者。负责生产消息,RocketMQ提供多种发送方式:同步发送、异步发送、顺序发送、单向发送。

2、Comsumer 

     消费者。负责消费消息,从用户应用的角度而言提供了两种消费形式:拉取式消费(pull)、推动式消费(push)。

3、Publish 

      发布。指的是发布消息到MQ的,如下单的订单服务,此时订单服务为发布者。

4、Subscribe 

      订阅。指例如发送短信、发送微信消息的服务订阅MQ,此时订阅的服务为消费者。

5、Producer Group 

      同一类Producer的集合。这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃,则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。

6、Consumer Group 

      同一类Consumer的集合。这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面,实现负载均衡和容错的目标变得非常容易。要注意的是,消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式:集群消费(Clustering)和广播消费(Broadcasting)。

7、Topic 

     主题名称。生产者发布消息到MQ,需要指定一个Topic,消费者也需要指定具体是监听哪个Topic的消息,当该topic有消息就会进行消费。

8、Name Server  

          名称服务器。用于保存 Broker 相关元信息,为Producer 和 Consumer 提供查找 Broker的信息。Producer发送消息时,需先请求Name Server获取Topic的路由信息,再根据Topic路由信息路由到Broker;同样的,Consumer消费消息时,也是先请求Name Server获取Topic路由信息,再根据Topic路由信息路由到Broker。

9、Broker 

      消息存储。Broker是RocketMQ的核心,提供了消息的接收、存储、拉取等功能。每个broker与Name Server集群中的所有节点建立长连接,注册Topic等信息到所有Name Server。一般都需要保证Broker的高可用,所以会配置Broker Slave,当Master挂掉之后,Consumer可以消费Slave;Broker分为Master和Slave,一个Master可以对应多个Slave,Master与Slave的对应关系通过指定相同的BrokerName,不同的BrokerId来定义,BrokerId为0表示Master,非0表示Slave;

【Broker保存以下内容】:

① 所有的消息;

② 所有consumer的消费偏移量;

③ 所有consumer的订阅关系;

④ 所有的Topic信息;

⑤ 延迟队列的消费进度;

10、Queue 

      队列。是消息队列RocketMQ中消息存储和传输的实际容器,也是消息的最小存储单元。消息队列RocketMQ的所有主题都是由多个队列组成,以此实现队列数量的水平拆分和队列内部的流式存储。队列通过QueueId来做唯一标识和区分。

11、Message 

     消息体。根据不同通信协议定义的固定格式进行编码的数据包,来封装业务数据,实现消息的传输。

---------------------------------------------------------------------------

【爱测试·爱分享】

更多内容可关注公众号:测试专享

专注于性能、自动化、接口测试、中间件等技术,与您分享测试技术点滴,内容涵盖:Jmeter、PTS、Python、Selenium、小程序自动化、Linux等热门测试技术,让您在实战中提升自我。在手机上阅读所有文章,随时随地都能学习。

----------------------------------------------------------------------------

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,012评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,628评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,653评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,485评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,574评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,590评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,596评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,340评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,794评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,102评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,276评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,940评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,583评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,201评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,441评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,173评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,136评论 2 352

推荐阅读更多精彩内容