AMQP 协议详解

一、AMQP 历史

​ 消息队列(Message Queue)起源于一位来自 MIT 的硬件设计教育工作者 Vivek Ranadivé 设想了一种通用软件总线,就像主板上的总线那样,供其他应用程序接入。Vivek在1983年成立了 Teknekron,高盛等公司作为第一批用户再金融交易中采用了 Teknekron的软件,同时还诞生了第一代消息队列软件:Teknekron 的 The Information Bus(TIB)。

​ Teknekron 的 TIB 允许应用开发者建立一系列规则去描述消息内容,只要消息按照这些规则发布出去,任何消费者应用都可以订阅感兴趣的内容,信息的生产者和消费者完全解耦,并且可以再传输过程中灵活混合。这个特性引起了电信特别是新闻机构的注意。1994年路透社收购了 Teknekron 。

​ 由于消息队列再金融交易中应用的反响,BIM 在1990年也开始研发自己的消息队列软件(BIM MQ),并且逐步演化成 WebSphere MQ 并统治着商业消息队列平台市场。同时微软开发了Microsoft Message Queue(MSMQ)。然而这些商业MQ问题在供应商壁垒,各个厂商的 MQ 之间无法互通。为了解决这个问题,Java Message Service(JMS)在2001年诞生了,试图通过提供公共 Java API的方式隐藏MQ各个供应商提供的实际接口,从而跨越壁垒和解决互通问题,但是由于使用单独的标准化接口来胶合众多不同的接口使应用程序反而变得更加脆弱。

​ 2004年 JPMorgan Chase 和 iMatix 公司一起合作开发 Advanced Message Queuing Protocol (AMQP,高级消息队列协议),从一开始就设计成为开放标准,任何人都可以执行这一标准,针对该标准任何人都可以和任何 AMQP 供应商提供的 MQ 服务器进行交互。

二、AMQP 协议

​ AMQP,即Advanced Message Queuing Protocol,一个提供统一消息服务的应用层标准高级消息队列协议,是应用层协议的一个开放标准,为面向消息的中间件设计。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件同产品,不同的开发语言等条件的限制。

AMQP协议这种降低耦合的机制是基于与上层产品,语言无关的协议。是一种二进制协议,提供客户端应用与消息中间件之间多通道、协商、异步、安全、中立和高效地交互。从整体来看,AMQP协议可划分为两层: 
image

Functional Layer

​ 功能层,位于协议上层主要定义了一组命令(基于功能的逻辑分类),用于应用程序调用实现自身所需的业务逻辑。例如:应用程序可以通过功能层定义队列名称,生产消息到指定队列,消费指定队列消息等基于(Message queues 模型)

Transport Layer

​ 传输层,基于二进制数据流传输,用于将应用程序调用的指令传回服务器,并返回结果,同时可以处理信道复用,帧处理,内容编码,心跳传输,数据传输和异常处理。

​ 传输层可以被任意传输替换,只要不改变应用可见的功能层相关协议,也可以使用相同的传输层,同时使用不同的高级协议

AMQ 模型设计驱动基于如下要求:

​ 1.保证基于模型实现的应用之间相互可以联通;

​ 2.提供对服务质量的可靠控制;

​ 3.命名规划,要求命名明确且保持一致;

​ 4.允许通过协议配置服务器连接;

​ 5.功能层命名能够简单的映射到应用程序级别的 API;

​ 6.职责单一明确,每个操作只做一件事情。

AMQP 传输层设计驱动基于如下要求:

​ 1.使用二进制数据流压缩和解压,提高效率;

​ 2.可以处理任意大小的消息,且不做任何限制;

​ 3.单个连接支持多个通信通道;

​ 4.客户端和服务端基于长链接实现,且无特殊限制;

​ 5.允许异步指令基于管道通信;

​ 6.易扩展,基于新的需求和变化支持扩展;

​ 7.新版本向下兼容老版本;

​ 8.基于断言模型,异常可以快速定位修复;

​ 9.对编程语言保持中立;

​ 10.适应代码发展演变;

三、AMQP 通用组件

1.AMQ Model 架构

image

​ AMQ 作为中间层服务,把消息生产和消费分隔开来,当消息生产者出现异常,不影响消费者对消息的消费,当消费者异常时,生产者生产的消息可以存放到服务的内存或者磁盘,不会影响到消费的速率,同时,消息也可以基于路由的规则可以投递到指定的消费者消费。

​ AMQ 基于模块化通过 Exchange 和 Message Queue 两个组建组合实现消息路由分发:

Exchange:

基于消息生产者和路由规则可以将消息投递到指定的 Message Queue;

Message Queue:

能够将发送过来的消息进行存储,同时将消息转发给消费者;

​ Exchange 和 Message Queue之间存在绑定关系,消息到了 Exchange 后基于路由策略可以将消息投递到已绑定且符合路由策略的 Message Queue。

1.1 模型重要组件
Message Queue

​ 消息队列会将消息存储到内存或者磁盘中,并将这些消息按照一定顺序转发给一个或者多个消费者,每个消息队列都是独立隔离的,相互不影响。

​ 消息队列具有不同的属性:私有,共享,持久化,临时,客户端定义 或者服务端定义等,可以基于实际需求选择对应的类型,以 RabbitMQ 队列特性为例:

共享持久化消息队列:将发送的消息存储到磁盘,然后将消息转发给订阅该队列的所有消费者;

私有临时消息队列:RabbitMQ 支持 rpc 调用,再调用过程中消费者都会临时生成一个消息队列,只有当前消费者可见,且由服务端生成,调用完就会销毁队列。

Exchange

​ 交换机收到生产者投递的消息,基于路由规则及队列绑定关系匹配到投递对应的交换机或者队列进行分发,交换机不存储消息,只做转发。

AMQP定义了许多标准交换类型,基本涵盖了消息传递所需的路由类型,一般 AMQP 服务器都会提供默认的交换机基于交换机类型命名,AMQP 的应用程序也可以创建自己的交换机用于绑定指定的消息队列发布消息。

1.2 消息的流转过程

image
消息生命周期

​ 消息主要由属性及消息内容组成,生产者创建消息时可以给消息设置属性及消息内容,同时也可以标记路由信息在消息上,可以将消息发送到指定交换机。

​ 当消息到达交换机时,交换机会基于路由规则判断消息能否转发,如果不能转发会丢弃消息同时反馈给生产者。

​ 交换机基于路由规则可以将消息投递到一个或者多个消息队列,服务器通过复制或者计数器的方式将消息保存到不同队列中,每个队列中的消息内容是相同的,但是操作是隔离的,相互不影响。

​ 当消息到达消息队列后,消息队列会基于 AMQP 协议投递给消费者,如果无法投递给消费者或者没有消费者,消息将在内存或者磁盘中存储,等待消费者。

​ 当消息队列可以将消息传递给消费者时,消息将从其内部缓冲区中删除。 删除操作可能立刻执行也可以再消费者确认消息消费后再执行,删除策略消费者可以选择。

生产消息投递确认和消费消息消费确认可以作为两个事务,然后提交或者回滚事务。

2.AMQP 指令架构

2.1 协议指令(类和方法)

​ 作为消息中间件传统的 API 定义的操作非常复杂,为了解决这个问题 AMQP 基于传统 API 的功能,定义方法来对应实现 API 的操作每个方法只完成一件事,通过方法之间的组合来实现完整的功能,所以AMQP 形成了一个非常庞大的指令集,但是指令集中的方法都是便于理解的。

​ AMQP 指令集中指令,基于对应的特定功能域被划分为不同的类,其中有一些类作为特定类的支持类,属于可选的。

有如下两个场景:

同步请求:

​ 一边等待对方发送请求,一边等待对方发送回复。适用于对性能要求不高的场景。

异步请求:

​ 发送请求后不等待回复,使用场景对性能要求比较高的场景。

​ 为了简化指令处理,我们给每个同步请求定义不同的回复指令,也就是说同一个回复指令不可能返回给2个不同的请求。这也意味着发送同步请求的发送方可以接受和处理回复的指令,知道获得有效的同步回复指令为止。这种方式可以将 AMQP 与传统的 RPC 协议区分开来。

​ 一条指令可以被定义为同步请求,同步回复(针对特定请求)或者异步回复,但是每种指令真正再被定义是在客户端(即服务器到客户端)或者服务端(即户端到服务器)。

2.2 AMQP 映射到中间层 API

AMQP 映射到中间层 API,这个映射过程并不是所有方法和参数完全映射,因为有部分方法或者参数对应用程序没有意义。同时映射规则也是固定的,基于已定的一些规则,所有方法按照这个规则映射,不需要人工干预。

例如:队列声明方法:

Queue.Declare 
    queue=my.queue
    auto-delete=TRUE 
    exclusive=FALSE

可以作为一条线性记录

+--------+---------+----------+-----------+-----------+ 
|  Queue | Declare | my.queue |     1     |     0     | 
+--------+---------+----------+-----------+-----------+ 
   class    method     name    auto-delete  exclusive

也可以作为高级 API

queue_declare (session, "my.queue", TRUE, FALSE);

​ 对于大多数应用程序来说,中间层(指令层)隐藏再技术层面,应用程序实际使用的 API 功能对比中间层相对会较少。

3.AMQP 传输层架构

3.1 简要概述

​ AMQP 传输基于二进制协议,传输的信息被组织成各种类型的帧,帧携带协议方法和其他相关信息,所有的帧具有相同个格式:帧头,有效内容,帧尾。帧的有效内容格式取决于帧的类型。

假设再一个可靠的面向流的网络传输层(例如:TCP / IP)

​ 再一个 Socket 连接中,可以有多个独立的线程访问,这种情况就是上文中提到的 Channel(通道),每个帧都有一个属于自己的通道号码,再同一个连接中所有的帧混合在一起,不同的通道共享连接,但是针对每个通道自身的帧都是按照严格的顺序运行。

​ 由于帧的有效内容都是由帧头和帧尾包装,所以对应帧数据的解析是相当简单便捷的,同时基于协议规范生成帧数据也是非常容易。

3.2 数据类型

AMQP 使用的数据类型如下:

  • Integers(数值范围1-8, 8个字节):用于表示大小,数量,限制等,整数类型无符号的,可以在帧内不对齐。
  • Bits(统一为8个字节):用于表示开/关值。
  • Short strings:用于保存简短的文本属性,字符串个数限制为255,8个字节
  • Long strings:用于保存二进制数据块。
  • Field tables:包含键值对,字段值一般为字符串,整数等。

3.3 协议协商

​ AMQP 客户端和服务器存在协商协议。这意味着当客户端连接时,服务端会提出一些客户端可以接受或者修改的选项,如果双方达成一致,连接继续,基于协商协议,可以设定好一些先决条件。

在AMQP中,协商协议的一些具体方面:

  • 实际的协议和版本。服务器可以在同一端口上监听多个协议。
  • 加密参数和双方的身份验证。
  • 最大帧大小,通道数量和其他操作限制。
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,390评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,821评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,632评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,170评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,033评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,098评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,511评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,204评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,479评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,572评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,341评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,213评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,576评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,893评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,171评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,486评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,676评论 2 335

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,497评论 18 139
  • 来源 RabbitMQ是用Erlang实现的一个高并发高可靠AMQP消息队列服务器。支持消息的持久化、事务、拥塞控...
    jiangmo阅读 10,335评论 2 34
  • RabbitMQ详解 本文地址:http://www.host900.com/index.php/articles...
    嘉加家佳七阅读 2,493评论 0 9
  • 国家电网公司企业标准(Q/GDW)- 面向对象的用电信息数据交换协议 - 报批稿:20170802 前言: 排版 ...
    庭说阅读 10,800评论 6 13
  • 从三月份找实习到现在,面了一些公司,挂了不少,但最终还是拿到小米、百度、阿里、京东、新浪、CVTE、乐视家的研发岗...
    时芥蓝阅读 42,137评论 11 349