7:RocketMq原理 高效能的RocketMQ(ConsumeQueue CommitLog)

1:什么是Offset
message queue是无限长的数组,一条消息进来下标就会涨1,下标就是offset,
消息在某个 MessageQueue里的位置,通过offset的值可以定位到这条消息,或者指示Consumer从这条消息开始向后处理

message queue中的maxOffset表示消息的最大offset, 
maxOffset并不是最新的那条消息的 offset,而是最新消息的offset+1, minOffset则是现存在的最小offset。

broker的config配置:
     deleteWhen = 04  (每天凌晨4点删除日志)
    fileReserveTime=48 (默认消息存储48小时)(48小时之前的消费会被物理地从磁盘删除)
message queue 的min offset也就对应增长。

所以比minOffset还要小的那些消息已经不在broker上了,就无法被消费。

类型(父类是0ffsetStore):
    
    Broker代存储类型:
    DefaultMQPushConsumer的CLUSTERING模式,
    由Broker端存储和控制Offset的值, 使用 RemoteBrokerOffsetStore
    本地文件类型
    DefaultMQPushConsumer 的 BROADCASTING 模式,
    各Consumer没有互相干扰,使用LoclaFileOffsetStore,把Offset存储在本地
offset作用:
    主要是记录消息的偏移量,有多个消费者进行消费

建议采用pushConsumer, RocketMQ自动维护OffsetStore,
不管Offset时存储在是Broker代存储类型还是本地文件类型,最后都是RocketMQ进行管理的 不需要自己管理

如果用另外一种pullConsumer,为了更加灵活的管理消息的消费(可以针对pullConsumer对应的方法进行重写),
除了Offset是存放在本地 还需要自己进行维护OffsetStore
2:什么是CommitLog
消息存储是由ConsumeQueue和CommitLog配合完成
ConsumeQueue:是逻辑队列 (会被持久化)
CommitLog:是真正存储消息文件的,存储的是指向物理存储的地址(会被持久化)

ConsumeQueue 存储的是 消息在CommitLog中的offset。
ConsumeQueue 可以看做是 CommitLog的索引文件。

1:可以通过ConsumeQueue保存的offset(offsetTable.offset json文件中保存的ConsumerQueue的下标) 
    快速的定位到CommitLog的具体消息的位置。

2:过滤tag是也是通过遍历ConsumeQueue来实现的(先比较hash(tag)符合条件的再到consumer比较tag原文)
    而不需要经过CommitLog。

ConsumeQueue:
Topic下的每个message queue都有对应的ConsumeQueue文件,内容也会被持久化到磁盘 
默认地址: store/consumequeue/{topicName}/{queueid}/fileName

CommitLog
生成规则:
    每个文件的默认1G =1024 * 1024 *1024, 

    commitlog的文件名fileName,名字长度为20位,左边补零,剩余为起始偏移量;
    1:第一个文件名称为00000000000000000000,起始偏移量为0,文件大小为1G=1 073 741 824Byte;
    2:当这个文件满了,消息存储的时候会顺序写入文件,当文件满了则写入下一个文件  
    3:第二个文件名字为00000000001073741824,起始偏移量为1073741824。            

判断消息存储在哪个CommitLog上
    例如1073742827为物理偏移量,则其对应的相对偏移量  1073742827 - 1073741824  =为1003  
    并且该偏移量位于第二个CommitLog。

Broker 里面多个Topic(一对多)
    一个 Topic里面有多个MesssageQueue(一对多)
    每个 MessageQueue 都对应一个 ConsumeQueue (一对一)
    ConsumeQueue里面记录的是Off   在CommitLog里面的物理存储地址
3:高性能分析之ZeroCopy零拷贝技术讲解
RocketMQ的高效原因      
    CommitLog顺序写,存储了MessagBody、message key、tag等信息
    ConsumeQueue随机读(索引)+操作系统的PageCache(缓存) +零拷贝技术ZeroCopy(最重要)

ConsumeQueue 与 CommitLog 的关系  :
    通过 存储在ConsumeQueue的offset  快速查找 CommitLog

ConsumeQueue的零拷贝技术ZeroCopy:

零拷贝技术
read(file, tmp_buf, len); 
write(socket, tmp_buf, len);

例子:
将一个File读取并发送出去(Linux有两个上下文,内核态,用户态)
 File文件的经历了4次copy
 
 kerneI = 内核态  user = 用户态

1:调用read,将文件 从磁盘拷贝  到了内核态
2:CPU控制  内核态的数据拷贝  到了用户态
3:调用write时,用户态下的内容会  拷贝到内核态的socket的buffer中 :
4:最后将内核态socket buffer的数据拷贝到网卡设备中传送

缺点:增加了上下文切换、浪费了2次无效拷贝(即步骤2和3)

最关键是该逻辑需要经过  用户态(Linux系统的 Security Processing 处理) 
不能在内核态直接处理数据
ZeroCopy:
请求kernel直接把disk的data传输绐socket,而不是通过应用程序传输。
Zero copy 大大提高了应用程序的性能,减少不必要的内核缓冲区跟用户缓冲区间的拷贝,
从而减少CPU的开销和减少了 kernel和u er模式的上下文切换,达到性能的提升

对应零拷贝技术有mmap及sendfile
-mmap:小文件传输快
RocketMQ选择这种方式,mmap+write方式,小块数据传输,效果会比sendfile更好

sendfile:大文件传输比mmap快

应用:Kafka Netty RocketMq都使用了零拷贝的技术。
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,546评论 6 507
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,224评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,911评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,737评论 1 294
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,753评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,598评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,338评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,249评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,696评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,888评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,013评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,731评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,348评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,929评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,048评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,203评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,960评论 2 355

推荐阅读更多精彩内容

  • 今天感恩节哎,感谢一直在我身边的亲朋好友。感恩相遇!感恩不离不弃。 中午开了第一次的党会,身份的转变要...
    迷月闪星情阅读 10,566评论 0 11
  • 彩排完,天已黑
    刘凯书法阅读 4,218评论 1 3
  • 表情是什么,我认为表情就是表现出来的情绪。表情可以传达很多信息。高兴了当然就笑了,难过就哭了。两者是相互影响密不可...
    Persistenc_6aea阅读 125,061评论 2 7