MQ

最近开发的需求涉及到了MQ的一些知识,现在做一个简单的总结。

项目中为什么会用到MQ

我们的系统要把每次用户登陆或者修改的用户信息同步到用户管理系统那边(2个系统不是用的同一个数据库)。这就导致我们需要每次通过ETL来将用户信息同步过去,但是etl同步数据有延迟,现在我们想要的就是将修改后的信息实时传过去。传统的方式可以通过远程RPC调用将数据进行传输,但是缺点就是系统间的耦合性太高了。通过使用MQ消息订阅及消费模式,实时的高效同步,我们只需要将我们的数据发送到MQ上,然后对方再从MQ上将数据取下来就行了。我们发送数据的这一方就是一个生产者,对方从MQ上取下我们发送的数据就是消费者。可以将MQ当作一个传递消息的邮局,发件人就是生产者,收件人就是消费者。


简单概念

MQ的优点

  1. 解耦:降低系统之间的联系,我们系统每次操作用户信息后,直接将信息放到MQ中就行了,对方系统只管监听MQ并将数据取出来就行了。
  2. 流量削峰:可以将我们系统的请求缓存到MQ中,对方系统再慢慢的从MQ中拉取数据并将数据同步到数据库中。
  3. 数据分发:哪个系统需要数据只要直接从MQ中将数据取出来就行了而不必系统与系统之间联系。

RocketMQ的结构

  1. NameServer:主要用来记录维护Topic、Broker的信息,及监控Broker的运行状态。
  2. Broker:是RocketMQ的核心,提供了消息的接收,存储,拉取等功能,为了保证Broker的高可用,Broker分为Master和Slave,一个Master可以对应多个Slave,Master与Slave的对应关系通过指定相同的BrokerName,不同的BrokerId来定义,BrokerId为0表示Master,非0表示Slave。
  3. Producer生产者:需要与NameServer建立连接,从NameServer获取Topic路由信息,并向提供Topic服务的Broker Master建立连接。
  4. Customer消费者:同样与NameServer建立连接,从NameServer获取Topic路由信息,并向提供Topic服务的Broker Master,Slave建立连接。
rocketmq集群

RocketMQ简单使用

准备:Linux系统、JDK1.8、RocketMQ安装压缩包
进入官网下载压缩包

下载

上传到服务器上并解压压缩文件

解压文件

进入解压后文件夹中的bin目录下,输入sh mqnamesrv,启动NameServer发现报错

报错

原因:RocketMQ默认的虚拟机内存较大,启动的时候因为内存不足而失败,需要修改runserver.sh和runbroker.sh这2个文件,将内存调小一点。


runserver.sh
runbroker.sh

继续输入sh mqnamesrv启动NameServer

启动NameServer

新开终端,继续输入sh mqbroker -n localhost:9876启动Broker

启动Broker

再新开一个终端,输入jps,可以看到NameServer和Broker都启动了

JPS

测试运行代码

pom文件中引入

       <dependency>
            <groupId>org.apache.rocketmq</groupId>
            <artifactId>rocketmq-client</artifactId>
            <version>4.4.0</version>
        </dependency>

生产者

public class Producer {
    public static void main(String[] args) throws InterruptedException, RemotingException, MQClientException, MQBrokerException {
        //Instantiate with a producer group name.
        DefaultMQProducer producer = new  DefaultMQProducer("test_group");
        // 设置NameServer地址,多个地址之间用;分隔
        producer.setNamesrvAddr("mainnode:9876");
        //启动一个producer实例
        producer.start();
        for (int i = 0; i < 5; i++) {
            //定义发送的消息
            Message msg = new Message("TopicTest" /* 定义发送的主题 */,
                    "Tag" /* 发送的标记 */,
                    "key"+i/* Key */,
                    ("hello"+i).getBytes());/* 发送的内容 */
            //调用producer的send()方法发送消息并获取响应结果
            SendResult sendResult = producer.send(msg);
            System.out.printf("%s%n", sendResult);
        }
        //关闭生产者
        producer.shutdown();
    }
}

消费者

public  class Customer {
    public static void main(String[] args) throws MQClientException {
        // Instantiate with specified consumer group name.
        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("test_group");
        // 设置NameServer地址,多个地址之间用;分隔
        consumer.setNamesrvAddr("mainnode:9876");
        // 设置消费者订阅的Topic和Tag,*代表全部的Tag
        consumer.subscribe("TopicTest", "*");
        // 获取信息
        consumer.registerMessageListener(new MessageListenerConcurrently() {
            public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> list, ConsumeConcurrentlyContext consumeConcurrentlyContext) {
                for (MessageExt ms : list) {
                    System.out.println(new String(ms.getBody()));
                }
                //返回消费成功状态
                return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
            }
        });
        //调用start()方法启动consumer
        consumer.start();
    }
}

分别运行消费者和生产者测试,可以看到生产者发送到MQ的信息已经被消费者打印输出了。

消费者收到的数据
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,332评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,508评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,812评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,607评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,728评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,919评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,071评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,802评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,256评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,576评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,712评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,389评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,032评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,798评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,026评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,473评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,606评论 2 350