RocketMQ事务消息与分布式事务

《RocketMQ实战入门》里我们入门了基本的RocketMQ消息发布和消费,并封装了一个简单的util包,现在我们来看一下如何使用RocketMQ的事务消息来解决分布式事务问题。

事务消息基本流程

说明,RocketMQ来实现分布式事务主要基于的是BASE理论,即基本可用、软状态、最终一致性。属于刚性事务与柔性事务中的后者,性能较好,但取的是最终一致性。流程类似于2PC,但是个异步过程。

流程如下:

  1. Producer发送半消息给RocketMQ,收到回复后开始执行自己本地的事务。半消息不会被消费。

  2. 执行本地事务并将执行的结果发送通知RocketMQ,MQ根据结果来确定之前的半消息是提交还是丢弃。

  3. 如果半消息提交,RocketMQ将负责确保该消息被Consumer消费,Consumer消费到消息即执行自己的事务。

异常情况:

  1. 如果Producer没有将本地事务结果发送给MQ,此时事务处于UNKNOW状态,则MQ每60s会通过Producer提供的回调接口来反查其事务执行结果来决定半消息是提交还是丢弃。默认会执行此回调15次,如果还是UNKNOW则丢弃半消息,并打印错误日志。

  2. 如果Producer发送完半消息之后挂了,MQ会去同一个group里的其他Producer调用回调接口反查事务执行结果。

代码编写

RocketMQ发送事务消息主要是使用TransactionMQProducer这个Producer。然后实现TransactionListener接口,并将该Listener绑定到Producer上。

TransactionMQProducer与普通消息的DefaultMQProducer比较类似,而TransactionListener接口需要实现executeLocalTransaction()和checkLocalTransaction()两个方法,分别写半消息发送成功后的本地事务逻辑以及供MQ回调的反查事务结果逻辑。

参考官方例子https://github.com/apache/rocketmq/blob/master/docs/cn/RocketMQ_Example.md,实际使用中一般应该是在executeLocalTransaction()根据业务逻辑执行情况直接返回明确的事务结果是Commit还是Rollback的。这里为了测试故意在executeLocalTransaction()返回事务结果UNKNOW,让MQ执行反查逻辑回调checkLocalTransaction()方法来获得事务结果。代码如下:(部分代码在前文《RocketMQ实战入门》中有)

TransactionProducer:

/**
 * 事务消息Producer
 * 用于发送事务消息,实现分布式事务
 * 
 * 跟普通消息用的Producer不同,事务Producer没法全局用个单例,
 * 因为需要绑定TransactionListener的业务处理逻辑。
 * */
@Slf4j
@Component
public class TransactionMsgProducer {
    
    @Value("${rocketmq.url}")
    private String mqurl;
    
    @Value("${rocketmq.accessKey}")
    private String accessKey;
    
    @Value("${rocketmq.secretKey}")
    private String secretKey;
    
    @Value("${rocketmq.producergroup.name}")
    private String producerGroupName;
    
    private TransactionMQProducer producer;
    
    public TransactionSendResult publish(EventMessage eventMsg) {
        try {
            Message msg = new Message(eventMsg.getTopic(), eventMsg.getTag(), eventMsg.getMsgId(), JSON.toJSONString(eventMsg).getBytes("utf-8"));
            TransactionSendResult result = producer.sendMessageInTransaction(msg, null);
            return result;
        } catch (Exception e) {
            log.error("事务消息发送失败" + e.getMessage(), e);
            e.printStackTrace();
        }
        return null;
    }
    
    @PostConstruct
    public void init() {
        producer = new TransactionMQProducer(producerGroupName + "-trans", getAclRPCHook());
        producer.setNamesrvAddr(mqurl);
        TransactionListener transactionListener = new MyTransactionListener();
        producer.setTransactionListener(transactionListener);
        try {
            producer.start();
            log.info("RocketMQ客户端事务producer初始化...");
        } catch (MQClientException e) {
            e.printStackTrace();
        }
    }
    
    @PreDestroy
    public void shutdown() {
        if(producer != null)
            producer.shutdown();
    }
    
    private RPCHook getAclRPCHook() {
        return new AclClientRPCHook(new SessionCredentials(accessKey, secretKey));
    }
}

TransactionListener:

/**
 * 半消息发送成功则执行executeLocalTransaction
 * RocketMQ回调checkLocalTransaction来确认Producer本地的事务执行状态
 * */
@Slf4j
public class MyTransactionListener implements TransactionListener{
    
    private AtomicInteger transactionIndex = new AtomicInteger(0);
    private ConcurrentHashMap<String, Integer> localTransactions = new ConcurrentHashMap<>();

    @Override
    public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {
        log.info("Producer开始执行本地事务...");
        int value = transactionIndex.getAndIncrement();
        localTransactions.put(msg.getTransactionId(), value % 3);
        log.info("事务ID:{},执行状态{}, 但统一返回RocketMQ事务状态为UNKNOW", msg.getTransactionId(), value % 3);
        return LocalTransactionState.UNKNOW;
    }

    @Override
    public LocalTransactionState checkLocalTransaction(MessageExt msg) {
        Integer state = localTransactions.get(msg.getTransactionId());
        log.info("事务ID:{}执行后返回MQ状态为UNKNOW,触发RocketMQ回调查询事务状态机制,"
                + "MQ调用Producer提供的回调接口查询事务状态为{}", msg.getTransactionId(), state);
        if(null != state) {
            switch(state) {
            case 0:
                log.info("从肥兔子账户-300操作还没执行完");
                return LocalTransactionState.UNKNOW;
            case 1:
                log.info("已经成功从肥兔子账户-300");
                return LocalTransactionState.COMMIT_MESSAGE;
            case 2:
                log.info("从肥兔子账户-300失败");
                return LocalTransactionState.ROLLBACK_MESSAGE;
            }
        }
        return LocalTransactionState.COMMIT_MESSAGE;
    }

}

消费者,也即分布式事务的其他参与者:

@Slf4j
@Component
@MsgConsumer(consumerGroup = "testapp-consumer-group", tag = "douchuzi", topic = "test-trans-topic")
public class TestConsumer implements MQMsgHandler{

    @Override
    public void handleMsg(List<EventMessage> msgs) {
        for(EventMessage msg : msgs) {
            log.info(JSON.toJSONString(msg));
        }
    }
}

测试代码:

EventMessage msg = new EventMessage();
msg.setTopic("test-trans-topic");
msg.setTag("douchuzi");
msg.setMsgId("123");
msg.setProducerGroup("testapp-producer-group");
msg.setMsgBody("给豆畜子账户+300块");
msg.setPublishTime(LocalDateTime.now().toString());
TransactionSendResult result = transactionMsgProducer.publish(msg);
log.info("肥兔子给豆畜子转账的事务消息发送完毕,"
        + "消息ID:{}, 事务ID{},消息发送状态:{},分布式事务开始!", 
        result.getMsgId(), 
        result.getTransactionId(), 
        result.getSendStatus());

测试执行结果分3种情况,执行3次一个循环。

反查本地事务UNKNOW:

2022-02-01 22:48:37.172  INFO 12388 --- [nio-8080-exec-2] c.w.controller.MyTransactionListener     : Producer开始执行本地事务...
2022-02-01 22:48:37.173  INFO 12388 --- [nio-8080-exec-2] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04E502240000,执行状态0, 但统一返回RocketMQ事务状态为UNKNOW
2022-02-01 22:48:37.174  INFO 12388 --- [nio-8080-exec-2] com.wangan.controller.WanganController   : 肥兔子给豆畜子转账的事务消息发送完毕,消息ID:7F00000130644E0E2F2A04E502240000, 事务IDnull,消息发送状态:SEND_OK,分布式事务开始!
2022-02-01 22:49:05.702  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04E502240000执行后返回MQ状态为UNKNOW,触发RocketMQ回调查询事务状态机制,MQ调用Producer提供的回调接口查询事务状态为0
2022-02-01 22:49:05.702  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 从肥兔子账户-300操作还没执行完
2022-02-01 22:50:05.700  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04E502240000执行后返回MQ状态为UNKNOW,触发RocketMQ回调查询事务状态机制,MQ调用Producer提供的回调接口查询事务状态为0
2022-02-01 22:50:05.700  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 从肥兔子账户-300操作还没执行完
2022-02-01 22:51:05.697  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04E502240000执行后返回MQ状态为UNKNOW,触发RocketMQ回调查询事务状态机制,MQ调用Producer提供的回调接口查询事务状态为0
2022-02-01 22:51:05.697  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 从肥兔子账户-300操作还没执行完

发送完半消息之后执行本地事务并回复MQ事务执行结果unknow,这样MQ会反查回调接口来确认事务结果,1分钟查1次,默认15次仍无法确认事务结果则丢弃半消息,这里为了测试方便改成了3次(修改broker.conf里的transactionCheckMax=3)。

反查本地事务COMMIT_MESSAGE:

2022-02-01 22:53:27.323  INFO 12388 --- [nio-8080-exec-5] c.w.controller.MyTransactionListener     : Producer开始执行本地事务...
2022-02-01 22:53:27.323  INFO 12388 --- [nio-8080-exec-5] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04E96F880001,执行状态1, 但统一返回RocketMQ事务状态为UNKNOW
2022-02-01 22:53:27.323  INFO 12388 --- [nio-8080-exec-5] com.wangan.controller.WanganController   : 肥兔子给豆畜子转账的事务消息发送完毕,消息ID:7F00000130644E0E2F2A04E96F880001, 事务IDnull,消息发送状态:SEND_OK,分布式事务开始!
2022-02-01 22:54:05.708  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04E96F880001执行后返回MQ状态为UNKNOW,触发RocketMQ回调查询事务状态机制,MQ调用Producer提供的回调接口查询事务状态为1
2022-02-01 22:54:05.708  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 已经成功从肥兔子账户-300
2022-02-01 22:54:05.718  INFO 12388 --- [MessageThread_6] com.wangan.controller.TestConsumer       : {"msgBody":"给豆畜子账户+300块","msgId":"123","producerGroup":"testapp-producer-group","publishTime":"2022-02-01T22:53:27.304","tag":"douchuzi","topic":"test-trans-topic"}

MQ反查事务结果,获知事务成功,MQ提交半消息,消息即可被消费者正常消费并执行其事务。分布式事务完成。

反查本地事务ROLLBACK_MESSAGE:

2022-02-01 22:54:59.306  INFO 12388 --- [nio-8080-exec-8] c.w.controller.MyTransactionListener     : Producer开始执行本地事务...
2022-02-01 22:54:59.306  INFO 12388 --- [nio-8080-exec-8] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04EAD6DD0002,执行状态2, 但统一返回RocketMQ事务状态为UNKNOW
2022-02-01 22:54:59.307  INFO 12388 --- [nio-8080-exec-8] com.wangan.controller.WanganController   : 肥兔子给豆畜子转账的事务消息发送完毕,消息ID:7F00000130644E0E2F2A04EAD6DD0002, 事务IDnull,消息发送状态:SEND_OK,分布式事务开始!
2022-02-01 22:56:05.718  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 事务ID:7F00000130644E0E2F2A04EAD6DD0002执行后返回MQ状态为UNKNOW,触发RocketMQ回调查询事务状态机制,MQ调用Producer提供的回调接口查询事务状态为2
2022-02-01 22:56:05.718  INFO 12388 --- [pool-1-thread-1] c.w.controller.MyTransactionListener     : 从肥兔子账户-300失败

反查事务结果为事务失败,MQ删除半消息。

总结

RocketMQ事务消息可以实现柔性分布式事务,确保最终一致性,不锁定数据库资源,适合高并发场景。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,992评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,212评论 3 388
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,535评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,197评论 1 287
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,310评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,383评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,409评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,191评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,621评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,910评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,084评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,763评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,403评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,083评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,318评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,946评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,967评论 2 351

推荐阅读更多精彩内容