聊聊 RocketMQ 中的 NameServer

概述

NameServerRocketMQ 集群中的核心组件,负责管理 BrokerTopic 的路由信息,同时提供服务发现的功能。作为一个轻量级的无状态服务,NameServer 主要用于记录和维护各个 Broker 的注册信息,并为生产者(Producer)和消费者(Consumer)提供实时的路由查询服务。每个 Broker 在启动后会主动向 NameServer 注册自己的状态,并定期发送心跳以保证信息的实时更新。当 ProducerConsumer 需要发送或消费消息时,首先会从 NameServer 获取最新的路由信息。

启动流程

NameServer 的启动入口是 NamesrvStartup ,启动过程中涉及配置加载、初始化并启动 Netty 服务端、创建路由信息管理服务、启动定时任务监测 Broker 是否下线等多个步骤。

#NamesrvStartup
public static NamesrvController main0(String[] args) {
    // ...
    // 创建NamesrvController
    NamesrvController controller = createNamesrvController(args);
    // 启动NamesrvController
    start(controller);
    // ...
}

启动时,首先会调用createNamesrvController()方法创建NamesrvControllerNamesrvControllerNameServer 的核心控制组件,负责初始化和启动 NameServer 的各个组件;紧接着,会调用start()方法,start()方法内部调用了NamesrvController的initialize()方法和start()方法。可以看出,NamesrvControllerNameServer 中起着重要作用。

创建NamesrvController

上文提到过,NamesrvController 负责初始化和启动 NameServer 的各个组件。那么具体有哪些组件,以及这些组件各自的作用是什么呢?接下来我会逐步进行详细讲解。首先,让我们来看一下 NamesrvController 的构造方法:

#NamesrvController
public NamesrvController(NamesrvConfig namesrvConfig, NettyServerConfig nettyServerConfig) {
    this.namesrvConfig = namesrvConfig;
    this.nettyServerConfig = nettyServerConfig;
    this.kvConfigManager = new KVConfigManager(this);
    this.routeInfoManager = new RouteInfoManager();
    this.brokerHousekeepingService = new BrokerHousekeepingService(this);
    this.configuration = new Configuration(log, this.namesrvConfig, this.nettyServerConfig);
    this.configuration.setStorePathFromConfig(this.namesrvConfig, "configStorePath");
}

在创建 NamesrvController 时,首先会解析命令行参数,从中读取配置文件,并将其内容加载到 namesrvConfignettyServerConfig 中。namesrvConfig 主要存储 NameServer 的配置参数,例如是否开启顺序消息等。nettyServerConfig 则用于配置 Netty 网络服务的参数,包括监听端口、I/O 线程数等。kvConfigManager 负责管理 Key-Value 类型的配置数据,提供动态配置支持,使得在运行时可以更新某些配置,而无需重启 NameServerrouteInfoManager 用于管理和维护 Broker 的路由信息。brokerHousekeepingService 实现了 ChannelEventListener 接口,用于监听 channel 的变化事件。关于初始化的这些组件有什么作用,将在后续进行详细介绍。

初始化NamesrvController

NameServer 启动时会调用 NamesrvControllerinitialize()方法进行初始化:

#NamesrvStartup
public static NamesrvController start(final NamesrvController controller) throws Exception {
    // ...
    // 初始化
    boolean initResult = controller.initialize();
    // ...
    return controller;
}                                                                                       
#NamesrvController
public boolean initialize() {
    // ...
    // 创建Netty服务端
    this.remotingServer = new NettyRemotingServer(this.nettyServerConfig, this.brokerHousekeepingService);
    // ...
    // 注册处理器
    this.registerProcessor();
    // 定时监测Broker是否存活
    this.scheduledExecutorService.scheduleAtFixedRate(
               NamesrvController.this.routeInfoManager::scanNotActiveBroker, 5, 10, TimeUnit.SECONDS);
    // ...
    return true;
}

代码省略了非关键步骤,初始化过程主要分以下三个步骤:

  • 创建Netty服务端

    ProducerConsumerBrokerNameServer 之间的通信主要是通过长连接实现的,这样可以提高通信效率,减少延迟,同时在网络环境较差的情况下也能保持稳定性。

  • 注册处理器

    监听并接收到来自ProducerConsumerBroker 的网络请求后,会将接收到的请求分发到相应的处理器进行处理,比如Broker注册、Broker注销、查询路由信息等请求。这些处理器就是在初始化NamesrvController时完成注册的。

  • 定时监测Broker是否下线

    启动一个定时任务,定期扫描注册的 Broker,通过检测心跳来判断它们是否仍然活跃。对于长时间没有发送心跳的 BrokerNameServer 会将其从路由表中移除,保持路由信息的准确性和实时性。

启动NamesrvController

在完成了 NamesrvController 的初始化之后,会调用 NamesrvControllerstart()方法启动 NamesrvController

#NamesrvController
public void start() throws Exception {
    // 启动Netty服务端
    this.remotingServer.start();
    // ...
}
#NettyRemotingServer
public void start() {
    // ...
    prepareSharableHandlers();
    // ...
}

Netty 服务端的启动过程不是本篇内容的重点,直接省略,重点关注prepareSharableHandlers() 方法。在该方法中指定不同的网络请求事件所对应的处理器,这些处理器则是整个NameServer 的核心:

#NettyRemotingServer
private void prepareSharableHandlers() {
    // ...
    serverHandler = new NettyServerHandler();
}
#NettyRemotingServer
@ChannelHandler.Sharable
class NettyServerHandler extends SimpleChannelInboundHandler<RemotingCommand> {

    @Override
    protected void channelRead0(ChannelHandlerContext ctx, RemotingCommand msg) throws Exception {
        processMessageReceived(ctx, msg);
    }
}
#NettyRemotingAbstract
public void processMessageReceived(ChannelHandlerContext ctx, RemotingCommand msg) throws Exception {
    // ...
    processRequestCommand(ctx, cmd);
    // ...
}

上面省略了握手、编解码、连接管理所对应的处理器等非关键代码,只关注ProducerConsumerBroker 所发送的网络请求事件对应的处理逻辑:

#NettyRemotingAbstract
public void processRequestCommand(final ChannelHandlerContext ctx, final RemotingCommand cmd) {
    final Pair<NettyRequestProcessor, ExecutorService> matched = this.processorTable.get(cmd.getCode());
    final Pair<NettyRequestProcessor, ExecutorService> pair = null == matched ? this.defaultRequestProcessor : matched;
    final int opaque = cmd.getOpaque();
        Runnable run = new Runnable() {
        @Override
        public void run() {
            // ...
            processor.asyncProcessRequest(ctx, cmd, callback);
            // ...
    };
    final RequestTask requestTask = new RequestTask(run, ctx.channel(), cmd);
    pair.getObject2().submit(requestTask);
    // ...
}

defaultRequestProcessor 就是上文初始化方法中所注册的处理器:DefaultRequestProcessor 。在DefaultRequestProcessorprocessRequest()方法中会根据请求code的不同调用不同的处理逻辑:

#DefaultRequestProcessor
public RemotingCommand processRequest(ChannelHandlerContext ctx,
    RemotingCommand request) throws RemotingCommandException {
    // ...
    switch (request.getCode()) {
        // ...省略对 Key-Value 配置的存储、查询、删除处理,查询Broker主题配置数据版本等操作...
        // 注册Broker
        case RequestCode.REGISTER_BROKER:
            Version brokerVersion = MQVersion.value2Version(request.getVersion());
            if (brokerVersion.ordinal() >= MQVersion.Version.V3_0_11.ordinal()) {
                return this.registerBrokerWithFilterServer(ctx, request);
            } else {
                return this.registerBroker(ctx, request);
            }
        // 注销Broker
        case RequestCode.UNREGISTER_BROKER:
            return this.unregisterBroker(ctx, request);
        // 查询主题路由信息
        case RequestCode.GET_ROUTEINFO_BY_TOPIC:
            return this.getRouteInfoByTopic(ctx, request);
        // 查询Broker集群信息
        case RequestCode.GET_BROKER_CLUSTER_INFO:
            return this.getBrokerClusterInfo(ctx, request);
        // ...
        // 获取所有主题列表
        case RequestCode.GET_ALL_TOPIC_LIST_FROM_NAMESERVER:
            return getAllTopicListFromNameserver(ctx, request);
        // 删除主题
        case RequestCode.DELETE_TOPIC_IN_NAMESRV:
            return deleteTopicInNamesrv(ctx, request);
        // ...
    }
    return null;
}

在创建 NamesrvController 时,初始化了 kVConfigManagerrouteInfoManager 等组件。这些组件的初始化确保了 NameServer 在启动时能够有效地管理配置和路由信息,从而提升消息传递的可靠性和系统的整体性能。接下来,让我们具体探讨一下 routeInfoManager 是如何维护和管理路由信息、主题和队列等相关信息的。

public class RouteInfoManager {
    // ...
    private final HashMap<String/* topic */, Map<String /* brokerName */ , QueueData>> topicQueueTable;
    private final HashMap<String/* brokerName */, BrokerData> brokerAddrTable;
    private final HashMap<String/* clusterName */, Set<String/* brokerName */>> clusterAddrTable;
    private final HashMap<String/* brokerAddr */, BrokerLiveInfo> brokerLiveTable;
    private final HashMap<String/* brokerAddr */, List<String>/* Filter Server */> filterServerTable;
    // ...
}

RouteInfoManager 的属性可以看出,它使用了五个 Map 来管理路由信息、主题和队列等相关数据:

  • topicQueueTable

    存储每个主题对应的队列信息。

  • brokerAddrTable

    存储 Broker 的信息。

  • clusterAddrTable

    存储每个集群及其下属 Broker 的关系。

  • brokerLiveTable

    存储每个 Broker 的实时状态信息。

  • filterServerTable

    存储每个 Broker 对应的过滤服务器列表。

除了主动向 NameServer 发送请求会更新RouteInfoManager 的属性信息外,BrokerNameServer 连接状态发生变化也会更新相关的路由信息,确保系统能够及时反映 Broker 的健康状态:

#NettyRemotingServer
public void start() {
    // ...
    if (this.channelEventListener != null) {
        this.nettyEventExecutor.start();
    }
    // ...
}
class NettyEventExecutor extends ServiceThread {
    @Override
    public void run() {
        final ChannelEventListener listener = NettyRemotingAbstract.this.getChannelEventListener();
        NettyEvent event = this.eventQueue.poll(3000, TimeUnit.MILLISECONDS);
        if (event != null && listener != null) {
            switch (event.getType()) {
                case IDLE:
                    listener.onChannelIdle(event.getRemoteAddr(), event.getChannel());
                    break;
                case CLOSE:
                    listener.onChannelClose(event.getRemoteAddr(), event.getChannel());
                    break;
                case CONNECT:
                    listener.onChannelConnect(event.getRemoteAddr(), event.getChannel());
                    break;
                case EXCEPTION:
                    listener.onChannelException(event.getRemoteAddr(), event.getChannel());
                    break;
                default:
                    break;
            }
        }
        // ...
    }

其中,listener 就是创建 NamesrvController 时初始化的brokerHousekeepingService 属性,BrokerHousekeepingService 的主要职责是监控 Broker 的连接状态并维护路由信息。当连接关闭、异常或闲置时,它会通过 RouteInfoManager 更新相关的路由信息,确保系统能够及时反映 Broker 的健康状态:

public class BrokerHousekeepingService implements ChannelEventListener {
    private static final InternalLogger log = InternalLoggerFactory.getLogger(LoggerName.NAMESRV_LOGGER_NAME);
    private final NamesrvController namesrvController;

    public BrokerHousekeepingService(NamesrvController namesrvController) {
        this.namesrvController = namesrvController;
    }
    @Override
    public void onChannelConnect(String remoteAddr, Channel channel) {
    }
    @Override
    public void onChannelClose(String remoteAddr, Channel channel) {
        this.namesrvController.getRouteInfoManager().onChannelDestroy(remoteAddr, channel);
    }
    @Override
    public void onChannelException(String remoteAddr, Channel channel) {
        this.namesrvController.getRouteInfoManager().onChannelDestroy(remoteAddr, channel);
    }
    @Override
    public void onChannelIdle(String remoteAddr, Channel channel) {
        this.namesrvController.getRouteInfoManager().onChannelDestroy(remoteAddr, channel);
    }
}

总结

整体来看,NameServer的设计实现相比于Zookeeper等注册中心显得非常轻量级。它通过创建Netty服务端(NettyRemotingServer)与其他组件进行网络通信,并使用RouteInfoManager来维护路由信息。此外,在NameServer的集群部署中,各个实例之间并不进行通信,仅作为数据备份,这大大降低了实现的复杂度。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,163评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,301评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,089评论 0 352
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,093评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,110评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,079评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,005评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,840评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,278评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,497评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,667评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,394评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,980评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,628评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,796评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,649评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,548评论 2 352

推荐阅读更多精彩内容