dubbo 线程模型浅析

  dubbo线程模型分为IO线程和服务调用处理线程，IO线程主要是netty的线程，可以在protocol标签中使用iothreads配置，缺省值为处理器核数+1，服务处理线程主要是提供端netty接收到请求后，处理业务的线程，在dubbo官方文档关于服务调用处理线程的配置如下：

<dubbo:protocol name="dubbo" dispatcher="all" threadpool="fixed" threads="100" />

重要的参数有三个dispatcher、threadpool、threads：

  • dispatcher:线程分发器 all(默认)、message、direct(不派发)等
  • threadpool:具体处理业务的线程池
  • threads:线程池线程数

  在消费端其实都是IO线程，并不涉及到服务调用处理线程，在此不做分析，重点分析提供端的线程模型：netty IO线程和服务调用处理线程。

一、netty的IO线程：

 @Override
 protected void doOpen() throws Throwable {
   //boss线程池 负责处理消费端的链接 
   ExecutorService boss = Executors.newCachedThreadPool(new 
   NamedThreadFactory("NettyServerBoss", true));
   //worker线程池，负责交换数据
   ExecutorService worker = Executors.newCachedThreadPool(new 
   NamedThreadFactory("NettyServerWorker", true));
   // 限制worker线程池最大线程数，默认处理器数+1
   ChannelFactory channelFactory = new NioServerSocketChannelFactory(boss, worker, getUrl().getPositiveParameter(Constants.IO_THREADS_KEY, Constants.DEFAULT_IO_THREADS));
   ...........
  //绑定端口
  channel = bootstrap.bind(getBindAddress());
}

boss线程接受了socket连接求后，会产生一个channel，此channel要与dubbo的区分开来，然后将channel交给ServerSocketChannelFactory后，又继续接受新的请求，ServerSocketChannelFactory则会从worker线程池中找出一个worker线程来继续处理这个请求，worker线程数可以自定义配置。

<dubbo:protocol name="dubbo" iothreads="100"  port="20880"/>

二、服务调用处理线程
  当消费端调用请求到服务端后，netty接收到请求后初始化链接后，会调用NettyHandler.channelConnected()方法:

 @Override
    public void channelConnected(ChannelHandlerContext ctx, ChannelStateEvent e) throws Exception {
       //获取一个NettyChannel  ctx.getChannel()为boss线程池传递过来的
        NettyChannel channel = NettyChannel.getOrAddChannel(ctx.getChannel(), url, handler);
        try {
            if (channel != null) {//没有直接创建一个 key: ip:port
                channels.put(NetUtils.toAddressString((InetSocketAddress) ctx.getChannel().getRemoteAddress()), channel);
            }
            //handler为NettyHandler初始化时传递过来的
            handler.connected(channel);
        } finally {
            NettyChannel.removeChannelIfDisconnected(ctx.getChannel());
        }
    }

static NettyChannel getOrAddChannel(org.jboss.netty.channel.Channel ch, URL url, ChannelHandler handler) {
        if (ch == null) {
            return null;
        }
        /* 根据netty中的channel从channelMap中获取dubbo的 NettyChannel
         * org.jboss.netty.channel.Channel --> NettyChannel
         * see ConcurrentMap<org.jboss.netty.channel.Channel, NettyChannel> channelMap
         */
        NettyChannel ret = channelMap.get(ch);
        if (ret == null) {//没有直接初始化一个，缓存到channelMap中
            NettyChannel nc = new NettyChannel(ch, url, handler);
            if (ch.isConnected()) {
                ret = channelMap.putIfAbsent(ch, nc);
            }
            if (ret == null) {
                ret = nc;
            }
        }
        return ret;
    }

NettyHandler.channelConnected()方法最后会调用handler.connected(channel)-->AbstractServer.connected(channel)：

 @Override
    public void connected(Channel ch) throws RemotingException {
        Collection<Channel> channels = getChannels();
        if (accepts > 0 && channels.size() > accepts) {
             //服务端建立的长连接超过限制，直接关闭，不再进行下面的处理
            logger.error("Close channel " + ch + ", cause: The server " + ch.getLocalAddress() + " connections greater than max config " + accepts);
            ch.close();
            return;
        }
        super.connected(ch);
    }

上面的方法主要是检查服务提供者接收的长连接数是否超出限制，消费端建立的tcp长连接太多，建立多余的链接会拒绝，消费端会接收到异常，配置的长连接不会像JDK中的线程池那样按需来建立，而是在消费者启动后就全部创建好。消费端参数为connections，服务端为accepts
com.alibaba.dubbo.rpc.protocol.dubbo.DubboProtocol

private ExchangeClient[] getClients(URL url){
        //是否共享连接
        boolean service_share_connect = false;
        int connections = url.getParameter(Constants.CONNECTIONS_KEY, 0);//从url获取connections
        //如果connections不配置，则共享连接，否则每服务每连接
        if (connections == 0){
            service_share_connect = true;
            connections = 1;
        }
        
        ExchangeClient[] clients = new ExchangeClient[connections];
        for (int i = 0; i < clients.length; i++) {//根据connections初始化
            if (service_share_connect){
                clients[i] = getSharedClient(url);
            } else {
                clients[i] = initClient(url);
            }
        }
        return clients;
    }

链接建立完毕之后，调用NettyHandler.messageReceived()方法：

 @Override
 public void messageReceived(ChannelHandlerContext ctx, MessageEvent e) throws Exception {
      //根据netty的channel取出一个dubbo的NettyChannel
      NettyChannel channel = NettyChannel.getOrAddChannel(ctx.getChannel(), url, handler);
       try {
           handler.received(channel, e.getMessage());//参数分别为NettyChannel RpcInvocation 
        } finally {//处理完成之后将channel移除
           NettyChannel.removeChannelIfDisconnected(ctx.getChannel());
        }
    }

handler.received()的handler为nettyServer，初始化的时候传进去的，进而调用到了AbstractPeer.received():

 public void received(Channel ch, Object msg) throws RemotingException {
        if (closed) {
            return;
        }
        handler.received(ch, msg);
}

上面的handler为初始化 nettyServer时设置的：

public NettyServer(URL url, ChannelHandler handler) throws RemotingException{
        super(url, ChannelHandlers.wrap(handler, ExecutorUtil.setThreadName(url, SERVER_THREAD_POOL_NAME)));
    }

进入到ChannelHandlers.wrap(.. , ..)方法，最后调用到了ChannelHandlers.wrapInternal(.. , ..)，在这个方法里封装的handler层次比较深

   protected ChannelHandler wrapInternal(ChannelHandler handler, URL url) {
        return new MultiMessageHandler(new HeartbeatHandler(ExtensionLoader.getExtensionLoader(Dispatcher.class)
                                        .getAdaptiveExtension().dispatch(handler, url)));
    }

先看Dispatcher这个接口：


Dispatcher.png

也是通过SPI机制进行适配的，默认实现是AllDispatcher，其他实现对应<dubbo:protocol />中dispatcher参数：

  • all 所有消息都派发到线程池，包括请求，响应，连接事件，断开事件，心跳等。
  • direct 所有消息都不派发到线程池，全部在 IO 线程上直接执行。
  • message 只有请求响应消息派发到线程池，其它连接断开事件，心跳等消息，直接在 IO 线程上执行。
  • execution 只请求消息派发到线程池，不含响应，响应和其它连接断开事件，心跳等消息，直接在 IO 线程上执行。
  • connection 在 IO 线程上，将连接断开事件放入队列，有序逐个执行，其它消息派发到线程池。

看AllDispatcher默认实现：

/**
 * 默认的线程池配置
 * 
 * @author chao.liuc
 */
public class AllDispatcher implements Dispatcher {

    public static final String NAME = "all";

    public ChannelHandler dispatch(ChannelHandler handler, URL url) {
        return new AllChannelHandler(handler, url);
    }
}

回到ChannelHandlers.wrapInternal(.. , ..)，最终这个handler的封装层次为：MultiMessageHandler-->HeartbeatHandler-->AllChannelHandler，MultiMessageHandler.received()如果是批量请求，依次调用下一个handler处理，HeartbeatHandler处理心跳检测调用，下面看看AllChannelHandler.received():

 public void received(Channel channel, Object message) throws RemotingException {
        ExecutorService cexecutor = getExecutorService();
        try {
            cexecutor.execute(new ChannelEventRunnable(channel, handler, ChannelState.RECEIVED, message));
        } catch (Throwable t) {
            throw new ExecutionException(message, channel, getClass() + " error when process received event .", t);
        }
    }

 private ExecutorService getExecutorService() {
        ExecutorService cexecutor = executor;//AllChannelHandler初始化的时候设置的
        if (cexecutor == null || cexecutor.isShutdown()) { 
            cexecutor = SHARED_EXECUTOR;
        }
        return cexecutor;
    }

接着看cexecutor的初始化过程，在WrappedChannelHandler的构造方法中：

public WrappedChannelHandler(ChannelHandler handler, URL url) {
    .................................................
    executor = (ExecutorService) ExtensionLoader.getExtensionLoader(ThreadPool.class).getAdaptiveExtension().getExecutor(url); 
    .................................................
}
image.png

此处也是spi机制，根据url中的threadpool参数，适配出具体的实现：

  • CachedThreadPool:此线程池可伸缩，线程空闲一分钟后回收，新请求重新创建线程
  • FixedThreadPool: 此线程池启动时即创建固定大小的线程数，不做任何伸缩
  • LimitedThreadPool: 此线程池一直增长，直到上限，增长后不收缩

进入默认的FixedThreadPool：

//在Java线程池实现中对应 Executors.newFixedThreadPool()
public class FixedThreadPool implements ThreadPool {

    public Executor getExecutor(URL url) {
        String name = url.getParameter(Constants.THREAD_NAME_KEY, Constants.DEFAULT_THREAD_NAME);
        //服务调用线程数
        int threads = url.getParameter(Constants.THREADS_KEY, Constants.DEFAULT_THREADS);
        //等待队列里任务数
        int queues = url.getParameter(Constants.QUEUES_KEY, Constants.DEFAULT_QUEUES);
       //初始化线程池 池内线程默认200   等待任务使用SynchronousQueue、LinkedBlockingQueue
        return new ThreadPoolExecutor(threads, threads, 0, TimeUnit.MILLISECONDS, 
                queues == 0 ? new SynchronousQueue<Runnable>() : 
                    (queues < 0 ? new LinkedBlockingQueue<Runnable>() 
                            : new LinkedBlockingQueue<Runnable>(queues)),
                new NamedThreadFactory(name, true), new 
       //线程池资源枯竭后的处理器
       AbortPolicyWithReport(name, url));
    }
}

在线程池资源枯竭的时候，会调用AbortPolicyWithReport.rejectedExecution()处理，可以看到打印出了日志，并且抛出了异常，消费端也可以接收到RpcException，因为NettyCodecAdapter.InternalDecoder.exceptionCaught已经对该异常进行了处理，直接输出到了消费者端

 @Override
    public void rejectedExecution(Runnable r, ThreadPoolExecutor e) {
        String msg = String.format("Thread pool is EXHAUSTED!" +
                " Thread Name: %s, Pool Size: %d (active: %d, core: %d, max: %d, largest: %d), Task: %d (completed: %d)," +
                " Executor status:(isShutdown:%s, isTerminated:%s, isTerminating:%s), in %s://%s:%d!" ,
                threadName, e.getPoolSize(), e.getActiveCount(), e.getCorePoolSize(), e.getMaximumPoolSize(), e.getLargestPoolSize(),
                e.getTaskCount(), e.getCompletedTaskCount(), e.isShutdown(), e.isTerminated(), e.isTerminating(),
                url.getProtocol(), url.getIp(), url.getPort());
        logger.warn(msg);
        throw new RejectedExecutionException(msg);//throw exception
    }

接下里回到AllChannelHandler.received(..,..)，初始化一个任务，丢到线程池执行，接下来就是调用DecodeHandler.received()->HeaderExchangeHandle.received()-->ExchangeHandlerAdapter.reply()
执行具体的业务。

new ChannelEventRunnable(channel, handler, ChannelState.RECEIVED, message)

ChannelEventRunnable.run():

  public void run() {
       .............................
        switch (state) {
           case RECEIVED:
                try{
                    handler.received(channel, message);
                }catch (Exception e) {
                    logger.warn("ChannelEventRunnable handle " + state + " operation error, channel is " + channel
                            + ", message is "+ message,e);
                }
                break;
      .............................
  }
}

参考：
http://blog.sina.com.cn/s/blog_60f11afd01010wtp.html
http://blog.csdn.net/manzhizhen/article/details/73436619

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 205,033评论 6赞 478
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 87,725评论 2赞 381
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 151,473评论 0赞 338
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 54,846评论 1赞 277
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 63,848评论 5赞 368
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 48,691评论 1赞 282
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 38,053评论 3赞 399
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 36,700评论 0赞 258
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 42,856评论 1赞 300
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,676评论 2赞 323
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,787评论 1赞 333
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 33,430评论 4赞 321
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 39,034评论 3赞 307
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,990评论 0赞 19
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,218评论 1赞 260
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 45,174评论 2赞 352
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 42,526评论 2赞 343