Netty学习之EventLoop&Threading Model

Netty学习之EventLoop&Threading Model

前言

在前面我们学习了Netty的众多组件,如ByteBuf、Channel、ChannelHandler、ChannelPipeline等,这些组件组合起来具有神奇的魔力,而EventLoop则是赋予它们魔力的源泉,EventLoop是Netty的线程模型,也是Netty的心脏,本小节我们就来学习EventLoop相关的内容。

EventLoop

事件循环Event Loop:在连接的生命周期中,通过运行任务来处理事件(其实就是循环扫描事件列表,然后根据出现的事件来进行处理,单词Event Loop),EventLoop的基本原理如下

while(!terminated) {
    // 等待事件的到来
    List<Runnable> readyEvents = blockUtilEventsReady();
    // 如果有事件,则进行处理
    for(Runnable ev: readyEvents) {
        ev.run();
    }
}

在Netty的模型中,一个EventLoop对应一个线程,然后任务能够直接提交到EventLoop的实现去直接或者参与调度,根据CPU核的数量,可能同时有多个EventLoop创建出来用于提高性能的资源利用率,单一的一个EventLoop能够服务多个Channels

这里需要注意的是,一个Channel只会跟一个EventLoop绑定,但是一个EventLoop可以服务于多个Channels,所以并不是一对一的关系,这也是Netty能够减少线程使用数量,从而提高资源利用率的原因之一。

Netty中的EventLoop继承于ScheduledExecutorService,并且定义了一个parent()方法,通过该方法可以获得当前EventLoop实现实例所归属的EventLoopGroup实例

Netty中的任务以及事件是以FIFO的顺序执行,这样可以保证数据流能够以正确的顺序进行处理。

一个Event的类型通常决定了其会被如何处理,如传输数据到用户层、处理数据等,为了使得事件处理逻辑更通用以及灵活,Netty4中所有的I/O操作以及事件被EventLoop所属的线程处理,其具体实现是判断当前触发I/O操作的线程是否是当前channel所对应的EventLoop所对应的线程,如果是的话,则执行该任务,如果不是的话,则将其放入对应的队列中,等待稍后对应的线程来执行,从而保证了一个channel中的事件都是由同一个线程来处理,减少了同步锁所带来的开销,这也是前面提到的,Channel是线程安全的,可以被其他线程所操作的原因,EventLoop执行逻辑如下图所示(图片来自《Netty in action》,下同)。

EventLoop执行逻辑

任务调度

在JDK中,可以通过单线程的Timer类以及线程池对象ScheduledExecutorService来执行,但该方式在负载比较重的情况下,会出现性能问题,额外的线程用于维护线程池,当多个线程同时调度时,会出现瓶颈。

在Netty中,通过使用EventLoop来实现调度功能

Channel ch = ...;

ScheduledFuture<?> future = ch.eventLoop().schedule(
    new Runnable() {
        // ops
    }, 60, TimeUnit.SECONDS);

EventLoop分配

EventLoop从EventLoopGroup中申请,EventLoopGroup可以理解为EventLoop的容器(类似于线程跟线程池的关系),可以根据需要从EventLoopGroup获取EventLoop(及其绑定的线程)。

异步的实现使用少量的EventLoops,并且可能在多个Channel中共享,这种方式允许少量的线程来服务多个Channel,而不是每个Channel分配一个线程,一旦一个Channel被赋予一个EventLoop,在其生命周期中就只会使用该EventLoop及其绑定的线程,所以在同一个Channel中,不需要过多担心线程安全问题(只有一个线程嘛)。

EventLoopGroup、EventLoop、Channel之间的关系如下图所示(非阻塞模式,即NIO、AIO)

NIO、AIO中EventLoop模型

阻塞实现,对于传统的OIO,由于会发生阻塞,所以不能复用EventLoop(一个EventLoop对应一个线程),Netty采用的是每个EventLoop对应一个Channel

OIO中EventLoop模型

总结

本小节我们学习了Netty的EventLoop及相关内容,包括EventLoop与线程、Channel的关系,EventLoop与EventLoopGroup的关系等,由于Netty中的Channel与唯一的EventLoop绑定,而EventLoop与唯一的线程绑定,所以,在使用的时候需要注意,不能在一个EventLoop中执行阻塞操作,否则会影响其他Channel的处理,与此同时,由于EventLoop的设计,Channel是线程安全的,可以在多线程环境中使用。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,001评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,210评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,874评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,001评论 1 291
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,022评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,005评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,929评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,742评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,193评论 1 309
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,427评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,583评论 1 346
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,305评论 5 342
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,911评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,564评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,731评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,581评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,478评论 2 352

推荐阅读更多精彩内容