谈谈单服务器下的高性能编程

一、背景

单服务器下的编程,想要高性能,该怎么做?
确切地说,怎么使用好“异步”这个银弹?大多数人会说,使用线程池!!没错,线程池采用了池化技术,是Doug Lea 专门为了多线程编程,利用java实现了线程池技术,方便编程人员直接使用。
这篇文章我们想探讨的内容包括:

  • 单服务器下,PPC模式 (Process Per Connection)
  • 单服务器下,TPC模式 (Thread Per Connection)
  • 单服务器下,Reactor模式
  • 单服务器下,Proactor模式

通过对上述的模式梳理,希望能总结出线程池技术与Reactor编程模式的关联、异同。

二、PPC模式

每次有新的连接就新建一个进程去专门处理这个连接的请求。

适用于常量连接数,支持的并发连接数有限。fork代价高,后面衍生了一个prefork模式。

三、TPC模式

每次有新的连接就新建一个线程去专门处理这个连接的请求。

适用于常量连接数,存在 CPU 线程调度和切换代价的问题;创建线程虽然比创建进程代价低,但并不是没有代价,后面衍生了一个prethread模式。

四、Reactor模式

事件反应,来一个事件我就有相应的反应。也作Dispatcher模式。IO多路复用统一监听事件,收到事件后分配Dispatch给某个进程。

1、Reactor模式的引入

每个连接都要创建进程/线程,在连接结束后,销毁它,这造成了极大的浪费。为了解决这个问题,一个自然而然的想法就是资源复用,即不再单独为每个连接创建进程/线程,引入资源池技术(线程池技术)。
在引入线程池后,会引出一个新的问题:
进程如何才能高效地处理多个连接的业务?

  • 一个进程一个连接时,进程可以采用“read -> 业务处理 -> write”的处理流程;如果当前连接没有数据可读,则进程就阻塞在read操作上。
  • 一个进程多连接时,进程阻塞在某个连接的read操作上,此时即使其他连接有数据可读,该进程也无法去处理。无法做到高性能!!!

第一种场景下,是没有问题;第二种场景下,解决方法是把read操作改为非阻塞,然后进程不断地轮询多个连接。缺点是:1、轮询消耗cpu;2、一个进程处理几千上万的连接,轮询的效率低。

由此引入IO多路复用结合线程池,完美解决了PPC和TPC的问题。

2、Reactor模式的分类

Reactor数量可以是一个或多个;
资源池的数量可以是单个或多个进程/线程。

  • 单 Reactor 单进程 / 线程
  • 单 Reactor 多进程 / 线程
  • 多 Reactor 多进程 / 线程

1)单 Reactor 单进程 / 线程

适用于业务处理非常快速的场景,比如开源软件redis。

单 Reactor 单进程 / 线程.png

2)单 Reactor 多进程 / 线程

为了业务处理之间不干扰,把单线程修改为多线程。这里一般是多线程,不会是多进程,因为线程之间通信比较方便,且是共享数据的。

单 Reactor 多进程 / 线程.png

3)多 Reactor 多进程 / 线程

采用该模式的有著名的nginx, netty。

多 Reactor 多进程 / 线程.png

四、Proactor模式

来了事件我来处理,处理完了我通知你。模型示意图见下:

Proactor模式.png
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,951评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,606评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,601评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,478评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,565评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,587评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,590评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,337评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,785评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,096评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,273评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,935评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,578评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,199评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,440评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,163评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,133评论 2 352

推荐阅读更多精彩内容