[转]IO理解:阻塞、非阻塞、同步、异步

相关概念:

在讨论IO的时候,参与者通常有两个角色:系统内核和用户进程。用户进程发送 IO请求过后,系统内核在准备好IO数据后,会通过内存拷贝的方式,将准备好的缓存IO数据共享给用户进程缓存。

Java IO: 同步阻塞IO

调用InputStream.read()或者OutputStream.write()时,用户进程会阻塞住直到数据就绪,相当于一线程一连接的方式。所以在采用Java IO时,在Server端通常会采用对于每个新连接,起一个新的线程去处理,这样后来的连接就不用等到之前的完成才能操作。但也带来了问题,毕竟线程是系统的稀缺资源,数量上会有瓶颈,达到一定数量后,性能急剧下降,内存崩溃。不能应对大量连接的情况,而且线程切换很耗费系统资源。

Java NIO:同步非阻塞IO

基于Java IO的缺点,NIO采用了新的设计方式,核心在Channel,Buffer,Selector。非阻塞主要依靠Selector,Channel在Selector上注册自己感兴趣的事件,然后Selector线程会轮询注册在自己身上的Channel,当有数据准备就绪时,就通知相应的Channel。这样一个Selector可以管理多个Channel,但实际上还是阻塞的,现在不阻塞IO层面了,阻塞在Selector线程上了。而且采用轮询的方式,效率比较低。

Java AIO:异步非阻塞IO

在Java NIO的基础上,增加了AsynchronousChannelGroup,CompletionHandler,其中AsynchronousChannelGroup起到了事件收集和任务分发的作用,而CompletionHandler是绑定在事件上回调机制,从而达到异步。能否真正实现异步,关键还要看系统底层的实现,当前来看只有window的iocp实现了真正的异步,linux上还是通过epoll来模拟,是一种伪异步。

是否异步主要在系统内核数据拷贝到用户进程这个步骤来区分,同步的话是通知用户进程数据准备好了,可以拷贝了,然后用户进程阻塞去拷贝数据。异步的话,是操作系统帮你把数据拷贝后,然后通知你数据好了,可以直接用了。

Select/Poll, epoll/kqueue, iocp

select模型

1. 最大并发数限制,因为一个进程所打开的FD(文件描述符)是有限制的,由FD_SETSIZE设置,默认值是1024/2048,因此Select模型的最大并发数就被相应限制了。自己改改这个FD_SETSIZE?想法虽好,可是先看看下面吧…

2. 效率问题,select每次调用都会线性扫描全部的FD集合,这样效率就会呈现线性下降,把FD_SETSIZE改大的后果就是,大家都慢慢来,什么?都超时了??!!

3. 内核/用户空间 内存拷贝问题,如何让内核把FD消息通知给用户空间呢?在这个问题上select采取了内存拷贝方法。

poll模型

基本上效率和select是相同的,select缺点的2和3它都没有改掉。

Epoll的提升

把其他模型逐个批判了一下,再来看看Epoll的改进之处吧,其实把select的缺点反过来那就是Epoll的优点了。

1. Epoll没有最大并发连接的限制,上限是最大可以打开文件的数目,这个数字一般远大于2048, 一般来说这个数目和系统内存关系很大,具体数目可以cat /proc/sys/fs/file-max察看。

2. 效率提升,Epoll最大的优点就在于它只管你“活跃”的连接,而跟连接总数无关,因此在实际的网络环境中,Epoll的效率就会远远高于select和poll。

3. 内存拷贝,Epoll在这点上使用了“共享内存”,这个内存拷贝也省略了

常用IO模型交互图

blocking I/O:阻塞套接字


首先application调用 recvfrom()转入kernel,注意kernel有2个过程,wait for data和copy data from kernel to user。直到最后copy complete后,recvfrom()才返回。此过程一直是阻塞的

nonblocking I/O:非阻塞套接字


可以看见,如果直接操作它,那就是个轮询。。直到内核缓冲区有数据。

I/O multiplexing (select and poll)

select先阻塞,有活动套接字才返回。与blocking I/O相比,select会有两次系统调用,但是select能处理多个套接字。

signal driven I/O (SIGIO) :只有Unix系统支持


与I/O multiplexing (select and poll)相比,它的优势是,免去了select的阻塞与轮询,当有活跃套接字时,由注册的handler处理。

asynchronous I/O (the POSIX aio_functions)


很少有*nix系统支持,windows的IOCP则是此模型

完全异步的I/O复用机制,因为纵观上面其它四种模型,至少都会在由kernel copy data to appliction时阻塞。而该模型是当copy完成后才通知application,可见是纯异步的。好像只有windows的完成端口是这个模型,效率也很出色。

服务器程序策略

服务器程序策略主要指的是网络编程时的开发策略,记得原来毕业找工作面试后端开发职位的时候这是一定会被问到。在讨论这个问题之前,必须要说的就是著名的C10K问题。

C10k 问题

C10K是current 10k connection的简写,描述的是服务端如何处理同时到来的上万个client连接的问题,简而言之就是高并发的问题。为了解决这个问题,有以下几种经典的服务端策略:

1. 为每个连接分配一个线程/进程来处理

这个策略是指服务器为每一个到来的连接都分配一个新的线程/进程,使用阻塞式的I/O来处理。Java和Apache都是这种策略,这种策略简单并且,能实现比较复杂的交互。然后系统分配进程/线程是需要资源的,而且因为使用了阻塞式的I/O,当有大量连接到来时候系统资源会是性能瓶颈。

这个思路是最直观,最容易想到的,以至于造成最大的误解:

当我们听说Node.js是单线程模型的时候就认定了他和开发服务器程序是无缘的。

2. 一个线程同时处理多个连接

select/poll/epoll

第一种策略在高并发时会创建过多的线程,然而这些线程大部分时间都是在block等待数据。这种策略只用一个线程来监听多个socket连接,如果有数据到来就处理,读写完成后再次进入block监听。这种策略使用select/poll/epoll这样的多路复用I/O来实现。

非阻塞的I/O及事件通知

同样是只用一个线程来处理所有的客户端连接,使用非阻塞I/O和事件机制来通知。Node.js就是使用了这种策略,这种策略实现简单,方便移植。缺点是只有一个线程所以不能充分利用CPU的多核性能,这也是Node.js用来开发服务器程序被吐槽最多的地方。

3. 分配多个线程,每个线程处理一组连接

这是对第二种策略的改进型,分配多个线程,每个线程负责一定量的连接请求,使用非阻塞的I/O和事件机制。

4. 分配多个线程,使用异步I/O

与第三种策略相比,这种策略使用异步的I/O,由内核来完成数据的准备和copy。这种策略在支持异步I/O的操作系统上效率很高,用户无需任何操作就能完成数据的收发,这一切都由内核默默的完成。

举个栗子

同样的用上面那个小邮局取快递的例子再来说明下以上这四种网络编程策略:

每个线程同步阻塞处理一个连接:每个码农都在小邮局等自己的快递到来,快递到了之后自己把包裹取走;这种做法比较低效,大家都在等快递,都没时间搬砖了;

一个线程处理所有连接:让码农小明一个人在小邮局等所有的快递,只要有包裹来了就帮忙取走送到相应人座位上;这种方式只需要小明一个人,但是如果小明送包裹的速度不够快就会导致新来的包裹积压,不能及时送达;(这种需要很长时间才能送达的包裹就是CPU密集型的task)

多个线程,每个线程负责一组连接:这种方式就是多找一个小明一起来完成,是第二种方式的改进型;

多个线程,每个线程使用异步I/O负责一组连接:这种方式不用小明了,而是让小邮局的工作人员来做之前小明的工作,这样每个码农都能安心搬砖了,最大化了工作效率;


epoll也是IO复用,比传统的Select/poll有很大的优化,Linux2.6开始都使用了epoll,而且并不是信号驱动的,只是可以被中断信号中断。IO复用是调用方被动接受内核的通知,需要阻塞在Select/poll/epoll函数上,并不是单个IO上,就像你调用一个函数等待它返回一样,它返回的时候就是知道内核有数据到来的时候,它会通知你有哪些你注册过的IO上有数据了,但是数据存在内核中,需要你自己去从内核拷贝数据到用户空间(同步方式),这点也是同步和异步的区别,异步方式的话,当你收到通知的时候数据已经在用户空间了;信号驱动方式是基于系统的信号机制,你要先注册一个信号处理函数(当你收到系统信号时进行何种反应),处理函数会在另一个线程中执行,所以并不会阻塞当前的进程,当内核知道有数据到来,就向对应的进程发送信号,通知他数据来了,快来读,进程收到信号,启动一个线程执行对应的信号处理函数。

http://www.programgo.com/article/63742464168/

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,928评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,192评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,468评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,186评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,295评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,374评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,403评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,186评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,610评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,906评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,075评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,755评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,393评论 3 320
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,079评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,313评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,934评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,963评论 2 351

推荐阅读更多精彩内容