Python篇-IO多路复用详解

TZ : 我是一个平凡的人,梦想开一家甜品店

一 : 科普一分钟

IO多路复用IO模式的一种,是一种单线程处理多并发的IO操作的方案,其他IO操作方案分别有 :

  • 阻塞 I/O(blocking IO)
  • 非阻塞 I/O(nonblocking IO)
  • I/O 多路复用( IO multiplexing)
  • 异步 I/O(asynchronous IO)

IO多路复用其实就是我们说的selectpollepoll,它的基本原理就是selectpollepoll这个function会不断的轮询所负责的所有socket,当某个socket有数据到达了,就通知用户进程。

select会轮询检测所有的连接,或者 IO,其理论所使用的就是事件驱动模型这一编程范式

二 : 事件驱动模型与IO多路复用关系

  • 事件驱动模型 :

好比中午全体员工1000人去饭,点餐完毕后我们回到座位,饭做好了服务员就会叫我们对应点餐的人去取餐.

目前大部分的UI编程都是事件驱动模型,如很多UI平台都会提供onClick()事件,这个事件就代表鼠标按下事件。事件驱动模型大体思路如下:

  1. 有一个事件(消息)队列;
  2. 鼠标按下时,往这个队列中增加一个点击事件(消息);
  3. 有个循环,不断从队列取出事件,根据不同的事件,调用不同的函数,如onClick()、onKeyDown()等;
  4. 事件(消息)一般都各自保存各自的处理函数指针,这样,每个消息都有独立的处理函数;

IO多路复用所用的编程范式就是事件驱动模型,是一种监测回调
封装好的select(拿select举例)会不断询问处理,我们所放入的IO事件,哪个有数据,就返回.我们就可以拿到了.

协程也使用了事件驱动模型来绕过IO事件,遇到IO事件放入操作系统的读取IO列表,然后操作系统处理好给我们返回.

三 : 异步IO与同步IO

  • 同步IO
    1.阻塞 I/O(blocking IO)
    2.非阻塞 I/O(nonblocking IO)
    3.I/O 多路复用( IO multiplexing)

为什么会发生阻塞呢?其根本原因就是当数据准备好之后,内核态用户态转发的时候呼叫进程来接受,这个转化的过程是耗时的操作,等转发结束后,阻塞接受

  • 异步IO
    为什么异步是没有阻塞的操作呢,其根本原因也是因为,在内核态用户态转发结束后,才叫进程来接收,进程不用等待,直接拿到数据.

  • 同步异步区别
    同步IO快餐性质餐好了以后你过去取食物,拿食物回到座位,这个过程是耗时的操作.
    异步IO大餐性质,我们餐好了以后,大家还在座位上聊天,服务员就会把食物端到桌子上,然后我们吃就可以了,高端服务.

异步IO

解析 :
我们可以用IO多路复用写一个SocketServer实现单线程下的大并发.
但是IO多路复用本质是还是同步IO,因为数据从内核态用户态的拷贝需要等待操作系统完成,只有异步 I/O本质是是异步IO,本质上异步 I/O会当数据从内核态拷贝到用户态这一过程完成之后再去通知程序直接取走,因为I/O操作是系统完成,所以这才是真正意义上的异步IO操作.

四 : IO多路复用socketServer

利用IO多路复用写一个socketServer,大多数情况下机几乎很难用到,因为有许许多多模块和框架已经为我们封装好了,简单了解一下底层的实践即可.

# Author:TianTianBaby
import  select
import socket
import  queue

#创建socket连接
server = socket.socket()
server.bind(('localhost',9000))
server.listen(1000)

#设置非阻塞模式
server.setblocking(False)

#key 为接受消息对象实例,key 为接受的数据
mes_dic = {}

#需要检测的连接列表
inputs = [server,]

#返回上一次的数据列表
outputs = []

while True:
    readable,writeable,exceptional = select.select(inputs,outputs,inputs)

    for r in  readable:
        if r is server:#代表来了一个新连接
            conn,addr = server.accept()
            inputs.append(conn)#因为新建立的连接还没发数据过来,现在就接受的话程序就报错
            #所以要想实现这个客户端发数据时server端能知道,就需要让select再监测
            #初始化一个队列,后面存要返回给这个客户端的数据
            mes_dic[conn] = queue.Queue()
        else:
           data = r.recv(1024)
           mes_dic[r].put(data)
           #放入返回的连接队列里
           outputs.append(r)

    #要返回给客户端的连接列表
    for w in writeable:
        data_to_client = mes_dic[w].get()
        #返回给客户端源数据
        w.send(data_to_client)

        #确保下次循环的时候writeable,不反回这个已经处理完的连接
        outputs.remove(w)

    #异常
    for e in exceptional:
        if e in outputs:
            outputs.remove(e)
        inputs.remove(e)
        del  mes_dic[e]

五 : 总结

selectpollepoll都是IO多路复用的机制。I/O多路复用就是通过一种机制,一个进程可以监视多个描述符,一旦某个描述符就绪(一般是读就绪或者写就绪),能够通知程序进行相应的读写操作。但selectpollepoll本质上都是同步I/O,因为他们都需要在读写事件就绪后自己负责进行读写,也就是说这个读写过程是阻塞的,而异步I/O则无需自己负责进行读写,异步I/O的实现会负责把数据从内核拷贝到用户空间

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,362评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,330评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,247评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,560评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,580评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,569评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,929评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,587评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,840评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,366评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,945评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2 342

推荐阅读更多精彩内容