使用 asyncio 包处理并发

并发与并行(Concurrency、Parallelism)

  • 真正的并行需要多个核心
  • 例如 4 个核心 CPU,最多只能 4 并行
    如果每个核心运行 3 个线程,则 4 并行,12 并发,12 线程
  • 并发更有用

asyncio 包

  • 使用协程(事件循环驱动)实现并发
  • 巧妙的回调:
    yield from ... 变成 yield From(...)、return result 变成 raise Return(result)

使用线程实现并发(threading 模块)

Python 没有提供终止线程的 API,所以要关闭线程,必须给线程发送信息
此处利用 signal.go 属性,从外部控制线程。

import sys
import time
import threading
import itertools


class Signal:
    go = True


def spin(msg, signal):
    write, flush = sys.stdout.write, sys.stdout.flush
    for char in itertools.cycle('|/-\\'):
        status = char + ' ' + msg
        write(status)
        flush()
        write('\x08' * len(status))  # 使用退格符(\x08)把光标移回来
        time.sleep(.1)
        if not signal.go:
            break
    write(' ' * len(status) + '\x08' * len(status)) 


def slow_func():
    time.sleep(3)
    return 42


def supervisor():
    signal = Signal()
    spinner = threading.Thread(target=spin,
                               args=('thinking!', signal))
    print('spinner object:', spinner)
    spinner.start()
    result = slow_func()
    signal.go = False
    spinner.join()  # 等待 spinner 线程结束
    return result


def main():
    result = supervisor()
    print('Answer:', result)


if __name__ == '__main__':
    main()

使用协程实现并发(asyncio 模块)

  • 严格的协程定义:
    asyncio API 的协程在定义体中必须使用 yield from,而不能使用 yield

  • 适合 asyncio 的协程要由调用方通过 yield from 调用
    或者把协程传给 asyncio 包中某个函数

  • @asyncio.coroutine 装饰器应该应用在协程上。其一凸显协程,其二有助调试(即如果协程没有产生值,则被垃圾回收,发出warning)。但不会预激协程。

  • yield from 把控制权交给事件循环。而类似 time.sleep(.1) 反而阻塞事件循环

import sys
import asyncio
import itertools


@asyncio.coroutine
def spin(msg):
    write, flush = sys.stdout.write, sys.stdout.flush
    for char in itertools.cycle('|/-\\'):
        status = char + ' ' + msg
        write(status)
        flush()
        write('\x08' * len(status))
        try:
            yield  from asyncio.sleep(.1)  # 协程 asyncio.sleep 通过 yield from 调用
        except asyncio.CancelledError:
            break
    write(' ' * len(status) + '\x08' * len(status))


@asyncio.coroutine
def slow_func():
    yield from asyncio.sleep(3) # 把控制权交给主循环
    return 42


@asyncio.coroutine
def supervisor():
    spinner = asyncio.async(spin('thinking!')) # 协程 spin 通过 asyncio.async 调用
    print('spinner object:', spinner)  # Task 对象,类似 Thread 对象
    result = yield from slow_func()  # 协程 slow_func 通过 yield from 调用
    spinner.cancel()
    return result


def main():
    loop = asyncio.get_event_loop()
    result = loop.run_until_complete(supervisor())  # 驱动协程
    loop.close()
    print('Answer:', result)


if __name__ == '__main__':
    main()

对比线程和协程:

def supervisor():
    signal = Signal()
    spinner = threading.Thread(target=spin,
                               args=('thinking!', signal))
    print('spinner object:', spinner)
    spinner.start()
    result = slow_func()
    signal.go = False
    spinner.join()  
    return result

@asyncio.coroutine
def supervisor():
    spinner = asyncio.async(spin('thinking!')) 
    print('spinner object:', spinner)
    result = yield from slow_func()  
    spinner.cancel()
    return result
  • asyncio.Task 和 threading.Thread 等效
    前者驱动协程 spin,后者调用可调用对象 spin
  • Task 对象可由 asyncio.async(coroutine) 或 loop.create_task(...) 创建
  • Task 对象创建时自动排定运行时间,而 Thread 对象需调用 start 方法
  • 线程终止靠外部控制
    任务终止可使用 Task.cancel 方法,在协程内部抛出 CanceledError
  • 联系:阻塞的操作通过协程来实现。而协程会把控制权交给主循环。
    如 time.sleep(3) 替换成 asyncio.sleep(3)
    又如 requests.get(url) 替换成 aiohttp.request('GET', url)
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,686评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,668评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,160评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,736评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,847评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,043评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,129评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,872评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,318评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,645评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,777评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,470评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,126评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,861评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,095评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,589评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,687评论 2 351

推荐阅读更多精彩内容