javascript/python 协程实现并发调度的示例

协程,也被称为“用户态线程”,是可以由用户去实现并发调度的一种语言设施。

设想,用户并不知道协程,只提供一般的阻塞api,用户如下使用:

import time


time.sleep(1.0)
print('after 1s')

可以翻译成协程实现:

import time

def __thread():
 (yield time.sleep(1.0))
 print('after 1s')
 
scheduler.spawn(__thread() )

本方案示例了javascript里协程调度器,鉴于python generator和javascript generator模型的一致性,应很容易实现对应python版本。

1.耗时操作提供异步版本API,如 settimeout 和 node.js API设计

//异步等待
settimeout(callback, ms)
 
//异步读文件
var fs = require('fs');
fs.readFile(this.path, function(err, data) {
//...
});

2.包装成 异步标记对象

class coTime extends iYield {
    constructor(time) {
        super();
        this.time = time;
    }

    start(task) {
        task.yield.done = 'waiting';
        setTimeout(() => {
            task.yield = task.cofunc.next(this.time);
        }, this.time);
    }
}

//最终提供的API
function wait(ms) {
    return new coTime(ms);
}

3.如多线程一样使用

// 创建10个(用户)线程
for (let i = 0; i < 10; ++i) {
    coManager.thread(
        (function*() {
            while (true) {
                let time = yield wait(Math.random() * 2000);
                console.log(`thread ${i} wait:` + time);
            }
        })()
    );
}

这里 coManager是协程调度器,原理是,实现一个异步任务队列,每次异步等待时,将协程中断(suspend),每异步返回时,将中断的协程继续,完整可执行的代码如下

// 并发任务对象
class coTask {
    constructor(cofunc) {
        this.cofunc = cofunc;
        this.yield = cofunc.next();
    }
}

class iYield {
    // 开始异步
    start(task) {}
}

// 读文件异步调用
class coReadFile extends iYield {
    constructor(path) {
        super();
        this.path = path;
    }

    start(task) {
        item.yield.done = 'waiting';
        var fs = require('fs');
        fs.readFile(this.path, function(err, data) {
            if (err) {
                task.yield = task.cofunc.throw(err);
            } else {
                task.yield = task.cofunc.next(data); //done and next
            }
        });
    }
}

// helper
function readFile(path) {
    return new coReadFile(path);
}


// 定时器异步对象
class coTime extends iYield {
    constructor(time) {
        super();
        this.time = time;
    }

    start(task) {
        task.yield.done = 'waiting';
        setTimeout(() => {
            task.yield = task.cofunc.next(this.time);
        }, this.time);
    }
}

function wait(ms) {
    return new coTime(ms);
}

// 协程管理器,负责调度
class CoroutineManager {
    constructor() {
        this.taskLs = [];
        this.update.bind(this);
        setInterval(() => {
            let taskLs = this.taskLs;
            this.taskLs = [];
            // 任务队列轮循
            for (let item of taskLs) {
                if (item.yield.done != true) {
                    this.taskLs.push(item);
                }
            }
            for (let item of taskLs) {
                if (item.yield.done === 'waiting') {
                    continue;
                } else if (item.yield.value instanceof iYield) {
                    item.yield.value.start(item);
                } else {
                    item.yield = item.cofunc.next();
                }
            }
        }, 1);
    }

    // 开(用户)线程
    thread(cofunc) {
        let yValue = cofunc.next();
        if (yValue.done) {
            return;
        }
        this.taskLs.push({ yield: yValue, cofunc });
    }
}

let coManager = new CoroutineManager();

// 创建10个(用户)线程
for (let i = 0; i < 10; ++i) {
    coManager.thread(
        (function*() {
            while (true) {
                let time = yield wait(Math.random() * 2000);
                console.log(`thread ${i} wait:` + time);
            }
        })()
    );
}

python协程:

from browser import timer as systimer;
import random
import time

class Co:
    def __init__(self):
        pass
    
    def getVal(self):
        return None
        
class timer(Co):
    def __init__(self, last):
        self.last = last
        self.start = time.clock()
    
    def isDone(self):
        last = time.clock()-self.start
        if last>=self.last:
            return True
        else:
            return False
    
    def getVal(self):
        return int(random.random()*self.last)
    

class Scheduler:
    def __init__(self):
        self.working = []
        self.starting = []
        self.timer = None
        
    def run(self):
        self.timer = systimer.set_interval(lambda: self.update(), 20);
        
    def update(self):
        starting = self.starting;
        self.starting = []
        for fun in starting:
            try:
                print(1)
                r = next(fun)
                print(2)
                while not isinstance(r, Co):
                    r = next(fun)
                self.working.append((fun, r))
            except StopIteration:
                pass
            except Exception as ex:
                print(ex)
                
        working = self.working;
        self.working = []
        for (fun, r) in working:
            try:
                if r.isDone():
                    val = r.getVal()
                    r = fun.send(val)
                    while not isinstance(r, Co):
                        r = next(fun)
                    self.working.append((fun, r))
                else:
                    self.working.append((fun, r))
            except StopIteration:
                pass
            except Exception as ex:
                print(ex)
                        
    def startCorotine(self, fun):
        self.starting.append(fun)


scheduler = Scheduler()
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,928评论 6 509
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,748评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,282评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,065评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,101评论 6 395
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,855评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,521评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,414评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,931评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,053评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,191评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,873评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,529评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,074评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,188评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,491评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,173评论 2 357

推荐阅读更多精彩内容