抽象理解:
master维护worker,task两个队列,表示空闲的worker,等待执行的task。
对task进行抽象比较重要,输入数据位置+nReducer+用户代码逻辑,即可确定一个task。
worker可能随时被分配给master,所以master主要分成两个线程:
背景线程用来接收分配给它的worker,把worker插入队列。
调度线程分别从worker、task队列中取出一个worker,task,让worker执行task。执行成功,把worker插入worker队列;如果失败,把task插入task队列。
lab1 mapreduce
最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- hello,我就以做lab1的流程为目录,记录一下我做lab1的时候收获的和容易出错的地方。 1.阅读MapRed...