standalone模式是spark自己的资源调度框架,由master和worker组成.
master有一个workerinfo的数组,里边有worker的基本信息,包括core数,内存,最后通信时间
master运行一个过滤的定时任务,按照worker的通信时间进行过滤,把断开的worker移除
worker启动后向master发送注册消息,包含自己的基本信息,每次心跳里边是没有当前的资源负载情况的,
因为spark是一个粗粒度的资源管理方式,master会记录每次执行任务时向worker申请了多少资源,当任务结束后,在加上这部分资源就可以了.
spark standalone模式
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 女人最使我们留恋的,并不一定在于感官的享受,主要还在于生活在她们身边的某种情趣。——卢梭 一年前,A姑娘说她要去整...