亿及流量系统之高可用架构

此文接亿及流量第一篇

1、active-standby高可用架构

为了解决计算平台单点故障问题,我们对数据计算平台进行active-standby拆分,主备互备机制确保计算平台的高可用。基于zookeeper保存计算状态,主备系统基于zookeeper来进行自动切换。

2、master-slave主从分布式计算架构

为了解决单台机器计算负载压力过高的问题,我们将任务调度和任务计算职责分离。计算平台拆分为master和slave节点,master节点负责调度,slave节点负责计算。同时对master节点,为了避免单点故障,我们使用了active-standby模式。master节点主要包括容错机制/重试与恢复、数据分片管理器、数据计算调度器功能。

3、弹性计算资源调度机制

为了解决slave节点间计算负载不均衡问题,我们建立了弹性计算资源调度机制。我们在计算任务调度器中加入metrics统计、任务耗时评估、机器资源监控机制,保证了线上slave节点计算资源的均衡利用,避免了单台机器计算负载过高,计算任务排队时间过长等问题。

4、分布式系统高容错机制

系统重构为分布式构架之后,会带来一系列的问题,因此需要开发一整套的容错机制对节点状态和计算状态进行监控和容错控制。分布式系统高容错机制主要分为slave监控和任务监控两部分。

最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容