阿里架构师,讲述分布式架构云平台解决方案(附学习路线)

技术架构

分布式架构云平台在充分分析IT技术发展趋势,遵循集中化、标准化、集成化、可靠化和可扩展化的设计原则,以价值创造为使命,以规范化、一体化、智能化的云平台为支撑,实现信息的透明共享、业务的敏捷协同、管控及时、决策科学为设计目标,选择传统成熟的J2EE、SOA、应用集成和BI信息技术和新一代的云计算、大数据、移动应用信息技术相结合的技术路线。

分布式架构云平台规划设计了集约化、云架构动态配置的企业IT基础设施;

共享化、集中数据存储管理的企业数据资源服务;

组件化、平台化、柔性集成的企业应用支撑服务;

标准化、服务化、整合智能的企业业务应用服务;

一站式、多终端服务的企业信息展示交互服务等技术层,每层又包括若干成熟稳定的技术组件,各技术层,自下而上,层层支撑,各技术组件松散耦合,互联互通,科学高效,易于扩展,减少了信息孤岛,增强了系统的标准化和集约化,优化了系统的用户体验,提高工作效率。

分布式架构云平台技术设计原则

先进性原则

在整体设计和实现上,依托云计算、大数据领域的知名开源项目(如Hadoop、Spark、OpenStack等)。由于遵循了业界广泛认可的事实标准,可以充分借力全球生态圈的资源,推动软硬件分层解耦,不断提升兼容性。兼容多种异构物理设备,避免厂商绑定。数据层面,支持多种数据源,包括结构化/非结构化类型的数据处理,数据本身、数据计算也都支持开放共享。优先采用先进成熟的技术组件,搭建稳定并且高效的大数据云计算管理平台,并在平台基础上实现大规模的数据采集与分析的相关业务应用。平台设计以满足当前的业务功能为主,兼顾考虑未来发展的趋势。

可靠性原则

可靠性包括整体可靠性、数据可靠性和单一设备可靠性三个层次。通过大数据云计算平台的分布式计算、存储架构,从整体系统上提高可靠性,降低系统对单设备可靠性的要求;平台设计方面保证基于hadoop和虚拟化的集群系统平台的稳定与高效,提供针对现有底层硬件设备的Hadoop和虚拟化相关技术组件的调优,以及对于整体集群的配套监控系统的搭建和集群维护与管理等相关方案;应用设计方面采用明确的应用分层架构,一方面可实现上层数据应用与底层基础数据的依赖分离,实现应用架构上的解耦;另一方面可提高上层数据的分析效率与降低运行成本。采用相关的容错技术和故障处理技术,保证数据应用的安全可靠,保证数据分析平台可用性达到使用要求。

安全保密性

采用统一的用户认证,统一的用户、权限管理和控制、密码控制等多种安全和保密措施。为保证信息的安全性,对内部网上的信息建立符合安全要求的防火墙、入侵检测、数字证书、防病毒、数据加密技术等,能够严格有效地防止外来非法用户入侵,能够避免遭受网络攻击,防止失密情况的发生,防止非法侵入带来的损失。

可扩展性

应用开发平台采用模块化建设和扩展模式。支持小规模起步,线性扩展,以满足不同场景,不同投资计划和规模的要求;随着数据规模的扩大、应用的完善,现在数据平台能够在不影响当前用户正常使用的情况下,灵活、方便地进行集群扩容。

开放性

云计算平台是在成熟落地的方案上完全自主研发,主要应用开源技术。

分布式关键技术

微服务

将系统功能划分为最小服务单元,完成单一功能,每个服务独立部署,服务间通过互相调用形成完整业务逻辑。主要特点:

-高内聚、低耦合

-开闭原则

-高效率

-弹性计算

分布式事务

通过消息机制和分布式锁实现分布式事务,在微服务架构中保证业务逻辑的完整性。主要特点:

-消息队列

- 原子操作

- 回滚机制

跨机器调用

将任务分配在更多的节点上去运行,跨机器的调用取代原来单个节点内、进程内的调用。主要特点:

- 多节点化

- 同步+异步

伸缩与容错

横向扩展代替纵向扩展,使得伸缩性变得更好,整体容错性大大提升。主要特点:

- 一致性哈希

- 多副本

平台关键组件

企业服务总线

采用Dubbo+Zookeeper技术作为企业服务总线,对所有微服务进行管理,服务总线具有以下特点:

- 自动发现和注册服务,即插即用。

- 可为微服务提供负载均衡策略,需要其他负载均衡软件。

- 统计与监控服务调用情况并记录响应时间。为程序调优及扩展提供统计数据。

消息队列

平台的消息队列采用Kafka技术,Kafka是高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。主要用于:

- 服务之间的消息通讯,实现完整的业务逻辑。

- 提供大并发业务的队列服务,避免大并发下服务崩溃问题。

分布式文件系统

平台采用HDFS和FastDFS的分布式文件系统。

HDFS主要解决超大文件的存储(如日志文件、视频文件等)及HBase等大数据存储。主要分为NameNode和DataNode,NameNode存储文件的META信息,DataNode存储数据块。客户端调用时从Name节点读取到文件的多个数据块信息,从多台服务器上获取后合并为一个文件。FastDFS是轻量级的分布式文件解决方案,主要解决存储海量小文件,如上传图片、上传文件、资源文件等等海量的小文件,这些文件不适合HDFS存储,所以采用FastDFS存储。

云服务器IAAS

平台采用OpenStack系列技术,支持Xen/KVM/Hyper-V/ESX等虚拟化技术。为分布式和大数据提供弹性计算服务。

分布式高性能架构专题

成为架构师,你想要的都在这里

分布式架构思维

大型互联网架构演进过程

架构师应具备的分布式知识

主流分布式架构设计详解

架构开发基础

多线程开发

高性能NIO框架

架构核心服务层技术

服务的前世今生

深入理解通讯协议

基于分布式RPC解决方案

dubbo全解析

架构关键技术设施

分布式环境指挥官zookeeper

分布式消息通讯异步与MQ

分布式缓存

数据存储SAL&NoSQL

高并发分流技术Nginx

分布式解决方案

分布式解决方案

Session跨域共享实战

分布式事物解决方案实战

分布式锁解决方案实战

分布式单点登录实战SSO

分布式调度任务系统

分布式配置中心

现在加群即可获取更加详细的Java架构脑图,还有Java工程化、高性能及分布式、高性能、高架构、zookeeper、性能调优、Spring、MyBatis、Netty源码分析和大数据等多个知识点高级进阶干货的直播免费学习权限及相关视频资料,群号:923116658

点击链接加入群聊【Java架构解析】:https://jq.qq.com/?_wv=1027&k=5e1QsXb

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,992评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,212评论 3 388
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,535评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,197评论 1 287
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,310评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,383评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,409评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,191评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,621评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,910评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,084评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,763评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,403评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,083评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,318评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,946评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,967评论 2 351

推荐阅读更多精彩内容