Designing Data Intensive Applications

chapter 1: 搭建可靠,伸缩性好,且易于维护的系统

什么是数据密集型应用?
首先,它是针对计算密集型系统定义的。现如今的大多数应用,核心其实并不在于计算,而在于数据——由此而引发出了一系列现实复杂的问题,比如说海量数据的存储,数据的结构如何设计,如何快速实现数据变更……
数据为应用服务,不同应用的数据结构或特点并不相同,为了适用不同的场景,于是就诞生了很多数据系统:传统数据库(MySQL等等),消息队列,缓存等等,但随着时间的推移,这些不同类型的数据系统呈现出了逐渐融合的趋势,像Redis提供了消息队列的服务,而kafka(Apache 的开源消息队列应用)则提供了像传统数据库一样的持久化功能。而基于数据服务的上层应用,也不再拘泥于单一的数据层服务,而是将服务拆分,根据不同服务的场景和需求选择适宜的数据层,最终各式各样的数据系统被集成了进来。

应用的代码像胶水一样把各个存储系统组装到一个应用

当多个服务被集成到一起的时候,会引发很多有趣的问题:如何在内部发生错误的时候依然保证数据的正确性,如何处理负载变高的场景等等。所以我们想要的服务应该具有以下特点:可靠性,伸缩性好,可维护性

可靠性:
可靠性包括满足用户期望 ,容错性好 ,满足一般场景下的负载等等。但其实一句话来说,就是我们希望,当出现“错误”时,软件依然可以工作。实际上我们并非苛刻的要求——对于所有‘错误"(包括世界末日,宇宙毁灭),我们的软件都要工作良好,而是说针对很大一部分错误,应该有容错机制或者称之为弹性服务。下面我们来看下那些需要应对的“错误”:

bug: 具体指什么,就不说了,程序员都懂得。要想解决,一方面是测试,另一方面还是要测试......

硬件错误(故障):对于小规模的系统,这种问题不太常见,但是在很大的数据中心里,每时每刻都会有故障发生。通常规避该问题的常见做法是冗余节点与服务来降低服务整体失效的概率。

软件错误: 常见的有网络拥堵超时,依赖的服务不稳定等等。硬件错误通常是随机独立发生的,不太可能集中出现,而软件错误则可能导致所有在线服务失常。从本质上来讲,我们写代码的时候,总是会假设我们的环境是怎样的,可是有一天当环境变了的时候,故障便产生了。事实上,并没有一个简单迅速的方法去解决这个问题,所以,小心判断你的任何假设!(我忽然想到了防御性编程,应该是针对这种问题的一个不错的方式)

人为错误:据统计,大部分的错误都是人为导致的,软件的编写,构建,部署,操作都是人参与的,but humen is know to unreliable, 所以就软件来说简洁清晰的抽象,易于理解的设计,将易出错的发布环节自动化,尽量减少人的干预,同时做好监控,并且能够紧急回滚。这个其实主要是要提高开发者的水平。

伸缩性(the capacity to be changed in size or scale):
一个非常拗口的词,哎,计算机行业的词啊,如果我翻译成应变能力的话,是不是也没出入很多,当然这里的应变,主要是指的软件的负载(load)。

高可伸缩性代表一种弹性,在系统扩展成长过程中,软件能够通过很少的改动甚至只是硬件设备的添置,就能实现整个系统处理能力的线性增长,实现高吞吐量和低延迟高性能。
可伸缩性和纯粹性能调优有本质区别, 可伸缩性是高性能、低成本和可维护性等诸多因素的综合考量和平衡,可伸缩性讲究平滑线性的性能提升,更侧重于系统的水平伸缩,通过廉价的服务器实现分布式计算;而普通性能优化只是单台机器的性能指标优化。他们共同点都是根据应用系统特点在吞吐量和延迟之间进行一个侧重选择,当然水平伸缩分区后会带来CAP约束。

可维护性:
软件的交付通常并不是生命周期的结束,更可能的是一个开始,而且随着时间的推移,参与人员的不断变更,软件会被用来做那些它原本并未打算去做的功能,在这种情况下如何去提高它的可维护性呢?

简单:简单——就是管理复杂度,可以说是我们的终极追求,然而却并不是件容易的事。
随着时间推移,项目在变得庞大,功能变得越来越复杂,让人难以理解。而这样的情况会导致开发的进程受阻,稍微一个功能变更,就可能会引发无法预料的bug。项目变得越来越难以维护。
要解决这个问题,其实要把追求简单与开发功能当做同等重要的事,我们并非要削减功能,而是要移除系统里那些不重要的复杂度(指在用户看来,它不是软件核心要解决的问题)一种很好的方法是找出抽象,虽然很难。(这里强烈推荐DDD(领域驱动设计))

易于变化:
软件在不断变化,甚至旧的设计已不合时宜,面对变化,敏捷的思想应运而生,给我们提供了框架与理论(TDD: 测试驱动开发 ;重构)局限性:通常敏捷针对的是小的项目与团队。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,417评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,921评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,850评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,945评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,069评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,188评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,239评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,994评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,409评论 1 304
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,735评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,898评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,578评论 4 336
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,205评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,916评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,156评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,722评论 2 363
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,781评论 2 351

推荐阅读更多精彩内容