《从零开始学习架构》读书笔记之存储高性能

在前面之前文章中,简单的阐述了什么是架构、架构的目的是什么、设计架构的原则、以及设计架构的流程。接下来几篇文章将具体从高性能、高可用和可扩展三个角度分析架构模式。

首先可以将影响架构的高性能的因素分为两方面:一是存储高性能,另一个是计算高性能。这篇文章主要介绍为了满足高性能,如何去提升系统的存储能力。

关系数据库

虽然技术在不断发展,但是关系数据库依旧是很多业务系统中的关键和核心存储系统。为了应对随着业务发展的海量数据,关系数据库除了可以从原来的单机数据库优化升级成数据库集群,还可以通过读写分离,以及分库分表的方式,来缓解访问和存储的压力。

1.读写分离

其原理是将数据库读写操作分散到不同的节点上,从而将访问压力分散到集群中多个数据库服务节点上。基本实现如下:a.数据库服务器搭建主从集群;b.数据库主机负责读写操作,从机只负责读操作;c.数据库主机通过复制将数据同步到从机,每台数据库服务器都存储了所有的业务数据;d.业务服务器将写操作发给数据库主机,将读操作发给数据库从机。

但由于主从复制过程中有延迟现象,可能会导致业务上处理有问题。解决这个问题的常见方法有:a.写操作后的读操作指定发给数据库主服务器;b.读从机失败后再读一次主机;c.关键业务读写操作全部指向主机,非关键业务采用读写分离;

2.分库分表

虽然读写分离解决了数据库的访问压力,但是没有解决数据库的存储压力,从而出现了分库分表设计方案。分库分表其实包括两个方法:分库和分表。

分库,也可以理解为业务分库,即按照业务模块将数据库分散到不同的数据库服务器。虽然分库能够分散数据的存储和访问压力,但是也带来了新问题:join操作问题、事务问题、成本问题。这些问题从不同程度上,增加了系统的复杂度和成本。

分表,通常有两种方式:垂直分表和水平分表。垂直分表适合将表中某些不常用且占了大量空间的列拆分出去。水平分表则适合表行数特别大的表,如何判断,具体还要看表的访问性能。

相比垂直分表,水平分表会引入更多的复杂性,主要是路由、join操作、count()操作、order by操作。

3.方案的实现

读写分离需要将读写操作区分开来,然后访问不同的数据库服务器。分库分表需要根据不同的数据访问不同的数据库服务器,两者本质都是一种分配机制,也就是将不同的sql语句发送到不同的数据库服务器。

常见的分配实现方式有两种:程序代码封装和中间件代码封装。

程序代码封装就是在代码中抽象一个数据访问层来实现读写分离、分库。而中间件封装是指独立一套系统出来,实现读写分离和分库分表操作。

非关系性数据库-NoSQL

由于关系型数据库的缺点:a.行记录,无法存储数据结构;b.schema扩展不方便;c.在大数据场景下I/O较高;d.全文搜素功能比较弱。所以,分别诞生了不同的NoSQL解决方案。常见的方案有:K-V存储、文档数据库、列式数据库、全文搜索引擎。

K-V存储,可以解决关系数据库无法存储数据结构的问题。Redis是K-V存储的典型代表,它的主要缺点是不支持完整的ACID事务,也就是它只能保证隔离性和一致性,无法保证原子性和持久性。

文档数据库,可以解决关系数据库强schema约束的问题。它可以存储和读取任意的数据,其具有新增字段简单、历史数据不会出错、可以很容易存储复杂的数据等优点。但它也有缺点:不支持事务、以及无法实现关系数据库的join操作。

列式数据库,即按照列来存储数据的数据库,可以解决关系数据库大数据场景下的I/O问题。一般将列式存储应用在离线的大数据分析和统计场景中,因为这种场景主要是针对部分列进行操作,且数据写入后就无须再更新删除。

全文搜索引擎,可以解决关系数据库的全文搜索性能问题。其基本原理是使用“倒排索引”,也就是建立单词到文档的索引。从而实现根据关键词来查询文档内容。

缓存

缓存的出现是为了弥补存储系统在读多写少等场景下的不足。其基本原理是将可能重复使用的数据放到内存中,一次生成,多次使用,避免每次使用都去访问存储系统。

当然在使用缓存时,需要考虑三种场景问题:缓存穿透、缓存雪崩、缓存热点。

缓存穿透,是指缓存没有发挥作用,常见情况有两种:存储数据不存在、生成缓存数据需要耗费大量时间或资源。可以通过设置默认值解决前一种情况,而对于第二种情况,作者的建议是识别爬虫,并禁止访问或者是做好监控,发现问题及时处理。

缓存雪崩是指当前缓存失效(过期)后引发系统性能急剧下降的情况。常见的处理方式有:更新锁机制和后台更新机制。更新锁机制就是指,对缓存更新操作进行加锁保护,保证只有一个线程能够进行缓存更新,未能获得更新锁的线程要么等待锁释放,要么返回默认值。后台更新机制又可以分为定时读取和消息队列通知。

缓存热点指大部分甚至所有业务请求都命中同一份缓存数据。解决方案就是,复制多份缓存,将请求分散到多个缓存服务器上,减轻缓存热点导致的单台缓存服务器压力。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,377评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,390评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,967评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,344评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,441评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,492评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,497评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,274评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,732评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,008评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,184评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,837评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,520评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,156评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,407评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,056评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,074评论 2 352

推荐阅读更多精彩内容