分库分表架构方案设计

本文就分库分表的产生背景、一些通用的分库分表的涉及记录做一下简要的理解和阐述。

为什么的需要分库分表

在分布式架构中,随着数据量的不断上升和用户量的不断累加,原先数据库的单点(很多为了数据库的高可用只是做了简单的读写分离)设计早就已经不够用使用数据库的三个阶段

  • 第一阶段:单库单表

  • 第二阶段:单库多表
    比如一个User 表,当数据量增加的时候,查询出现很慢的情况,增加和删除索引的代价太大,就可以考虑把User表分为 User_1 ,User_2 ....这时候可以放在不同的实例里面,也可以放在同一个实例里面。

  • 第三阶段:多库多表
    微服务的设计思路里面就是每个服务有自己的数据库。

分而治之

数据库拆分的两个方式就是

垂直拆分:一个数据库实例多个表组成,需要按照业务的使用不同把表拆分成多个分类,分布到多个数据库实例,达到负载均衡的效果。专人干专事。

水平拆分 :同一个表中的数据分散到多个数据库实例里面。简单来说就是拆分成User_1 ,User_2 .... 与原有结构相同。多个人干一件事。

image.png

冷热分离的角度去拆分

冷数据:查询多,变更少,推荐使用引擎MyISAM,可配置多个从库缓解读取的压力

热数据:查询和变更都多 推荐使用引擎InnoDB,对于活跃数据,在某些场景下适合使用redis等缓存,比如点赞系统,等到累积一定的量再去跟新数据库。。

读写分离的也是一个拆分角度

分库分表存在的问题

  • 存在分布式事务的问题
  • 跨界点Join问题
  • 跨界点合并数据和分页的问题
  • 多个数据源的管理的问题

水平切分的维度选择

  1. 一致性Hash
    为什么使用一致性Hash而不是简单的Hash,为了解决缩容和扩容的问题,
    缺点很明显,很难做数据聚合的处理。
  2. 按照时间切边
    在一些场景下面存在数据倾斜的问题,数据的二次查询也存在问题。

垂直切分更加偏向于业务拆分的过程,水平拆分的技术难度相对于比较高。

分片后的查询问题

例如: 用户购买了商品,需要将交易记录保存下来,那么如果按照买家的纬度分表,则每个买家的交易记录都被保存在同一表中,我们可以很快、很方便地查到某个买家的购买情况,
但是某个商品被购买的交易数据很有可能分布在多张表中,查找起来比较麻烦。反之,按照商品维度分表,则可以很方便地查找到该商品的购买情况,但若要查找到买家的交易记录,则会比较麻烦。

  1. 分片数据聚合,但是这样的效率很低 。

2.记录两份数据,比如在商品服务中,一份买家的维度拆分,一份商品维度拆分。

3.在搜索实时性比较高的情况下,考虑使用搜索引擎,例如采用大数据工具Elasticsearch。

当然查询还有其他变相的方案


image.png

电商系统的订单和商品价格的问题

分片后事务处理机制

柔性事务和刚性事务
柔性事务满足BASE理论(基本可用,最终一致)
刚性事务满足ACID理论

二阶段提交协议(2PC)

分为准备阶段和提交阶段
对应技术上的XA、JTA/JTS

image.png

缺点比较明显,在准备的时候需要锁定资源,参与者较多的情况下,等待的时间差拉长,影响响应时间,出现死锁的可能性比较大。所以很少使用这个方案

最大努力保证模式

例如商户交易结果通知重试、补单重试
这种模式适用于一致性要求不高但是对性能要求高的场景

1.开始消息事物
2.开始数据库事物
3.接收消息
4.跟新数据库
5.提交数据库事务
6.提交消息事务

如果5失败了那么数据库和消息队列全部回滚,保持一致。
5成功但是6超时失败,这时候出现不一致的现象。可以配合事务补偿模式完成,也就是消息队列的重试机制

事物补偿模式(TCC)

TCC型事务(Try/Confirm/Cancel)可以归为补偿型。补偿型的例子,在一个长事务(long-running)中,一个由两台服务器一起参与的事务,服务器A发起事务,服务器B参与事务,B的事务需要人工参与,所以处理时间可能很长。如果按照ACID的原则,要保持事务的隔离性、一致性,服务器A中发起的事务中使用到的事务资源将会被锁定,不允许其他应用访问到事务过程中的中间结果,直到整个事务被提交或者回滚。这就造成事务A中的资源被长时间锁定,系统的可用性将不可接受。WS-BusinessActivity提供了一种基于补偿的long-running的事务处理模型。还是上面的例子,服务器A的事务如果执行顺利,那么事务A就先行提交,如果事务B也执行顺利,则事务B也提交,整个事务就算完成。但是如果事务B执行失败,事务B本身回滚,这时事务A已经被提交,所以需要执行一个补偿操作,将已经提交的事务A执行的操作作反操作,恢复到未执行前事务A的状态。这样的SAGA事务模型,是牺牲了一定的隔离性和一致性的,但是提高了long-running事务的可用性。

异步确保型

将一些同步阻塞的事务操作变为异步的操作,避免对数据库事务的争用,典型例子是热点账户异步记账、批量记账的处理。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,014评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,796评论 3 386
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,484评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,830评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,946评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,114评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,182评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,927评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,369评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,678评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,832评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,533评论 4 335
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,166评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,885评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,128评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,659评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,738评论 2 351

推荐阅读更多精彩内容