关于行列混存的一点总结

TiDB 最初是作为一个分布式 OLTP 数据库开发的,但随着越来越多的用户将其用于 AP 环境,并且给了我们很多积极的反馈,让我们决定,将 TiDB 打造成一个支持 OLTP + OLAP 的 HTAP 数据库。为了达到这个目标,我也在思考,如何让 TiKV 更好的支持行列混存。刚好最近一段时间研究了一些相关的知识,这里简单总结归纳一下,先看看业界的一些方案,然后在想想后续我们会如何去做。

PAX

将 PAX 放在第一个主要是因为 Spanner 在最新的论文里面提到了这种方案,貌似他们也采用了。PAX 融合了 NSM 和 DSM 的优点,在一个 page 里面,使用 mini page 来存放不同的 attributes。关于 PAX,详细可以我之前的一篇文章

使用 PAX 好处在于更好的利用 CPU 以及缓存,对于不同的 attribute 可以使用不同的压缩方式,另外,对于现有的 NSM 系统,可以非常方便的使用 PAX 改写。

但 PAX 也并不是万能的,因为是一个 page 读取,所以有时候不相关的 attribute 数据还是会读出来。虽然 PAX 相比 NSM 对于缓存的利用更加高效,但还是不能做到 DSM 那种程度。另外,一些 DSM 的 vectorized processing 等特性,仍然不能很好的用在 PAX 上面。

PAX 虽然是十几年前就提出的一套方案,但现在主流的 HTAP 系统真的很少用到,除了 Spanner 公开之外(话说我对它是否已经大规模用在 Spanner 上面,以及性能怎样是存疑的),业界还猜测 Oracle 也有用到,这个如果有人清楚,麻烦确认一下。

Fractured Mirrors

Fractured Mirrors 的理念主要源于 paper A Case for Fractured Mirrors,这篇 paper 虽然看起来很复杂,但核心理念就是写数据的时候,写两份,一份 NSM,一份 DSM,根据不同的查询语句路由到不同的 storage 上面。

通常,服务器都会做 raid,所以其实写两份的开销并不会很大,对于 TiKV 来说,因为天生的三副本,没准 Fractured Mirrors 是一个比较合适的方案,譬如我们可以用一个副本作为 NSM,两个作为 DSM,然后查询的时候路由到不同的副本上面去。这套机制看起来是很美好的,但其实难度也很大,毕竟要维护两套高性能的 storage 方案,这已经不是一般的 team 能 hold 住的。

FSM

FSM 将一个 table,分成了不同的 Tile,每个 Tile 聚合了相关的 attributes,Tile 可以认为是 DSM,然后 Tile 里面则是使用 DSM 存储。不同于 PAX 只有一种特定的 page 格式,FSM 会根据实际的查询等统计信息,动态的进行变更底层结构的。关于 FSM,详细可以参考我之前写的一篇文章

对于 FSM 来说,如果我们预先就能很好的设计出一个 Tile 到底包含哪些 attributes,那么就能非常高效的处理了。但大家知道,这在现实中是不可能的,毕竟我们的业务也可能会不断变化。我们需要很好的设计一套系统,实际根据外面的查询请求变化,动态的去调整底层的 Tile 结构,这个难度是非常大的。我觉得唯一可行的就是引入机器学习,毕竟已经有 paper 说了如何根据机器学习来优化 SQL 的查询计划了。

小结

上面就是最近一些关于行列混存的总结,这里并没有提及 Kudu,因为我觉得 Kudu 后面还需要更深入的研究一下。后续到底 TiKV 如何去支持 HTAP,我们还会持续在考察业界方案一段时间,然后在思考如何去做,也非常欢迎在这方面有经验的同学加入,一起将 TiDB 做成全球顶级的 HTAP 系统。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,772评论 6 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,458评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,610评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,640评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,657评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,590评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,962评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,631评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,870评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,611评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,704评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,386评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,969评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,944评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,179评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,742评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,440评论 2 342

推荐阅读更多精彩内容