完善 Chaos 的线性一致性测试

在之前的文章里面,我提到我用 Go 写了一个类似 Jepsen 的工具 - Chaos ,里面我使用的是 Porcupine 来进行的线性一致性测试,但 Porcupine 并不能长时间执行,因为它要解决的是一个 NP hard 的问题,如果要验证的 history 太多,会算不出来,在我们 128 GB 机器上面,如果 history 有 2000 条,验证线性一致性的时候就容易 OOM 了。

虽然之前看过一篇论文,Why Is Random Testing Effective for Partition Tolerance Bugs?,里面提到通过设计合理的测试用例,我们是能有很大概率去发现系统的问题的,但我仍然希望我们的测试能跑的久一点,能有更多的 history,这样没准能发现更多的 bug。

一个可能的办法就是固定一个测试场景,然后跑多次,这样比较简单,但因为每次重跑集群都是新做的,重做集群会有一部分时间开销,等的有点不爽。另外,仍然是跑的时间太短,对于 TiDB 整个集群来说,一些调度可能都还没开始就结束了,其实并不能很好的发现 bug。

于是就想到一个可行的办法,引入中间状态。怎么说呢,对于 Procupline,它的验证其实仍然是基于状态机的模型,给定一个初始状态,然后开始迭代,每次迭代会根据测试程序的输入输出来生成下一个状态,然后在验证下一个状态是不是符合预期,满足线性一致性。对于 Chaos 来说,我们是有 5 个 client 来并发的给 TiDB 发送命令测试的。那么,我们其实可以做到,先让 5 个 client 处理 1000 个请求,然后我们得到一个中间状态,生成一个新的 history,再继续。那么对于 Porcupine 来说,每一个 history 其实就是一个新的模型验证了,然后初始化的状态机就是 history 开始的中间状态。

以我们现在的转账为例子,5 个用户依次转账,最开始每人初始金额是 1000 块钱,然后执行 1000 次,这时候我们暂停测试,得到 5 个人现在的金额,当成下一次测试的初始状态,继续开始。可以看到,通过这样的方式,我们就能在测试的时候一直进行线性一致性判断了。每次跑 1000 条测试,生成一个 history,异步给 Porcupine 验证,同时继续下一次测试。

这个改动也是很容易的,在 history 的第一行记录下初始状态机,然后根据这个来创建 Porcupine 的 model 就可以了。如果你对这个感兴趣,欢迎提 PR。

当然,我们可以更进一步。这个是我在跟 FoundationDB 的 Alex 讨论的时候想到的,无论对于 Jepsen 的 Knossos 还是 Chaos 的 Porcupine,它其实是一个通用的线性一致性测试框架,是把整个测试服务当成黑盒来判断的,但实际上,我们对于自己的服务,是有着清晰的认识的,也就是,我们其实能写一个针对我们自己服务,专用的线性一致性测试框架。

对于 TiDB 来说,我们能够确定,任何的事务都是有唯一的时间戳,而这个时间戳是一定单调递增的,所以我们只要把我们的事务按照时间戳排序,然后在依次 replay,那么我们就能知道我们的系统是不是线性一致的。举个例子,譬如转账,在 T1 时候,用户 1 和 2 都是 1000 块钱,然后 1 给 2 转了 100,在 T3 的时候我们知道事务成功,那么 1 就是 900, 2 就是 1100。在 T2 (T1 < T2 < T3)的时候,我们可能会读出来 1000,也可能会读出来 1100,但一定不会读出来其他的值。如果在 T2 的时候,我们读出来是 1100 了,那么就意味着前一个转账的事务一定成功了,那么在 T2 之后,只能读出来 1100, 不能在读出来 1000 了。

因为这个线性验证是跟我们自己的实现强相关的,所以写出来就非常容易了,而且也不用处理那么多的分支情况,自然就能长时间运行跑了。当然,现在我只是简单的实现了一个 demo,算是验证了一下,还有很多东西需要完善,譬如我现在只考虑了全局的时序一致,其实也可以把单个客户端的顺序一致也考虑进来。如果你对这块感兴趣,欢迎提 PR,或者邮箱联系 tl@pingcap.com

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,793评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,567评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,342评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,825评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,814评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,680评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,033评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,687评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,175评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,668评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,775评论 1 332
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,419评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,020评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,978评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,206评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,092评论 2 351
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,510评论 2 343

推荐阅读更多精彩内容