mysql insert duplicate key update 死锁分析

背景

数据入库这块有离线和实时两套入库系统,写同一个db的同一批mysql表,两边用的都是insert into table on duplicate key update这种方式。实时一直运行,离线5分钟更新一次,当两套系统同时运行时出现了死锁问题,频率还挺高。事务的隔离级别是read committed 读提交。

原因分析&解决方案

这里面分两种情况,一种是带主键的insert duplicate key update,一种是没有主键带唯一索引的insert duplicate key update。

1、带主键的insert duplicate key update

实时入库的batch大小是1w,离线入库的batch大小也是1w,为了提高入库效率 ,两边都开启了事务。当两边同一批插入的数据中包含了相同的数据,且顺序不一致,此时会出现死锁。比如说实时任务当前插入的数据包含id为1,2的数据,离线任务当前插入的数据包含2,1。此时实时任务获取了id为1数据的锁,等2的数据锁,离线任务获取了id为2的数据锁,等id为1数据锁,产生了死锁。

这种情况比较简单,处理方式有两种:

1、减少batch大小,减少了同一批数据中包含相同数据的概率,也就减少了死锁发生的概率

2、入库前对sql按照id排序,即使出现相同数据,只要保证顺序相同就不会出现死锁

2、带唯一索引的insert duplicate key update

https://developer.aliyun.com/article/727076 这篇文章讲的很清楚,这里我大致聊一下。
insert相关的有四种锁。

  • record锁,也就是锁一条记录,这时其他事务读写不了当前加锁的记录。
  • gap锁,锁一个区间。比如说db中有1,3,5,那么对应的区间就有(-∞,1),(1,3),(3,5),(5,+∞),该锁可以锁住上面四个区间的任何一个或者多个。
  • next-key锁,锁一条记录和小于该记录最近的一个gap,本质上就是record锁加上gap锁。比如说db中有1,3,5,那么对应的区间就有(-∞,1],(1,3],(3,5],(5,+∞],该锁可以锁住上面四个区间的任何一个或者多个。
  • Insert Intention锁(插入意向锁):这个锁是在数据插入之前会加此锁。它是一种轻量的Gap锁,同时也是意向排他锁的一种。它的存在使得多个事务在写入不同数据到统一索引间隙的时候,不会发生锁等待。

插入唯一索引时判断索引是否存在。如果不存在,会在数据所属的gap添加Insert Intention锁。由于意向锁是轻量gap锁,这时即使有同gap的其他数据插入,两者之间不会互相影响。

如果插入的索引已经存在,会在索引值位置插入next-key锁。next-key锁包含record锁和gap锁,gap锁会锁一个范围,锁住期间,其他事务不能向该范围插入数据。如果此时两个事务各自获取到了一个next-key锁,此时都需要向对方获取到的next-key锁范围插入数据,就会出现死锁。

举例:
code字段有唯一索引。初始数据:insert into test2 (code, other) values(1,1),(3,3),(5,5)
事务1:
insert into test2(code,other)values(3,3) on duplicate key update other=values(other);
由于code为3的数据已经存在,所以会在(1,3]这个范围加next-key锁。
事务2:
insert into test2(code,other)values(5,5) on duplicate key update other=values(other);
由于code为5的数据已经存在,所以会在(3,5]这个范围加next-key锁。
如果此时事务1插入一条code为4的数据,那么此时会等待事务2 (3,5]的next-key锁释放;
如果同时事务2插入一条code为2的数据,那么此时会等待事务1 (1,3]的next-key锁释放;
形成死锁。

解决方案:
1、减少batch的大小,单个事务获取到的next-key锁的范围就会变少,减少死锁的概率。
2、重试。
3、插入数据时添加主键。如果插入数据时带上主键,那么就不会产生next-key锁,会退化到第一种情况(带主键的insert duplicate key update)。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,271评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,275评论 2 380
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,151评论 0 336
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,550评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,553评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,559评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,924评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,580评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,826评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,578评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,661评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,363评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,940评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,926评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,156评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,872评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,391评论 2 342

推荐阅读更多精彩内容