多线程高并发编程MySQL数据库处理

本文作者:陈进坚
个人博客:https://jian1098.github.io
CSDN博客:https://blog.csdn.net/c_jian
简书:https://www.jianshu.com/u/8ba9ac5706b6
联系方式:jian1098@qq.com

摘要


​ 现在很多主流的编程语言都支持多线程或者协程处理,例如天生支持协程的go语言php+swoole等。但是多线程和单线程不同,多线程如果不对数据库做处理的话,有时候单线程跑的程序没有问题,但是一旦开启多线程,数据库就会发生一系列之前没有的问题。

​ 那么多线程高并发的数据库需要做怎样的处理呢?下面以PHP+MySQL为例做说明,其他编程语言类似。

数据库处理


并发数据库处理最低条件必须满足下面的前6条

事务

​ 事务是多线程处理中确保数据准确性和一致性的核心步骤之一,但前提是MySQL数据库的存储引擎必须是InnoDB,因为MyISAM不支持事务,对于InnoDB每一条SQL语言都默认封装成事务,自动提交,这样会影响速度,所以最好把多条SQL语言放在begin和commit之间,组成一个事务;

例如php-laravel框架中的事务:

try {
    DB::beginTransaction();
    
    //业务逻辑和数据库操作
    
    DB::commit();
} catch (Exception $e) {
    DB::rollback();
    echo $e->getMessage();
}

行锁

​ 行锁是多线程处理中确保数据准确性和一致性的第二个核心步骤,加行锁能保证在这个事务中的数据不会被其他线程更改,确保数据准确,其他线程访问这一行时会阻塞;需要注意的是,行锁只能锁定一行,如果数据库where条件中包含多行结果将会报错

例如php-laravel框架事务中的行锁:

try {
    DB::beginTransaction();
    
    //lockForUpdate()表示加行锁进行更新
    $user = User::where('id',1)->lockForUpdate()->first();      //可行
    $user = User::where('id','>',1)->lockForUpdate()->first();  //这是不行的,会报错
    $user->name = 'test';
    $user->save();
    
    DB::commit();
} catch (Exception $e) {
    DB::rollback();
    echo $e->getMessage();
}

索引

InnoDB的行锁是实现在索引上的,而不是锁在物理行记录上。潜台词是,如果访问没有命中索引,也无法使用行锁,将要退化为表锁。

禁止的操作

在有行锁的事务中不可以进行以下的操作

  • 自增自减

    很多编程语言框架的orm都提供自增自减连贯操作,但是在行锁事务中事不允许的,例如

    User::where(['id'=>1])->increment('stock');
    User::where(['id'=>1])->decrement('stock');
    
  • 查询语句在事务外面

    数据查询的执行必须在事务开始后,否则不起作用

执行顺序

​ 假如你的事务中的lockForUpdate操作的数据表依次为A、B、C表,那么你更新表的顺序也应该按A、B、C表的顺序更新;

​ 假如你的两条相同逻辑并发线程分别需要锁定相同的数据表,那么锁定的表顺序应该保持一致。举个反向案例:两条线程分别锁定顺序为A、B、C和B、A、C,当两线程同时执行,当线程1锁定A表,需要接着锁定B表,但是B表已经被线程2锁定;线程2此时也在等待线程1释放A表,这样两条线程相互等待造成会死锁。

连接池

​ 多线程情况下数据库连接如果用同一个连接实例,可能会发生报错,这个视编程语言框架而定,有的框架已经帮忙处理好了,但是大多数需要配置才能生效。连接池的应用大大降低了数据库的连接资源占用和访问速度。

读写分离(可选)

​ 当数据库的写压力增加,读写集中在一个数据库上会让数据库不堪重负。读写分离就是建立多个分布式数据库,只在主数据库服务器上写,只在从数据库服务器上读,其中从数据库服务器可以部署多台用来读数据。一般编程语言的orm都支持读写分离配置。

分库分表(可选)

​ 随着系统访问量的增加,QPS越来越高,数据库磁盘容量不断增加,一般数据库服务器的QPS在800-1200的时候性能最佳,当超过2000的时候sql就会变得很慢并且很容易被请求打死,而单表数据量过大也会导致数据库执行sql很慢,为了应付这种场景产生了分库分表这种思想和技术。MySQL的话可以考虑使用分布分表中间件,例如mycat。另外如果单张表数据过大,查询起来速度会很慢,对时间要求不大的情况下,考虑建立历史表。

使用缓存(可选)

​ 为了减少对数据库的访问,对时效性低的数据可以使用缓存数据库,提高访问速度,例如redis和memcacha。

负载均衡(可选)

​ 负载均衡,也称分布式服务器,如果用户量很大,一台服务器无法支撑服务,需要部署多台服务器,做负载均衡处理。例如使用阿里云的负载均衡或者自行搭建nginx反向代理。另外,缓存服务器也是可以可以分布式搭建的

常见报错

报错信息:

ERROR : (2006, 'MySQL server has gone away')

解决方法:

事务中有锁等待问题导致数据库阻塞,检查你的事务中是否有事务没提交,return、continue或break前是否已经rollback

报错信息:

[ERROR] Uncaught exception 'Illuminate\Database\QueryException': [0]Packets out of order. Expected 15 received 1. Packet size=80

解决方法:

检查事务中的锁行语句是否包含多行,多行只能锁一行,也就是说你查询条件的字段必须是唯一的;

或者检查是否有启用数据库连接池,多个线程使用同一数据库连接也会出现这个问题

报错信息:

ERROR 1305(42000) SAVEPOINT trans*** DOES NOT EXIST

解决方法:

有部分事务没有提交或者回滚,检查你的事务中是否有事务没提交,return、continue或break前是否已经rollback

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,193评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,306评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,130评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,110评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,118评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,085评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,007评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,844评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,283评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,508评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,667评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,395评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,985评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,630评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,797评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,653评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,553评论 2 352