数据库批量操作哪种方法更快?

在工作中经常遇到批量新增数据到数据库的业务,我们都知道大数据量操作时,批量操作会带来性能的提升,但选择哪种批量操作会更快呢?带着疑问,我从以下两种方案入手,探究数据库批量操作的性能问题。

测试方案

1、使用PreparedStatement预编译SQL功能,循环操作

2、生成批量插入SQL,单次操作

注:以下为了简便,使用方案一和方案二代替描述

测试环境

本地数据库,规避网络IO耗时问题。

测试数据量

10000条用户模拟数据

预测结果

方案一优于方案二

表结构

图片.png

测试代码

方案一

@Override
@Transactional(rollbackFor = Exception.class)
public void foreachInsert() {
    long startTime = System.currentTimeMillis();
    SqlSession sqlSession = sqlSessionFactory.openSession(ExecutorType.BATCH);
    UserMapper mapper = sqlSession.getMapper(UserMapper.class);
    for (User user : users) {
        mapper.save(user);
    }
    sqlSession.commit();
    long endTime = System.currentTimeMillis();
    log.info("单条插入总耗时 {} ms", (endTime - startTime));
}
<insert id="save">
    insert into user(`name`, age, email) values(#{name},#{age},#{email})
</insert>

解析:该方案使用PreparedStatement的预编译功能,可以减少SQL处理时间,包括SQL语句的解析、语法检查以及生成代码等操作。一般来说,处理时间要比执行SQL的时间长,从而提高效率。

方案二

long startTime = System.currentTimeMillis();
userMapper.saveBatch(users);
long endTime = System.currentTimeMillis();
log.info("批量插入总耗时 {} ms", (endTime - startTime));
<insert id="saveBatch">
    insert into user(`name`, age, email) values
    <foreach collection="users" item="user" separator=",">
        (#{user.name},#{user.age},#{user.email})
    </foreach>
</insert>

解析:该方案使用整合SQL的,达到批量处理的目的,减少了网络IO次数,提升了性能。但本例在本地数据库测试,这里不探讨网络IO影响。

测试结果

2022-09-21 20:36:07.429  INFO 12484 --- [nio-8080-exec-2] c.c.m.service.impl.UserServiceImpl       : 单条插入总耗时 311 ms
2022-09-21 20:36:11.657  INFO 12484 --- [nio-8080-exec-1] c.c.m.service.impl.UserServiceImpl       : 批量插入总耗时 410 ms

2022-09-21 20:37:30.958  INFO 11844 --- [nio-8080-exec-2] c.c.m.service.impl.UserServiceImpl       : 单条插入总耗时 310 ms
2022-09-21 20:37:32.406  INFO 11844 --- [nio-8080-exec-1] c.c.m.service.impl.UserServiceImpl       : 批量插入总耗时 418 ms

由此可以看出测试结果也符合预期。

这里需要注意:数据库连接需要多配置一个参数rewriteBatchedStatements=true,没有配置的话测试结果将不满足预期。因为MySQL连接驱动默认情况下会将我们方案一中SQL一条条发给数据库,批量插入变为单条插入。

总结

在不考虑网络IO的情况下,使用PreparedStatement预编译SQL功能,循环操作 快于 生成批量插入SQL,单次操作。

拓展

Mybatis Plus批量操作方法saveBatch是如何操作的性能如何?我们看看源码:

public static <E> boolean executeBatch(Class<?> entityClass, Log log, Collection<E> list, int batchSize, BiConsumer<SqlSession, E> consumer) {
    Assert.isFalse(batchSize < 1, "batchSize must not be less than one");
    return !CollectionUtils.isEmpty(list) && executeBatch(entityClass, log, sqlSession -> {
        int size = list.size();
        int idxLimit = Math.min(batchSize, size);
        int i = 1;
        for (E element : list) {
            consumer.accept(sqlSession, element);
            if (i == idxLimit) {
                sqlSession.flushStatements();
                idxLimit = Math.min(idxLimit + batchSize, size);
            }
            i++;
        }
    });
}

解析:先通过数据分片(防止数据超出MySQL限制同时在解析长SQL时也会非常耗时),默认每次1000条数据,然后将数据一条条插入,这里sqlSession我们继续进入方法executeBatch(Class<?> entityClass, Log log, Consumer<SqlSession> consumer)方法

SqlSession sqlSession = sqlSessionFactory.openSession(ExecutorType.BATCH);
try {
    consumer.accept(sqlSession);
    sqlSession.commit(!transaction);
    return true;
}

可以看出它的做法与我们方案一思路类似,sqlsession是一个特殊批处理session。但在耗时方面,如果数据量大于1000的话,方案一的耗时会少些。

示例代码

一直在追求思路的传递而非代码的COPY

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,907评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,987评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,298评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,586评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,633评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,488评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,275评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,176评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,619评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,819评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,932评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,655评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,265评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,871评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,994评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,095评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,884评论 2 354

推荐阅读更多精彩内容