批量插入功能是我们日常工作中比较常见的业务功能之一,今天来一个 mybatis 批量插入的汇总篇,同时对 3 种实现方法做一个性能测试,以及相应的原理分析。
先来简单说一下 3 种批量插入功能分别是:
循环单次插入; mp 批量插入功能; 原生批量插入功能。 准备工作 开始之前我们先来创建数据库和测试数据,执行的 sql 脚本如下:
-- ------------------------------ 创建数据库-- ----------------------------set names utf8mb4;set foreign_key_checks = 0;drop database if exists `testdb`;create database `testdb`;use `testdb`;-- ------------------------------ 创建 user 表-- ----------------------------drop table if exists `user`;create table `user` ( `id` int(11) not null auto_increment, `name` varchar(255) character set utf8mb4 collate utf8mb4_bin null default null, `password` varchar(255) character set utf8mb4 collate utf8mb4_bin null default null, `createtime` datetime null default current_timestamp, primary key (`id`) using btree) engine = innodb auto_increment = 6 character set = utf8mb4 collate = utf8mb4_bin row_format = dynamic;-- ------------------------------ 添加测试数据-- ----------------------------insert into `user` values (1, '赵云', '123456', '2021-09-10 1816');insert into `user` values (2, '张飞', '123456', '2021-09-10 1828');insert into `user` values (3, '关羽', '123456', '2021-09-10 1834');insert into `user` values (4, '刘备', '123456', '2021-09-10 1841');insert into `user` values (5, '曹操', '123456', '2021-09-10 1802');set foreign_key_checks = 1; 数据库的最终效果如下:
1.循环单次插入 接下来我们将使用 spring boot 项目,批量插入 10w 条数据来分别测试各个方法的执行时间。
循环单次插入的(测试)核心代码如下:
import com.example.demo.model.user;import com.example.demo.service.impl.userserviceimpl;import org.junit.jupiter.api.test;import org.springframework.beans.factory.annotation.autowired;import org.springframework.boot.test.context.springboottest;@springboottestclass usercontrollertest { // 最大循环次数 private static final int maxcount = 100000; @autowired private userserviceimpl userservice; /** * 循环单次插入 */ @test void save() { long stime = system.currenttimemillis(); // 统计开始时间 for (int i = 0; i < maxcount; i++) { user user = new user(); user.setname(test: + i); user.setpassword(123456); userservice.save(user); } long etime = system.currenttimemillis(); // 统计结束时间 system.out.println(执行时间: + (etime - stime)); }} 运行以上程序,花费了 88574 毫秒,如下图所示:
2.mp 批量插入 mp 批量插入功能核心实现类有三个:usercontroller(控制器)、userserviceimpl(业务逻辑实现类)、usermapper(数据库映射类),它们的调用流程如下:
注意此方法实现需要先添加 mp 框架,打开 pom.xml 文件添加如下内容:
com.baomidou mybatis-plus-boot-starter mybatis-plus-latest-version 注意:mybatis-plus-latest-version 表示 mp 框架的最新版本号,可访问 https://mvnrepository.com/artifact/com.baomidou/mybatis-plus-boot-starter 查询最新版本号,但在使用的时候记得一定要将上面的 “mybatis-plus-latest-version”替换成换成具体的版本号,如 3.4.3 才能正常的引入框架。
更多 mp 框架的介绍请移步它的官网:https://baomidou.com/guide/
① 控制器实现 import com.example.demo.model.user;import com.example.demo.service.impl.userserviceimpl;import org.springframework.beans.factory.annotation.autowired;import org.springframework.web.bind.annotation.requestmapping;import org.springframework.web.bind.annotation.restcontroller;import java.util.arraylist;import java.util.list;@restcontroller@requestmapping(/u)public class usercontroller { @autowired private userserviceimpl userservice; /** * 批量插入(自定义) */ @requestmapping(/mysavebatch) public boolean mysavebatch(){ list list = new arraylist(); // 待添加(用户)数据 for (int i = 0; i < 1000; i++) { user user = new user(); user.setname(test:+i); user.setpassword(123456); list.add(user); } return userservice.savebatchcustom(list); }} ② 业务逻辑层实现 import com.baomidou.mybatisplus.extension.service.impl.serviceimpl;import com.example.demo.mapper.usermapper;import com.example.demo.model.user;import com.example.demo.service.userservice;import org.springframework.beans.factory.annotation.autowired;import org.springframework.stereotype.service;import java.util.list;@servicepublic class userserviceimpl extends serviceimpl implements userservice { @autowired private usermapper usermapper; public boolean savebatchcustom(list list){ return usermapper.savebatchcustom(list); }} ③ 数据持久层实现 import com.baomidou.mybatisplus.core.mapper.basemapper;import com.example.demo.model.user;import org.apache.ibatis.annotations.mapper;import java.util.list;@mapperpublic interface usermapper extends basemapper{ boolean savebatchcustom(list list);} 经过以上代码实现,我们就可以使用 mp 来实现数据的批量插入功能了,但本篇除了具体的实现代码之外,我们还要知道每种方法的执行效率,所以接下来我们来编写 mp 的测试代码。
mp 性能测试 import com.example.demo.model.user;import com.example.demo.service.impl.userserviceimpl;import org.junit.jupiter.api.test;import org.springframework.beans.factory.annotation.autowired;import org.springframework.boot.test.context.springboottest;import java.util.arraylist;import java.util.list;@springboottestclass usercontrollertest { // 最大循环次数 private static final int maxcount = 100000; @autowired private userserviceimpl userservice; /** * mp 批量插入 */ @test void savebatch() { long stime = system.currenttimemillis(); // 统计开始时间 list list = new arraylist(); for (int i = 0; i < maxcount; i++) { user user = new user(); user.setname(test: + i); user.setpassword(123456); list.add(user); } // mp 批量插入 userservice.savebatch(list); long etime = system.currenttimemillis(); // 统计结束时间 system.out.println(执行时间: + (etime - stime)); }} 以上程序的执行总共花费了 6088 毫秒,如下图所示:
从上述结果可知,使用 mp 的批量插入功能(插入数据 10w 条),它的性能比循环单次插入的性能提升了 14.5 倍。
mp 源码分析 从 mp 和循环单次插入的执行时间我们可以看出,使用 mp 并不是像有些朋友认为的那样,还是循环单次执行的,为了更清楚的说明此问题,我们查看了 mp 的源码。
mp 的核心实现代码是 savebatch 方法,此方法的源码如下:
我们继续跟进 savebatch 的重载方法:
从上述源码可以看出,mp 是将要执行的数据分成 n 份,每份 1000 条,每满 1000 条就会执行一次批量插入,所以它的性能要比循环单次插入的性能高很多。
那为什么要分批执行,而不是一次执行?别着急,当我们看了第 3 种实现方法之后我们就明白了。
3.原生批量插入 原生批量插入方法是依靠 mybatis 中的 foreach 标签,将数据拼接成一条原生的 insert 语句一次性执行的,核心实现代码如下。
① 业务逻辑层扩展 在 userserviceimpl 添加 savebatchbynative 方法,实现代码如下:
import com.baomidou.mybatisplus.extension.service.impl.serviceimpl;import com.example.demo.mapper.usermapper;import com.example.demo.model.user;import com.example.demo.service.userservice;import org.springframework.beans.factory.annotation.autowired;import org.springframework.stereotype.service;import java.util.list;@servicepublic class userserviceimpl extends serviceimpl implements userservice { @autowired private usermapper usermapper; public boolean savebatchbynative(list list) { return usermapper.savebatchbynative(list); }} ② 数据持久层扩展 在 usermapper 添加 savebatchbynative 方法,实现代码如下:
import com.baomidou.mybatisplus.core.mapper.basemapper;import com.example.demo.model.user;import org.apache.ibatis.annotations.mapper;import java.util.list;@mapperpublic interface usermapper extends basemapper { boolean savebatchbynative(list list);} ③ 添加 usermapper.xml 创建 usermapper.xml 文件,使用 foreach 标签拼接 sql,具体实现代码如下:
insert into `user`(`name`,`password`) values (#{item.name},#{item.password}) 经过以上步骤,我们原生的批量插入功能就实现的差不多了,接下来我们使用单元测试来查看一下此方法的执行效率。
原生批量插入性能测试 import com.example.demo.model.user;import com.example.demo.service.impl.userserviceimpl;import org.junit.jupiter.api.test;import org.springframework.beans.factory.annotation.autowired;import org.springframework.boot.test.context.springboottest;import java.util.arraylist;import java.util.list;@springboottestclass usercontrollertest { // 最大循环次数 private static final int maxcount = 100000; @autowired private userserviceimpl userservice; /** * 原生自己拼接 sql,批量插入 */ @test void savebatchbynative() { long stime = system.currenttimemillis(); // 统计开始时间 list list = new arraylist(); for (int i = 0; i < maxcount; i++) { user user = new user(); user.setname(test: + i); user.setpassword(123456); list.add(user); } // 批量插入 userservice.savebatchbynative(list); long etime = system.currenttimemillis(); // 统计结束时间 system.out.println(执行时间: + (etime - stime)); }} 然而,当我们运行程序时却发生了以下情况:
纳尼?程序的执行竟然报错了。
缺点分析 从上述报错信息可以看出,当我们使用原生方法将 10w 条数据拼接成一个 sql 执行时,由于拼接的 sql 过大(4.56m)从而导致程序执行报错,因为默认情况下 mysql 可以执行的最大 sql(大小)为 4m,所以程序就报错了。
这就是原生批量插入方法的缺点,也是为什么 mp 需要分批执行的原因,就是为了防止程序在执行时,因为触发了数据库的最大执行 sql 而导致程序执行报错。
解决方案 当然我们也可以通过设置 mysql 的最大执行 sql 来解决报错的问题,设置命令如下:
-- 设置最大执行 sql 为 10mset global max_allowed_packet=10*1024*1024; 如下图所示:
注意:以上命令需要在 mysql 连接的客户端中执行。
但以上解决方案仍是治标不治本,因为我们无法预测程序中最大的执行 sql 到底有多大,那么最普世的方法就是分配执行批量插入的方法了(也就是像 mp 实现的那样)。
当我们将 mysql 的最大执行 sql 设置为 10m 之后,运行以上单元测试代码,执行的结果如下:
总结 本文我们介绍了 mybatis 批量插入的 3 种方法,其中循环单次插入的性能最低,也是最不可取的;使用 mybatis 拼接原生 sql 一次性插入的方法性能最高,但此方法可能会导致程序执行报错(触发了数据库最大执行 sql 大小的限制),所以综合以上情况,可以考虑使用 mp 的批量插入功能。
展示专业影像旗舰定位 vivo X60 Pro+样张惊艳眼球
不断增长的物联网环境需要怎样来管理
华晨汽车正式宣布破产 华晨宝马不受影响
如何理解贝叶斯公式
十大晶圆代工厂商总营收有望实现20%的同比增长率,从而达到历史新高
MyBatis批量插入数据的3种方法你知道几种
超级电容的特点和优势
2020运动赛事年:IC设计迎8K电视、STB升级热潮
苹果最不值得入手的两款手机,千万别入坑
关于IIR滤波器的设计心得
罗克韦尔自动化携手迪庆有色共同赋能矿业智能化发展
奥迪RS7 Sportback,价值189.8万超跑车展实拍
NI全方位助力哈尔滨工业大学教学和创新实践
为什么虚拟化是云计算的关键要素
坚果R1发布,罗永浩大谈国产手机“黑科技”
基于传感器网络在环境监测系统中的工作流程介绍
ODU AMC高密度表面镀铬连接器与硅胶尾部注塑系统解决方案
未来五年全球光伏逆变器市场将爆发式增长
电压薄膜交通传感器
Q4’11全球前五大笔记本电脑品牌排名