关于事务开启与否对数据库插入数据所需时间的影响的讨论
最近在做sqlite3的二次开发,看到API里面关于事务的时候,萌生了测试一下事务的开启与否对插入数据所需要的时间影响的想法,根据sqlite3的api,在后面测试的时候发现对于sqlite3来说事务的开启与否仅插入1w条数据,时间的差距就已经非常非常明显了,先说下测试环境:Ubuntu 12.04, sqlite3 3.7.14.1,测试插入1w条数据。
不开启事务时的测试代码如下:
int insert_no_trans()
{
printf("<---------------------> \n"
"go into function insert_no_trans()\n");
int j = 0;
for (j = 0; j < 10000; j++)
{
sprintf(sql, "INSERT INTO [dev] ([id], [name], [age])\
values (%d, '%s', %d)", j, "JGood", j);
if(SQLITE_OK != sqlite3_exec
(conn, sql, 0, 0, &err_msg))
{
fprintf(stderr, "INSERT ERROR: %s\n", err_msg);
exit(EXIT_FAILURE);
}
}
printf("INSERT all succussfully!\n");
printf("function insert_no_trans() end. \n"
"<---------------------> \n");
return EXIT_SUCCESS;
}
开启事务的测试代码如下:
int insert_with_trans()
{
printf("<---------------------> \n"
"go into function insert_with_trans()\n");
sqlite3_exec(conn, "begin;", 0, 0, 0); //开启事务
int j = 0;
for (j = 0; j < 10000; j++)
{
sprintf(sql, "INSERT INTO [dev] ([id], [name], [age])\
values (%d, '%s', %d)", j, "JGood", j);
if(SQLITE_OK != sqlite3_exec(conn, sql, 0, 0, &err_msg))
{
is_succeed = false; //失败之后把标识设为false
fprintf(stderr, "INSERT ERROR: %s\n", err_msg);
break;
}
}
if(is_succeed)
sqlite3_exec(conn, "commit;", 0, 0, 0); //提交事务
else
{
sqlite3_exec(conn, "rollback;", 0, 0, 0); //回滚事务
exit(EXIT_FAILURE);
}
printf("INSERT all succussfully!\n");
printf("function insert_with_trans() end. \n"
"<---------------------> \n");
return EXIT_SUCCESS;
}
测试结果大跌眼镜,时间测试我用的是linux的time命令,在开启了事务的情况下插入1w条数据的时间仅为0.4s,而在不开启事务的情况下,由于时间太长,没有等其执行完,根据.db文件的大小和已经使用的时间推测,假设单位时间插入同样多条数据,推算出来的时间高达18分钟。这已经不在一个数量级了,google了一下这个问题,看到网上有人对此是这么解释的,如果未启用事务,sqlite会每插入一条数据,就往磁盘上面写一次,在整个执行过程中我也观察到未开启事务时程序执行期间硬盘灯一直是亮的,这也映证了这一点。而在开启事务的情况下,其应该是在对数据全部处理完之后才需要执行一次IO操作,时间自然非常快。
不开启事务时的测试代码如下:
int insert_no_trans()
{
printf("<---------------------> \n"
"go into function insert_no_trans()\n");
int j = 0;
for (j = 0; j < 10000; j++)
{
sprintf(sql, "INSERT INTO [dev] ([id], [name], [age])\
values (%d, '%s', %d)", j, "JGood", j);
if(SQLITE_OK != sqlite3_exec
(conn, sql, 0, 0, &err_msg))
{
fprintf(stderr, "INSERT ERROR: %s\n", err_msg);
exit(EXIT_FAILURE);
}
}
printf("INSERT all succussfully!\n");
printf("function insert_no_trans() end. \n"
"<---------------------> \n");
return EXIT_SUCCESS;
}
开启事务的测试代码如下:
int insert_with_trans()
{
printf("<---------------------> \n"
"go into function insert_with_trans()\n");
sqlite3_exec(conn, "begin;", 0, 0, 0); //开启事务
int j = 0;
for (j = 0; j < 10000; j++)
{
sprintf(sql, "INSERT INTO [dev] ([id], [name], [age])\
values (%d, '%s', %d)", j, "JGood", j);
if(SQLITE_OK != sqlite3_exec(conn, sql, 0, 0, &err_msg))
{
is_succeed = false; //失败之后把标识设为false
fprintf(stderr, "INSERT ERROR: %s\n", err_msg);
break;
}
}
if(is_succeed)
sqlite3_exec(conn, "commit;", 0, 0, 0); //提交事务
else
{
sqlite3_exec(conn, "rollback;", 0, 0, 0); //回滚事务
exit(EXIT_FAILURE);
}
printf("INSERT all succussfully!\n");
printf("function insert_with_trans() end. \n"
"<---------------------> \n");
return EXIT_SUCCESS;
}
测试结果大跌眼镜,时间测试我用的是linux的time命令,在开启了事务的情况下插入1w条数据的时间仅为0.4s,而在不开启事务的情况下,由于时间太长,没有等其执行完,根据.db文件的大小和已经使用的时间推测,假设单位时间插入同样多条数据,推算出来的时间高达18分钟。这已经不在一个数量级了,google了一下这个问题,看到网上有人对此是这么解释的,如果未启用事务,sqlite会每插入一条数据,就往磁盘上面写一次,在整个执行过程中我也观察到未开启事务时程序执行期间硬盘灯一直是亮的,这也映证了这一点。而在开启事务的情况下,其应该是在对数据全部处理完之后才需要执行一次IO操作,时间自然非常快。
相关推荐
yangkang 2020-11-09
lbyd0 2020-11-17
sushuanglei 2020-11-12
85477104 2020-11-17
KANSYOUKYOU 2020-11-16
wushengyong 2020-10-28
lizhengjava 2020-11-13
星月情缘 2020-11-13
huangxiaoyun00 2020-11-13
luyong0 2020-11-08
腾讯soso团队 2020-11-06
Apsaravod 2020-11-05
PeterChangyb 2020-11-05
gaobudong 2020-11-04
wwwjun 2020-11-02
gyunwh 2020-11-02
EchoYY 2020-10-31
dingyahui 2020-10-30