MySQL单表百万数据记录分页性能优化

来源：互联网发布：php怎么写爬虫编辑：程序博客网时间：2024/05/17 08:27

数据表的准备：

创建student数据表：

CREATE TABLE `student` (`id`  int(11) NOT NULL AUTO_INCREMENT ,`name`  varchar(30),`password`  varchar(30),PRIMARY KEY (`id`))

创建一个存储过程，这个存储过程给student表插入4000000条数据。

CREATE PROCEDURE `insert_student`(IN `max_num` integer)BEGINdeclare i int default 0;   set autocommit = 0;   repeat set i = i + 1; insert into student(name,password) values ('zhangsan','123456');  until i = max_num end repeat;   commit;END;

运行这个存储过程后，查询student表的总的数据量：

测试环境：

先让我们熟悉下基本的sql语句，来查看下我们将要测试表的基本信息。

use information_schema;SELECT * FROM TABLES where TABLE_SCHEMA = 'mybatisdb' and TABLE_NAME = 'student';

从上图中我们可以看到表的基本信息：

表行数：4000000
平均每行的数据长度：28字节
单表大小：112000020字节

测试实验

1. 直接用limit start, count分页语句，也是我程序中用的方法：

select * from product limit start, count
当起始页较小时，查询没有性能问题，我们分别看下从10， 100， 1000， 10000开始分页的执行时间（每页取20条），如下：

select * from student limit 10, 20

select * from student limit 100, 20

select * from student limit 1000, 20

select * from student limit 10000, 20

我们已经看出随着起始记录的增加，时间也随着增大，这说明分页语句limit跟起始页码是有很大关系的，那么我们把起始记录改为200w看下（也就是记录的一般左右）

select * from product limit 2000000, 20

再看我们取最后一页记录的时间

select * from student limit 3999980, 20

从中我们也能总结出两件事情：
1）limit语句的查询时间与起始记录的位置成正比
2）mysql的limit语句是很方便，但是对记录很多的表并不适合直接使用。

2. 对limit分页问题的性能优化方法

利用表的覆盖索引来加速分页查询
我们都知道，利用了索引查询的语句中如果只包含了那个索引列（覆盖索引），那么这种情况会查询很快。

因为利用索引查找有优化算法，且数据就在查询索引上面，不用再去找相关的数据地址了，这样节省了很多时间。另外Mysql中也有相关的索引缓存，在并发高的时候利用缓存就效果更好了。

在我们的例子中，我们知道id字段是主键，自然就包含了默认的主键索引。现在让我们看看利用覆盖索引的查询效果如何：

这次我们之间查询最后一页的数据（利用覆盖索引，只包含id列），如下：

select id from student limit 3999980, 20

那么如果我们也要查询所有列，有两种方法，一种是id>=的形式，另一种就是利用join，看下实际情况：

SELECT * FROM student a JOIN (select id from student limit 3999980, 20) b ON a.ID = b.id

本文参考：MySQL单表百万数据记录分页性能优化

0 0