优化案例 | 分区表场景下的SQL优化
来源:互联网 发布:c4d软件安装 编辑:程序博客网 时间:2024/06/05 11:47
导读
有个表做了分区,每天一个分区。
该表上有个查询,经常只查询表中某一天数据,但每次都几乎要扫描整个分区的所有数据,有什么办法进行优化吗?
待优化场景
有一个大表,每天产生的数据量约100万,所以就采用表分区方案,每天一个分区。
下面是该表的DDL:
CREATE TABLE `t1` ( `id` bigint(20) NOT NULL AUTO_INCREMENT, `date` date NOT NULL, `kid` int(11) DEFAULT '0', `uid` int(11) NOT NULL, `iid` int(11) DEFAULT '0', `icnt` int(8) DEFAULT '0', `tst` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP, `countp` smallint(11) DEFAULT '1', `isr` int(2) NOT NULL DEFAULT '0', `clv` int(5) NOT NULL DEFAULT '1', PRIMARY KEY (`id`,`date`), UNIQUE KEY `date` (`date`,`uid`,`iid`), KEY `date_2` (`date`,`kid`)) ENGINE=InnoDB AUTO_INCREMENT=3180686682 DEFAULT CHARSET=utf8mb4/*!50500 PARTITION BY RANGE COLUMNS(`date`)(PARTITION p20161201 VALUES LESS THAN ('2016-12-02') ENGINE = InnoDB, PARTITION p20161202 VALUES LESS THAN ('2016-12-03') ENGINE = InnoDB, PARTITION p20161203 VALUES LESS THAN ('2016-12-04') ENGINE = InnoDB,...
该表上经常发生下面的慢查询:
SELECT ... FROM `t1` WHERE `date` = '2017-04-01' AND `icnt` > 300 AND `id` = '801301';
SQL优化之路
SQL优化思路
想要优化一个SQL,一般来说就是先看执行计划,观察是否尽可能用到索引,同时要关注预计扫描的行数,以及是否产生了临时表(Using temporary) 或者 是否需要进行排序(Using filesort),想办法消除这些情况。
更进一步的优化策略则可能需要调整程序代码逻辑,甚至技术架构或者业务需求,这个动作比较大,一般非核心系统上的核心问题,不会这么大动干戈,绝大多数情况,还是需要靠DBA尽可能发挥聪明才智来解决。
SQL性能瓶颈定位
现在,我们来看下这个SQL的执行计划:
yejr@imysql.com[myDB]> EXPLAIN PARTITIONS SELECT ... FROM `t1` WHERE `date` = '2017-03-02' AND `icnt` > 100 AND `iid` = '502302'\G*************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 partitions: p20161201,p20161202...p20170308,p20170309... type: refpossible_keys: date,date_2 key: date key_len: 3 ref: const rows: 9384602 Extra: Using where
这个执行计划看起来还好,有索引可用,也没临时表,也没filesort。不过,我们也注意到,预计要扫描的行数还是挺多的 rows: 9384602,而且要扫描全部表分区,难怪效率不高,总是SLOW QUERY。
优化思考
我们注意到这个SQL总是要查询某一天的数据,这个表已经做了按天分区,那是不是可以忽略 WHERE 子句中的 时间条件呢?
还有,既然去掉了 date 条件,反观表DDL,剩下的条件貌似就没有合适的索引了吧?
所以,我们尝试新建一个索引:
yejr@imysql.com[myDB]> ALTER TABLE t1 ADD INDEX iid (iid, icnt);
然后,把SQL改造成下面这样,再看下执行计划:
yejr@imysql.com[myDB]> EXPLAIN PARTITIONS SELECT ... FROM `t1` partition(p2017030) WHERE `icnt` > 100 AND `iid` = '502302'\G*************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 partitions: p20170302 type: refpossible_keys: date,date_2,iid key: iid key_len: 10 ref: const rows: 7800 Extra: Using where
这优化效果,杠杠滴。
事实上,如果不强制指定分区的话,也是可以达到优化效果的:
yejr@imysql.com[myDB]> EXPLAIN PARTITIONS SELECT ... FROM `t1` WHERE `date` = '2017-03-02' AND `icnt` > 100 AND `iid` = '502302'\G*************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 partitions: p20170302 type: refpossible_keys: date,date_2,iid key: iid key_len: 10 ref: NULL rows: 7800 Extra: Using where
后记
绝大多数的SQL通过添加索引、适当调整SQL代码(例如调整驱动表顺序)等简单手法来完成。
多说几句,遇到SQL优化性能瓶颈问题想要在技术群里请教时,麻烦先提供几个必要的信息:
表DDL
表常规统计信息,可执行 SHOW TABLE STATUS LIKE 't1' 查看
表索引分布信息,可执行 SHOW INDEX FROM t1 查看
有问题的SQL及相应的执行计划 没有这些信息的话,就别去麻烦别人了吧。
最后安利下,知数堂培训马上推出 SQL开发优化 课程,由业界资深SQL优化专家郑老师授课。
该课程关键字:MySQL、Oracle、SQL调优、EXPLAIN、DBMS_XPLAN、OPTIMIZER TRACE、SQL改写、NESTED LOOP、OUTER JOIN、HASH JOIN、ERD图、HINT、SORT MERGE、Materialized View、ROWNUM。
学完本课程,无论您是DBA工程师、运维工程师,还是开发工程师,抑或系统架构师、技术主管,都将大幅增强您的职场实力,加薪50%轻轻松松。此外,我们也会将优秀的学员直接推向各大一线互联网公司。
有兴趣的同学可以扫码加入知数堂QQ群 579036588 关注课程进展。
不再加原创
喜欢就转发
打赏可勾搭
靠谱好茶&在线培训,都在〖老叶茶馆〗http://yejinrong.com
- 优化案例 | 分区表场景下的SQL优化
- 优化案例 | 分区表场景下的SQL优化
- 一个sql优化的案例
- 分区表的优化策略
- SQL SERVER性能优化--分区表
- 建分区表索引优化SQL
- 【SQL优化】四月份培训的一个sql优化案例1
- 【SQL优化】四月份培训的一个sql优化案例2
- 【SQL优化】四月份培训的一个sql优化案例3
- sql优化-典型案例
- SQL优化案例(1)
- SQL优化案例
- SQL优化案例-1
- SQL优化案例一则
- SQL优化案例1
- SQL优化案例150811
- SQL优化案例150812
- nginx高并发场景下的优化
- GROUP BY另类优化技巧
- 优化案例 | CASE WHEN进行SQL改写优化
- 5. Shell 脚本简明教程
- 好听到耳朵会怀孕的GROUP BY另类优化
- 优化案例 | 分区表场景下的SQL优化
- 优化案例 | 分区表场景下的SQL优化
- 由浅入深理解Paxos(2)
- 由浅入深理解Paxos协议(1)
- 基于MySQL 5.7多源复制及Keepalived搭建三节点高可用架构
- MVCC原理探究及MySQL源码实现分析
- MySQL Cluster 7.5 : 网络时代的灵活性和可靠性
- Table_map_log_event内容详解
- 从MySQL开发规范处看创业
- 一年不见,我回来了