广告
返回顶部
首页 > 资讯 > 数据库 >SQL优化之SQL 进阶技巧(下)
  • 766
分享到

SQL优化之SQL 进阶技巧(下)

SQL优化之SQL进阶技巧(下) 2021-02-19 03:02:06 766人浏览 猪猪侠
摘要

上文( sql优化之SQL 进阶技巧(上) )我们简述了 SQL 的一些进阶技巧,一些朋友觉得不过瘾,我们继续来下篇,再送你 10 个技巧 一、 使用延迟查询优化 limit [offset], [rows] 经常出现类似以下的

SQL优化之SQL 进阶技巧(下)

上文( sql优化之SQL 进阶技巧(上) )我们简述了 SQL 的一些进阶技巧,一些朋友觉得不过瘾,我们继续来下篇,再送你 10 个技巧

一、 使用延迟查询优化 limit [offset], [rows]

经常出现类似以下的 SQL 语句:


SELECT * FROM film LIMIT 100000, 10

offset 特别大!

这是我司出现很多慢 SQL 的主要原因之一,尤其是在跑任务需要分页执行时,经常跑着跑着 offset 就跑到几十万了,导致任务越跑越慢。

LIMIT 能很好地解决分页问题,但如果 offset 过大的话,会造成严重的性能问题,原因主要是因为 Mysql 每次会把一整行都扫描出来,扫描 offset 遍,找到 offset 之后会抛弃 offset 之前的数据,再从 offset 开始读取 10 条数据,显然,这样的读取方式问题。

可以通过延迟查询的方式来优化

假设有以下 SQL,有组合索引(sex, rating)


SELECT  FROM profiles where sex="M" order by rating limit 100000, 10;

则上述写法可以改成如下写法


SELECT  
  FROM profiles 
inner join
(SELECT id fORM FROM profiles where x.sex="M" order by rating limit 100000, 10)
as x using(id);

这里利用了覆盖索引的特性,先从覆盖索引中获取 100010 个 id,再丢充掉前 100000 条 id,保留最后 10 个 id 即可,丢掉 100000 条 id 不是什么大的开销,所以这样可以显著提升性能

二、 利用 LIMIT 1 取得唯一行

数据库引擎只要发现满足条件的一行数据则立即停止扫描,,这种情况适用于只需查找一条满足条件的数据的情况

三、 注意组合索引,要符合最左匹配原则才能生效

假设存在这样顺序的一个联合索引“col_1, col_2, col_3”。这时,指定条件的顺序就很重要。


○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 AND col_3 = 500;
○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 ;
× SELECT * FROM SomeTable WHERE col_2 = 100 AND col_3 = 500 ;

前面两条会命中索引,第三条由于没有先匹配 col_1,导致无法命中索引, 另外如果无法保证查询条件里列的顺序与索引一致,可以考虑将联合索引 拆分为多个索引。

四、使用 LIKE 谓词时,只有前方一致的匹配才能用到索引(最左匹配原则)


× SELECT * FROM SomeTable WHERE col_1 LIKE "%a";
× SELECT * FROM SomeTable WHERE col_1 LIKE "%a%";
○ SELECT * FROM SomeTable WHERE col_1 LIKE "a%";

上例中,只有第三条会命中索引,前面两条进行后方一致或中间一致的匹配无法命中索引

五、 简单字符串表达式

模型字符串可以使用 _ 时, 尽可能避免使用 %, 假设某一列上为 char(5)

不推荐


SELECT 
    first_name, 
    last_name,
    homeroom_nbr
  FROM Students
 WHERE homeroom_nbr LIKE "A-1%";

推荐

SELECT first_name, last_name
homeroom_nbr
  FROM Students
 WHERE homeroom_nbr LIKE "A-1__"; --模式字符串中包含了两个下划线

六、尽量使用自增 id 作为主键

比如现在有一个用户表,有人说身份证是唯一的,也可以用作主键,理论上确实可以,不过用身份证作主键的话,一是占用空间相对于自增主键大了很多,二是很容易引起频繁的页分裂,造成性能问题(什么是页分裂,请参考这篇文章)

主键选择的几个原则:自增,尽量小,不要对主键进行修改

七、如何优化 count(*)

使用以下 sql 会导致慢查询


SELECT COUNT(*) FROM SomeTable
SELECT COUNT(1) FROM SomeTable

原因是会造成全表扫描,有人说 COUNT(*) 不是会利用主键索引去查找吗,怎么还会慢,这就要谈到 mysql 中的聚簇索引和非聚簇索引了,聚簇索引叶子节点上存有主键值+整行数据,非聚簇索叶子节点上则存有辅助索引的列值 + 主键值,如下

SQL 进阶技巧(下)

所以就算对 COUNT(*) 使用主键查找,由于每次取出主键索引的叶子节点时,取的是一整行的数据,效率必然不高,但是非聚簇索引叶子节点只存储了「列值 + 主键值」,这也启发我们可以用非聚簇索引来优化,假设表有一列叫 status, 为其加上索引后,可以用以下语句优化:

SELECT COUNT(status) FROM SomeTable

有人曾经测过(见文末参考链接),假设有 100 万行数据,使用聚簇索引来查找行数的,比使用 COUNT(*) 查找速度快 10 几倍。不过需要注意的是通过这种方式无法计算出  status 值为 null 的那些行

如果主键是连续的,可以利用 MAX(id) 来查找,MAX 也利用到了索引,只需要定位到最大 id 即可,性能极好,如下,秒现结果

SELECT MAX(id) FROM SomeTable

说句题句话,有人说用 MyISAM 引擎调用 COUNT(*) 非常快,那是因为它提前把行数存在磁盘中了,直接拿,当然很快,不过如果有 WHERE 的限制,用 COUNT(*) 还是很慢!

八、避免使用 SELECT * ,尽量利用覆盖索引来优化性能

SELECT * 会提取出一整行的数据,如果查询条件中用的是组合索引进行查找,还会导致回表(先根据组合索引找到叶子节点,再根据叶子节点上的主键回表查询一整行),降低性能,而如果我们所要的数据就在组合索引里,只需读取组合索引列,这样网络带宽将大大减少,假设有组合索引列 (col_1, col_2)

推荐用

SELECT col_1, col_2 
  FROM SomeTable 
 WHERE col_1 = xxx AND col_2 = xxx

不推荐用

SELECT *
  FROM SomeTable 
 WHERE col_1 = xxx AND  col_2 = xxx

九、 如有必要,使用 force index() 强制走某个索引

业务团队曾经出现类似以下的慢 SQL 查询

SELECT *
  FROM  SomeTable
 WHERE `status` = 0
   AND `gmt_create` > 1490025600
   AND `gmt_create` < 1490630400
   AND `id` > 0
   AND `post_id` IN ("67778", "67811", "67833", "67834", "67839", "67852", "67861", "67868", "67870", "67878", "67909", "67948", "67951", "67963", "67977", "67983", "67985", "67991", "68032", "68038")
order by id asc limit 200;

post_id 也加了索引,理论上走 post_id 索引会很快查询出来,但实际通过 EXPLAIN 发现走的却是 id 的索引(这里隐含了一个常见考点,在多个索引的情况下, MySQL 会如何选择索引),而 id > 0 这个查询条件没啥用,直接导致了全表扫描, 所以在有多个索引的情况下一定要慎用,可以使用 force index 来强制走某个索引,以这个例子为例,可以强制走 post_id 索引,效果立杆见影。

这种由于表中有多个索引导致 MySQL 误选索引造成慢查询的情况在业务中也是非常常见,一方面是表索引太多,另一方面也是由于 SQL 语句本身太过复杂导致, 针对本例这种复杂的 SQL 查询,其实用 elasticsearch 搜索引擎来查找更合适,有机会到时出一篇文章说说。

十、 使用 EXPLAIN 来查看 SQL 执行计划

上个点说了,可以使用 EXPLaiN 来分析 SQL 的执行情况,如怎么发现上文中的最左匹配原则不生效呢,执行 「EXPLAIN + SQL 语句」可以发现 key 为 None ,说明确实没有命中索引

SQL 进阶技巧(下)

我司在提供 SQL 查询的同时,也贴心地加了一个 EXPLAIN 功能及 sql 的优化建议,建议各大公司效仿 ^_^,如图示

SQL 进阶技巧(下)

十一、 批量插入,速度更快

当需要插入数据时,批量插入比逐条插入性能更高

推荐用

-- 批量插入
INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, "a"),(2,3,"b");

不推荐用

INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, "a");
INSERT INTO TABLE (id, user_id, title) VALUES (2,3,"b");

批量插入 SQL 执行效率高的主要原因是合并后日志量 MySQL 的 binlog 和 innodb 的事务让日志减少了,降低日志刷盘的数据量和频率,从而提高了效率

十二、 慢日志 SQL 定位

前面我们多次说了 SQL 的慢查询,那么该怎么定位这些慢查询 SQL 呢,主要用到了以下几个参数

SQL 进阶技巧(下)

这几个参数一定要配好,再根据每条慢查询对症下药,像我司每天都会把这些慢查询提取出来通过邮件给形式发送给各个业务团队,以帮忙定位解决

总结

业务生产中可能还有很多 CASE 导致了慢查询,其实细细品一下,都会发现这些都和 MySQL 索引的底层数据 B+ 树 有莫大的关系,强烈建议大家看一下我的另一篇介绍 B+ 树的文章,好评如潮!相信大家看了之后,以上出现的问题会有一个更深层次的理解,掌握底层,以不变应万变!

相关文章

SQL优化之SQL 进阶技巧(上)

SQL优化之SELECT COUNT(*)

您可能感兴趣的文档:

--结束END--

本文标题: SQL优化之SQL 进阶技巧(下)

本文链接: https://www.lsjlt.com/news/6281.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • SQL优化之SQL 进阶技巧(下)
    上文( SQL优化之SQL 进阶技巧(上) )我们简述了 SQL 的一些进阶技巧,一些朋友觉得不过瘾,我们继续来下篇,再送你 10 个技巧 一、 使用延迟查询优化 limit [offset], [rows] 经常出现类似以下的...
    99+
    2021-02-19
    SQL优化之SQL 进阶技巧(下)
  • SQL优化之SQL 进阶技巧(上)
    由于工作需要,最近做了很多 BI 取数的工作,需要用到一些比较高级的 SQL 技巧,总结了一下工作中用到的一些比较骚的进阶技巧,特此记录一下,以方便自己查阅,主要目录如下: SQL 的书写规范 SQL 的一些进阶使用技...
    99+
    2021-03-23
    SQL优化之SQL 进阶技巧(上)
  • SQL Server高级进阶之索引优化
    1.1、查找缺失索引 SELECT A.USER_SEEKS 查找次数,A.USER_SCANS 扫描次数, ROUND(A.AVG_TOTAL_USER_COST,2) 减少的用户查询的平均成本,A.AVG_USER_...
    99+
    2016-07-26
    SQL Server高级进阶之索引优化
  • SQL语句优化技巧
    1、应尽量避免在 where 子句中使用!=或<>操作符,否则将引擎放弃使用索引而进行全表扫描。2、对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 orde...
    99+
    2022-10-18
    优化 sql 语句优化
  • 【MySQL进阶教程】SQL优化
    前言 本文为 【MySQL进阶教程】SQL优化 相关知识,下边将对主键优化,order by优化,group by优化,limit优化,count优化,update优化等进行详尽介绍~ &...
    99+
    2023-09-21
    mysql sql 数据库
  • SQL Server高级进阶之索引优化查询
    1.1、查找缺失索引 SELECT A.USER_SEEKS 查找次数,A.USER_SCANS 扫描次数, ROUND(A.AVG_TOTAL_USER_COST,2) 减少的用户查询的平均成本,A.AVG_USER_...
    99+
    2014-08-11
    SQL Server高级进阶之索引优化查询
  • SQL优化技巧有哪些
    这篇文章主要讲解了“SQL优化技巧有哪些”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“SQL优化技巧有哪些”吧!一、索引优化索引的数据结构是 B+Tree,...
    99+
    2022-10-19
    sql
  • MySQL优化SQL语句的技巧
    在面对不够优化、或者性能极差的SQL语句时,我们通常的想法是将重构这个SQL语句,让其查询的结果集和原来保持一样,并且希望SQL性能得以提升。而在重构SQL时,一般都有一定方法技巧可供参考,本文将介绍如何通过这些技巧...
    99+
    2022-05-24
    MySQL 优化 mysql sql语句 mysql 优化sql语句
  • SQL优化技巧有哪些呢
    这期内容当中小编将会给大家带来有关SQL优化技巧有哪些呢,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。 数据库SQL优化大总结之 百万级数据库...
    99+
    2022-10-18
    sql
  • SQL十个优化技巧是什么
    本篇内容主要讲解“SQL十个优化技巧是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“SQL十个优化技巧是什么”吧!  一、避免进行null判断。应尽量避免在...
    99+
    2022-10-19
    sql
  • SQL性能优化技巧有哪些
    这篇文章给大家分享的是有关SQL性能优化技巧有哪些的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。1.查询的模糊匹配尽量避免在一个复杂查询里面使用 LIKE '%parm1...
    99+
    2022-10-19
    sql
  • 优化SQL语句的技巧分享
    这篇文章给大家介绍优化SQL语句的技巧分享,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。建立索引不是建的越多越好,原则是:第一:一个表的索引不是越多越好,也没有一个具体的数字,根据以往...
    99+
    2022-10-18
    sql
  • (6)MySQL进阶篇SQL优化(MyISAM表锁)
    1.MySQL锁概述 锁是计算机协调多个进程或线程并发访问某一资源的机制。在数据库中,除传统的计算资源 (如 CPU、RAM、I/O 等)的抢占以外,数据也是一种供许多用户共享的资源。如何保证数 据并发访问的一致性、有效性是所有数据库必须...
    99+
    2017-01-17
    (6)MySQL进阶篇SQL优化(MyISAM表锁)
  • (5)MySQL进阶篇SQL优化(优化数据库对象)
    1.概述 在数据库设计过程中,用户可能会经常遇到这种问题:是否应该把所有表都按照第三范式来设计?表里面的字段到底改设置为多大长度合适?这些问题虽然很小,但是如果设计不当则可能会给将来的应用带来很多的性能问题。本章中将介绍MySQL中一些数...
    99+
    2014-06-29
    (5)MySQL进阶篇SQL优化(优化数据库对象)
  • 常用SQL语句优化技巧有哪些
    这篇文章将为大家详细讲解有关常用SQL语句优化技巧有哪些,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。具体如下:除了建立索引之外,保持良好的SQL语句编写习惯将会降低SQ...
    99+
    2022-10-18
    sql
  • (9)MySQL进阶篇SQL优化(InnoDB锁-记录锁)
    1.概述 InnoDB行锁是通过给索引上的索引项加锁来实现的,这一点MySQL与Oracle不同,后者是通过在数据块中对相应数据行加锁来实现的。InnoDB这种行锁实现特点意味着:只有通过索引条件检索数据,InnoDB才使用行级锁,否则I...
    99+
    2019-08-22
    (9)MySQL进阶篇SQL优化(InnoDB锁-记录锁)
  • (10)MySQL进阶篇SQL优化(InnoDB锁-间隙锁)
    1.概述 当我们用范围条件而不是相等条件检索数据,并请求共享或排他锁时,InnoDB会给符合条件的已有数据记录的索引项加锁;对于键值在条件范围内但并不存在的记录,叫做“间隙(GAP)”,InnoDB也会对这个“间隙”加锁,这种锁机制就是所...
    99+
    2020-04-15
    (10)MySQL进阶篇SQL优化(InnoDB锁-间隙锁)
  • 数据库技能实战进阶之常用结构化sql语句(中)
       在上篇文章中我们介绍到查询里面关于order by对查询结果的排序处理,接下来我们将介绍其他的一部分操作。10、limit 限制查询结果条数   在mysql数...
    99+
    2022-10-18
    mysql sql limit
  • 数据库技能实战进阶之常用结构化sql语句(上)
          常用的结构化查询语言主要分为数据定义语言(DDL)、数据操作语言(DML)、数据控制语言(DCL)和数据查询语言(DQL)。特别在关系型的数据库...
    99+
    2022-10-18
    table truncate distinct
  • 优化SQL Server 索引的小技巧有哪些
    优化SQL Server 索引的小技巧有哪些,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。在本文中,我将说明如何用SQL Se...
    99+
    2022-10-19
    sql server
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作