广告

扫码关注官方微信

扫码下载APP
返回顶部
首页 > 资讯 > 数据库 >SQL优化之SQL 进阶技巧（上）
  • 478

0
分享到

SQL优化之SQL 进阶技巧（上）

SQL优化之SQL进阶技巧（上） 2021-03-23 06:03:40 478人浏览 才女
摘要

由于工作需要，最近做了很多 BI 取数的工作，需要用到一些比较高级的 sql 技巧，总结了一下工作中用到的一些比较骚的进阶技巧，特此记录一下，以方便自己查阅，主要目录如下： SQL 的书写规范 SQL 的一些进阶使用技

SQL优化之SQL 进阶技巧（上）

由于工作需要，最近做了很多 BI 取数的工作，需要用到一些比较高级的 sql 技巧，总结了一下工作中用到的一些比较骚的进阶技巧，特此记录一下，以方便自己查阅，主要目录如下：

  • SQL 的书写规范
  • SQL 的一些进阶使用技巧
  • SQL 的优化方法

SQL 的书写规范

在介绍一些技巧之前，有必要强调一下规范，这一点我发现工作中经常被人忽略，其实遵循好的规范可读性会好很多，应该遵循哪些规范呢

1、 表名要有意义，且标准 SQL 中规定表名的第一个字符应该是字母。

2、注释，有单行注释和多行注释，如下

-- 单行注释
-- 从SomeTable中查询col_1 
SELECT col_1
  FROM SomeTable;

SELECT col_1
  FROM SomeTable;

多行注释很多人不知道，这种写法不仅可以用来添加真正的注释，也可以用来注释代码，非常方便

3、缩进

就像写 Java，python 等编程语言一样 ，SQL 也应该有缩进，良好的缩进对提升代码的可读性帮助很大，以下分别是好的缩进与坏的缩进示例

-- 好的缩进
SELECT col_1, 
    col_2, 
    col_3,
COUNT(*) 
FROM tbl_A
WHERE col_1 = "a"
AND col_2 = ( SELECT MAX(col_2)
FROM tbl_B
WHERE col_3 = 100 )
GROUP BY col_1,
          col_2,
          col_3

-- 坏的示例

SELECT col1_1, col_2, col_3, COUNT(*)

FROM   tbl_A

WHERE  col1_1 = "a"

AND    col1_2 = (

SELECT MAX(col_2)

FROM   tbl_B

WHERE  col_3 = 100

) GROUP BY col_1, col_2, col_3

4、空格

代码中应该适当留有一些空格，如果一点不留，代码都凑到一起， 逻辑单元不明确，阅读的人也会产生额外的压力，以下分别是是好的与坏的示例


-- 好的示例
SELECT col_1
FROM tbl_A A, tbl_B B
WHERE ( A.col_1 >= 100 OR A.col_2 IN ( "a", "b" ) )
AND A.col_3 = B.col_3;

-- 坏的示例

SELECT col_1

  FROM tbl_A A,tbl_B B

 WHERE (A.col_1>=100 OR A.col_2 IN ("a","b"))

   AND A.col_3=B.col_3;

4、大小写

关键字使用大小写，表名列名使用小写，如下

SELECT col_1, col_2, col_3,
COUNT(*)
FROM tbl_A
WHERE col_1 = "a"
AND col_2 = ( SELECT MAX(col_2)
FROM tbl_B
WHERE col_3 = 100 )
GROUP BY col_1, col_2, col_3

花了这么多时间强调规范，有必要吗，有！好的规范让代码的可读性更好，更有利于团队合作，之后的 SQL 示例都会遵循这些规范。

SQL 的一些进阶使用技巧

一、巧用 CASE WHEN 进行统计

来看看如何巧用 CASE WHEN 进行定制化统计,假设我们有如下的需求，希望根据左边各个市的人口统计每个省的人口

SQL 进阶技巧（上）

使用 CASE WHEN 如下

SELECT CASE pref_name
WHEN "长沙" THEN "湖南"
WHEN "衡阳" THEN "湖南"
WHEN "海口" THEN "海南"
WHEN "三亚" THEN "海南"
ELSE "其他" END AS district,
SUM(population) 
FROM PopTbl
GROUP BY district;

二、巧用 CASE WHEN 进行更新

现在某公司员人工资信息表如下:

SQL 进阶技巧（上）

现在公司出台了一个奇葩的规定

  1. 对当前工资为 1 万以上的员工，降薪 10%。
  2. 对当前工资低于 1 万的员工，加薪 20%。

一些人不假思索可能写出了以下的 SQL:

--条件1
UPDATE Salaries
SET salary = salary * 0.9 WHERE salary >= 10000;
--条件2
UPDATE Salaries
SET salary = salary * 1.2
WHERE salary < 10000;

这么做其实是有问题的， 什么问题，对小明来说，他的工资是 10500，执行第一个 SQL 后，工资变为 10500 * 0.9 = 9450, 紧接着又执行条件 2， 工资变为了 9450 * 1.2 = 11340，反而涨薪了！

如果用 CASE WHEN 可以解决此类问题，如下：

UPDATE Salaries
SET salary = CASE WHEN salary >= 10000 THEN salary * 0.9
WHEN salary < 10000 THEN salary * 1.2
ELSE salary END;

三、巧用 HAVING 子句

一般 HAVING 是与 GROUP BY 结合使用的，但其实它是可以独立使用的， 假设有如下表，第一列 seq 叫连续编号，但其实有些编号是缺失的，怎么知道编号是否缺失呢，

SQL 进阶技巧（上）

用 HAVING 表示如下:

SELECT "存在缺失的编号" AS gap
FROM SeQtbl
HAVING COUNT(*) <> MAX(seq);

四、自连接

针对相同的表进行的连接被称为“自连接”(self join)，这个技巧常常被人们忽视，其实是有挺多妙用的

1、删除重复行

SQL 进阶技巧（上）

上图中有三个橘子，需要把这些重复的行给删掉，用如下自连接可以解决：

DELETE FROM Products P1
WHERE id < ( SELECT MAX(P2.id) 
FROM Products P2 
WHERE P1.name = P2.name 
AND P1.price = P2.price ); 

2、排序

在 db 中，我们经常需要按分数，人数，销售额等进行排名，有 oracle, DB2 中可以使用 RANK 函数进行排名，不过在 Mysql 中 RANK 函数未实现，这种情况我们可以使用自连接来实现,如对以下 Products 表按价格高低进行排名

SQL 进阶技巧（上）

使用自连接可以这么写:

-- 排序从 1 开始。如果已出现相同位次，则跳过之后的位次 
SELECT P1.name,
       P1.price,
       (SELECT COUNT(P2.price)
FROM Products P2
WHERE P2.price > P1.price) + 1 AS rank_1
FROM Products P1 
ORDER BY rank_1;

结果如下:

name       price      rank 
-----      ------     ------ 
橘子     100     1 
西瓜     80     2 
苹果     50     3 
葡萄     50     3 
香蕉     50     3 
柠檬     30     6

五、巧用 COALESCE 函数

此函数作用返回参数中的第一个非空表达式，假设有如下商品，我们重新格式化一样，如果 city 为 null，代表商品不在此城市发行，但我们在展示结果的时候不想展示 null，而想展示 "N/A", 可以这么做:

SELECT
COALESCE(city, "N/A")
FROM
    customers;
SQL 进阶技巧（上）

SQL 性能优化技巧

一、参数是子查询时，使用 EXISTS 代替 IN

如果 IN 的参数是（1，2，3）这样的值列表时，没啥问题，但如果参数是子查询时，就需要注意了。比如，现在有如下两个表：

SQL 进阶技巧（上）

现在我们要查出同时存在于两个表的员工，即田中和铃木，则以下用 IN 和 EXISTS 返回的结果是一样，但是用 EXISTS 的 SQL 会更快:


-- 慢
SELECT * 
FROM Class_A
WHERE id IN (SELECT id
FROM  CLASS_B);

-- 快
SELECT *
  FROM Class_A A 
 WHERE EXISTS
(SELECT * 
   FROM Class_B  B
  WHERE A.id = B.id);

 

为啥使用 EXISTS 的 SQL 运行更快呢，有两个原因

  1. 可以`用到索引，如果连接列 (id) 上建立了索引，那么查询 Class_B 时不用查实际的表，只需查索引就可以了。
  2. 如果使用 EXISTS，那么只要查到一行数据满足条件就会终止查询， 不用像使用 IN 时一样扫描全表。在这一点上 NOT EXISTS 也一样

另外如果 IN 后面如果跟着的是子查询，由于 SQL 会先执行 IN 后面的子查询，会将子查询的结果保存在一张临时的工作表里（内联视图），然后扫描整个视图，显然扫描整个视图这个工作很多时候是非常耗时的，而用 EXISTS 不会生成临时表。

当然了，如果 IN 的参数是子查询时，也可以用连接来代替，如下：

-- 使用连接代替 IN SELECT A.id, A.name
FROM Class_A A INNER JOIN Class_B B ON A.id = B.id;

用到了 「id」列上的索引，而且由于没有子查询，也不会生成临时表

二、避免排序

SQL 是声明式语言，即对用户来说，只关心它能做什么，不用关心它怎么做。这样可能会产生潜在的性能问题：排序，会产生排序的代表性运算有下面这些

  • GROUP BY 子句
  • ORDER BY 子句
  • 聚合函数(SUM、COUNT、AVG、MAX、MIN)
  • DISTINCT
  • 集合运算符(UNION、INTERSECT、EXCEPT)
  • 窗口函数(RANK、ROW_NUMBER 等)

如果在内存中排序还好，但如果内存不够导致需要在硬盘上排序上的话，性能就会急剧下降，所以我们需要减少不必要的排序。怎样做可以减少排序呢。

1、 使用集合运算符的 ALL 可选项

SQL 中有 UNION，INTERSECT，EXCEPT 三个集合运算符，默认情况下，这些运算符会为了避免重复数据而进行排序，对比一下使用 UNION 运算符加和不加 ALL 的情况:

SQL 进阶技巧（上）

注意：加 ALL 是优化性能非常有效的手段，不过前提是不在乎结果是否有重复数据。

2、使用 EXISTS 代表 DISTINCT

为了排除重复数据， DISTINCT 也会对结果进行排序，如果需要对两张表的连接结果进行去重，可以考虑用 EXISTS 代替 DISTINCT，这样可以避免排序。

SQL 进阶技巧（上）

如何找出有销售记录的商品，使用如下 DISTINCT 可以：

SELECT DISTINCT I.item_no
FROM Items I INNER JOIN SalesHistory SH
ON I. item_no = SH. item_no;

不过更好的方式是使用 EXISTS:

SELECT item_no FROM Items I
WHERE EXISTS
        (SELECT *
FROM SalesHistory SH
WHERE I.item_no = SH.item_no);

既用到了索引，又避免了排序对性能的损耗。

三、在极值函数中使用索引（MAX/MIN）

使用 MAX/ MIN 都会对进行排序，如果参数字段上没加索引会导致全表扫描，如果建有索引，则只需要扫描索引即可，对比如下

-- 这样写需要扫描全表 
SELECT MAX(item)
FROM Items;

-- 这样写能用到索引 
SELECT MAX(item_no)
  FROM Items;

注意：极值函数参数推荐为索引列中并不是不需要排序，而是优化了排序前的查找速度（毕竟索引本身就是有序排列的）。

四、能写在 WHERE 子句里的条件不要写在 HAVING 子句里

下列 SQL 语句返回的结果是一样的:

-- 聚合后使用 HAVING 子句过滤
SELECT sale_date, SUM(quantity)
FROM SalesHistory GROUP BY sale_date
HAVING sale_date = "2007-10-01";

-- 聚合前使用 WHERE 子句过滤
SELECT sale_date, SUM(quantity)
  FROM SalesHistory
 WHERE sale_date = "2007-10-01" 
 GROUP BY sale_date;

使用第二条语句效率更高，原因主要有两点

  1. 使用 GROUP BY 子句进行聚合时会进行排序，如果事先通过 WHERE 子句能筛选出一部分行，能减轻排序的负担
  2. 在 WHERE 子句中可以使用索引，而 HAVING 子句是针对聚合后生成的视频进行筛选的，但很多时候聚合后生成的视图并没有保留原表的索引结构

五、在 GROUP BY 子句和 ORDER BY 子句中使用索引

GROUP BY 子句和 ORDER BY 子句一般都会进行排序，以对行进行排列和替换，不过如果指定带有索引的列作为这两者的参数列，由于用到了索引，可以实现高速查询，由于索引是有序的，排序本身都会被省略掉

六、使用索引时，条件表达式的左侧应该是原始字段

假设我们在 col 列上建立了索引，则下面这些 SQL 语句无法用到索引

SELECT *
FROM SomeTable
WHERE col * 1.1 > 100;

SELECT *
  FROM SomeTable
 WHERE SUBSTR(col, 1, 1) = "a";

 

以上第一个 SQL 在索引列上进行了运算, 第二个 SQL 对索引列使用了函数，均无法用到索引，正确方式是把列单独放在左侧,如下:

SELECT *
FROM SomeTable
WHERE col_1 > 100 / 1.1;

当然如果需要对此列使用函数，则无法避免在左侧运算，可以考虑使用函数索引，不过一般不推荐随意这么做。

七、尽量避免使用否定形式

如下的几种否定形式不能用到索引：

  • <>
  • !=
  • NOT IN

所以以下 了SQL 语句会导致全表扫描

SELECT *
FROM SomeTable
WHERE col_1 <> 100;

可以改成以下形式

SELECT *
FROM SomeTable
WHERE col_1 > 100 or col_1 < 100;

八、进行默认的类型转换

假设 col 是 char 类型，则推荐使用以下第二，三条 SQL 的写法，不推荐第一条 SQL 的写法

× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = "10";
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));

虽然第一条 SQL 会默认把 10 转成 "10"，但这种默认类型转换不仅会增加额外的性能开销，还会导致索引不可用，所以建议使用的时候进行类型转换。

九、减少中间表

在 SQL 中，子查询的结果会产生一张新表，不过如果不加限制大量使用中间表的话，会带来两个问题，一是展示数据需要消耗内存资源，二是原始表中的索引不容易用到，所以尽量减少中间表也可以提升性能。

十、灵活使用 HAVING 子句

这一点与上面第八条相呼应，对聚合结果指定筛选条件时，使用 HAVING 是基本的原则，可能一些工程师会倾向于使用下面这样的写法:

SELECT *
FROM (SELECT sale_date, MAX(quantity) AS max_qty
FROM SalesHistory 
GROUP BY sale_date) TMP
WHERE max_qty >= 10;

虽然上面这样的写法能达到目的，但会生成 TMP 这张临时表，所以应该使用下面这样的写法:

SELECT sale_date, MAX(quantity) 
FROM SalesHistory
GROUP BY sale_date
HAVING MAX(quantity) >= 10;

HAVING 子句和聚合操作是同时执行的，所以比起生成中间表后再执行 HAVING 子句，效率会更高，代码也更简洁

10、需要对多个字段使用 IN 谓词时，将它们汇总到一处

一个表的多个字段可能都使用了 IN 谓词，如下:

SELECT id, state, city 
FROM Addresses1 A1
WHERE state IN (SELECT state
FROM Addresses2 A2
WHERE A1.id = A2.id) 
AND city IN (SELECT city
FROM Addresses2 A2 
WHERE A1.id = A2.id);

这段代码用到了两个子查询，也就产生了两个中间表，可以像下面这样写

SELECT *
FROM Addresses1 A1
WHERE id || state || city
IN (SELECT id || state|| city
FROM Addresses2 A2);

这样子查询不用考虑关联性，没有中间表产生，而且只执行一次即可。

总结

本文一开始花了挺大的篇幅来讲解 SQL 的规范，请大家务必重视这部分内部，良好的规范有利于团队协作，对于代码的阅读也比较友好。

之后介绍了一些 SQL 的比较高级的用法，巧用这些技巧确实能达到事半功倍的效果，由于本文篇幅有限只是介绍了一部分，下篇我们会再介绍一些其他的技巧，敬请期待哦

相关文章

SQL优化之SQL 进阶技巧（下）

SQL优化之SELECT COUNT(*)


 

 
您可能感兴趣的文档:
点击免费下载>>软考高级考试备考技巧/历年真题/备考精华资料

--结束END--

本文标题: SQL优化之SQL 进阶技巧（上）

本文链接: https://www.lsjlt.com/news/6280.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑，方便收藏和打印～

下载Word文档
去做题
猜你喜欢
  • SQL优化之SQL 进阶技巧（上）
    由于工作需要，最近做了很多 BI 取数的工作，需要用到一些比较高级的 SQL 技巧，总结了一下工作中用到的一些比较骚的进阶技巧，特此记录一下，以方便自己查阅，主要目录如下： SQL 的书写规范 SQL 的一些进阶使用技...
    99+
    2021-03-23
    SQL优化之SQL 进阶技巧（上）
  • SQL优化之SQL 进阶技巧（下）
    上文( SQL优化之SQL 进阶技巧（上） )我们简述了 SQL 的一些进阶技巧，一些朋友觉得不过瘾，我们继续来下篇，再送你 10 个技巧 一、 使用延迟查询优化 limit [offset], [rows] 经常出现类似以下的...
    99+
    2021-02-19
    SQL优化之SQL 进阶技巧（下）
  • SQL Server高级进阶之索引优化
    1.1、查找缺失索引 SELECT A.USER_SEEKS 查找次数,A.USER_SCANS 扫描次数, ROUND(A.AVG_TOTAL_USER_COST,2) 减少的用户查询的平均成本,A.AVG_USER_...
    99+
    2016-07-26
    SQL Server高级进阶之索引优化
  • SQL语句优化技巧
    1、应尽量避免在 where 子句中使用!=或<>操作符，否则将引擎放弃使用索引而进行全表扫描。2、对查询进行优化，应尽量避免全表扫描，首先应考虑在 where 及 orde...
    99+
    2022-10-18
  • 【MySQL进阶教程】SQL优化
    前言 本文为 【MySQL进阶教程】SQL优化 相关知识，下边将对主键优化，order by优化，group by优化，limit优化，count优化，update优化等进行详尽介绍~ &...
    99+
    2023-09-21
    mysql sql 数据库
  • SQL Server高级进阶之索引优化查询
    1.1、查找缺失索引 SELECT A.USER_SEEKS 查找次数,A.USER_SCANS 扫描次数, ROUND(A.AVG_TOTAL_USER_COST,2) 减少的用户查询的平均成本,A.AVG_USER_...
    99+
    2014-08-11
    SQL Server高级进阶之索引优化查询
  • SQL优化技巧有哪些
    这篇文章主要讲解了“SQL优化技巧有哪些”，文中的讲解内容简单清晰，易于学习与理解，下面请大家跟着小编的思路慢慢深入，一起来研究和学习“SQL优化技巧有哪些”吧！一、索引优化索引的数据结构是 B+Tree，...
    99+
    2022-10-19
  • 数据库技能实战进阶之常用结构化sql语句（上）
          常用的结构化查询语言主要分为数据定义语言（DDL）、数据操作语言（DML）、数据控制语言（DCL）和数据查询语言（DQL）。特别在关系型的数据库...
    99+
    2022-10-18
  • MySQL优化SQL语句的技巧
    在面对不够优化、或者性能极差的SQL语句时，我们通常的想法是将重构这个SQL语句，让其查询的结果集和原来保持一样，并且希望SQL性能得以提升。而在重构SQL时，一般都有一定方法技巧可供参考，本文将介绍如何通过这些技巧...
    99+
    2022-05-24
    MySQL 优化 mysql sql语句 mysql 优化sql语句
  • SQL优化技巧有哪些呢
    这期内容当中小编将会给大家带来有关SQL优化技巧有哪些呢，文章内容丰富且以专业的角度为大家分析和叙述，阅读完这篇文章希望大家可以有所收获。 数据库SQL优化大总结之 百万级数据库...
    99+
    2022-10-18
  • SQL十个优化技巧是什么
    本篇内容主要讲解“SQL十个优化技巧是什么”，感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷，实用性强。下面就让小编来带大家学习“SQL十个优化技巧是什么”吧!　　一、避免进行null判断。应尽量避免在...
    99+
    2022-10-19
  • SQL性能优化技巧有哪些
    这篇文章给大家分享的是有关SQL性能优化技巧有哪些的内容。小编觉得挺实用的，因此分享给大家做个参考，一起跟随小编过来看看吧。1.查询的模糊匹配尽量避免在一个复杂查询里面使用 LIKE '%parm1...
    99+
    2022-10-19
  • 优化SQL语句的技巧分享
    这篇文章给大家介绍优化SQL语句的技巧分享，内容非常详细，感兴趣的小伙伴们可以参考借鉴，希望对大家能有所帮助。建立索引不是建的越多越好，原则是：第一：一个表的索引不是越多越好，也没有一个具体的数字，根据以往...
    99+
    2022-10-18
  • （6）MySQL进阶篇SQL优化（MyISAM表锁）
    1.MySQL锁概述 锁是计算机协调多个进程或线程并发访问某一资源的机制。在数据库中，除传统的计算资源 （如 CPU、RAM、I/O 等）的抢占以外，数据也是一种供许多用户共享的资源。如何保证数 据并发访问的一致性、有效性是所有数据库必须...
    99+
    2017-01-17
    （6）MySQL进阶篇SQL优化（MyISAM表锁）
  • （5）MySQL进阶篇SQL优化（优化数据库对象）
    1.概述 在数据库设计过程中，用户可能会经常遇到这种问题：是否应该把所有表都按照第三范式来设计？表里面的字段到底改设置为多大长度合适？这些问题虽然很小，但是如果设计不当则可能会给将来的应用带来很多的性能问题。本章中将介绍MySQL中一些数...
    99+
    2014-06-29
    （5）MySQL进阶篇SQL优化（优化数据库对象）
  • 常用SQL语句优化技巧有哪些
    这篇文章将为大家详细讲解有关常用SQL语句优化技巧有哪些，小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。具体如下：除了建立索引之外，保持良好的SQL语句编写习惯将会降低SQ...
    99+
    2022-10-18
  • （9）MySQL进阶篇SQL优化（InnoDB锁-记录锁）
    1.概述 InnoDB行锁是通过给索引上的索引项加锁来实现的，这一点MySQL与Oracle不同，后者是通过在数据块中对相应数据行加锁来实现的。InnoDB这种行锁实现特点意味着：只有通过索引条件检索数据，InnoDB才使用行级锁，否则I...
    99+
    2019-08-22
    （9）MySQL进阶篇SQL优化（InnoDB锁-记录锁）
  • （10）MySQL进阶篇SQL优化（InnoDB锁-间隙锁）
    1.概述 当我们用范围条件而不是相等条件检索数据，并请求共享或排他锁时，InnoDB会给符合条件的已有数据记录的索引项加锁；对于键值在条件范围内但并不存在的记录，叫做“间隙（GAP）”，InnoDB也会对这个“间隙”加锁，这种锁机制就是所...
    99+
    2020-04-15
    （10）MySQL进阶篇SQL优化（InnoDB锁-间隙锁）
  • 数据库技能实战进阶之常用结构化sql语句（中）
       在上篇文章中我们介绍到查询里面关于order by对查询结果的排序处理，接下来我们将介绍其他的一部分操作。10、limit 限制查询结果条数   在mysql数...
    99+
    2022-10-18
  • 优化SQL Server 索引的小技巧有哪些
    优化SQL Server 索引的小技巧有哪些，很多新手对此不是很清楚，为了帮助大家解决这个难题，下面小编将为大家详细讲解，有这方面需求的人可以来学习下，希望你能有所收获。在本文中，我将说明如何用SQL Se...
    99+
    2022-10-19
软考高级职称资格查询
软考职称历年真题下载
软考职称资料下载
热门wiki
近期文章
推荐阅读
热门问答
热门标签
编程网，编程工程师的家园，是目前国内优秀的开源技术社区之一，形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容，为IT开发者提供了一个发现、使用、并交流开源技术的平台。

  • 官方手机版

  • 微信公众号

  • 商务合作