iis服务器助手广告广告
返回顶部
首页 > 资讯 > 数据库 >MySQL大数据查询性能优化的示例
  • 311
分享到

MySQL大数据查询性能优化的示例

2024-04-02 19:04:59 311人浏览 安东尼
摘要

这篇文章将为大家详细讲解有关Mysql大数据查询性能优化的示例,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。mysql性能优化包括表的优化与列类型选择,表的优化可以细分为

这篇文章将为大家详细讲解有关Mysql大数据查询性能优化的示例,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

mysql性能优化包括表的优化与列类型选择,表的优化可以细分为什么?  1、定长与变长分离;2、常用字段与不常用字段要分离;  3、在1对多,需要关联统计的字段上添加冗余字段。

一、表的优化与列类型选择

表的优化:

1、定长与变长分离

如 id int,占4个字节,char(4)占4个字符长度,也是定长,time即每一单元值占的字节是固定的。

核心且常用字段,宜建成定长,放在一张表。

而varchar,text,blob这种变长字段,适合单放一张表,用主键与核心表关联起来。

2、常用字段与不常用字段要分离

需要结合网站具体的业务来分析,分析字段的查询场景,查询频率低的字段,单拆出来。

3、在1对多,需要关联统计的字段上添加冗余字段。

看如下的效果:

MySQL大数据查询性能优化的示例

每个版块里,有N条帖子,在首页显示了版块信息和版块下的帖子数。

这是如何做的

MySQL大数据查询性能优化的示例

如果board表只有前2列,则需要取出版块后,

再查post表,select count(*) from post group by board_id,得出每个版块的帖子数。

二、列类型选择

  1、字段类型优先级

整型>date

time>enum

char>varchar>blob,text

整型:定长,没有国家/地区之分,没有字符集的差异。比如:

tinyint 1,2,3,4,5 <--> char(1) a,b,c,d,e

从空间上,都占1个字节,但是 order by 排序,前者快。原因,或者需要考虑字符集与校对集(就是排序规则);

time定长,运算快,节省空间。考虑时区,写sql时不方便 where > `2018-08-08`;

enum,能起到约束的目的,内部用整型来存储,但与cahr联查时,内部要经历串与值的转化;

char定长,考虑字符集和(排序)校对集;

varchar不定长,要考虑字符集的转换与排序时的校对集,速度慢;

text/blob 无法使用内存临时表(排序等操作只能在磁盘上进行)

附:关于date/time的选择,大师的明确意见,直接选 int unsgined not null,存储时间戳。

例如:

性别:以utf8为例

char(1) ,3个字长字节

enum('男','女'); 内部转成数字来存,多一个转换过程

tinyint(), 定长1个字节

  2、够用就行,不要慷慨(如 smallint varchar(N))

原因:大的字节浪费内存,影响速度。

以年龄为例 tinyint unsigned not null,可以存储255岁,足够。用int浪费了3个字节;

以varchar(10),varchar(300)存储的内容相同,但在表联查时varchar(300)要花更多内存。

3、尽量避免用NULL()

原因:NULL不利于索引,要用特殊的字符来标注。

在磁盘上占据的空间其实更大(MySQL5.5已对null做的改进,但查询仍是不便)

三、索引优化策略

1、索引类型

1.1 B-tree索引

名叫btree索引,大的方面看,都用的平衡树,但具体的实现上,各引擎稍有不同,比如,严格的说,NDB引擎,使用的是T-tree.

但抽象一下 B-tree系统,可理解为“排好序的快速查询结构”。

1.2 hash索引

在memory表里默认是hash索引,hash的理论查询时间复杂度为O(1)。

疑问:既然hash的查找如此高效,为什么不都用hash索引?

回答:

1、hash函数计算后的结果,是随机的,如果是在磁盘上放置数据,以主键为id为例,那么随着id的增长,id对应的行,在磁盘上随机放置。

2、无法对范围查询进行优化。

3、无法利用前缀索引,比如在btree中,field列的值“helloworld”,并加索引查询 x=helloworld自然可以利用索引,x=hello也可以利用索引(左前缀索引)。

4、排序也无法优化。

5、必须回行,就是说通过索引拿到数据位置,必须回到表中取数据。

2、btree索引的常见误区

2.1 在where条件常用的列上加索引,例如:

where cat_id = 3 and price>100;查询第三个栏目,100元以上的商品。

误区:cat_id 上和price上都加上索引。

错:只能用上cat_id 或 price索引,因为是独立的索引,同时只能用一个。

2.2 在多列上建立索引后(联合索引),查询哪个列,索引都会将发挥作用

误区:多列索引上,索引发挥作用,需要满足左前缀要求。

以 index(a,b,c) 为例,(注意和顺序有关)

MySQL大数据查询性能优化的示例

四、索引实验

例如:select * from t4 where c1=3 and c2 = 4 and c4>5 and c3=2;

用到了哪些索引:

explain select * from t4 where c1=3 and c2 = 4 and c4>5 and c3=2 \G

如下:

MySQL大数据查询性能优化的示例

注:(key_len : 4 )

五、聚簇索引与非聚簇索引

Myisam与innodb引擎,索引文件的异同

Myisam:由news.myd和new.myi两个文件,索引文件和数据文件是分开的,叫非聚簇索引。主索引和次索引都指向物理行(磁盘的位置)

innodb:索引和数据是聚在一起的,所以是聚簇索引。innodb的主索引文件上直接存放该行数据,次索引指向对主键索引的引用。

注意:innodb来说:

1、主键索引 即存放索引值,又在叶子中存储行的数据。

2、如果没有主键(primary key),则会unique key做主键。

3、如果没有unique,则系统生成一个内部的rowid做主键。

4、像innodb中,主键的索引结构中,即存储了主键值又存储了行数据,这种结构称为聚簇索引。

聚簇索引

优势:根据主键查询条目比较少时,不用回行(数据就在主键节点下)

劣势:如果碰到不规则数据插入时,造成频繁的页分裂

关于“MySQL大数据查询性能优化的示例”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。

您可能感兴趣的文档:

--结束END--

本文标题: MySQL大数据查询性能优化的示例

本文链接: https://www.lsjlt.com/news/54859.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • MySQL大数据查询性能优化的示例
    这篇文章将为大家详细讲解有关MySQL大数据查询性能优化的示例,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。MySQL性能优化包括表的优化与列类型选择,表的优化可以细分为...
    99+
    2022-10-18
  • mysql大数据查询优化的示例分析
    这篇文章给大家分享的是有关mysql大数据查询优化的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。mysql数据量少,优化没必要,数据量大,优化少不了,不优化一个查询10...
    99+
    2022-10-18
  • 数据库查询优化之子查询优化的示例分析
    这篇文章将为大家详细讲解有关数据库查询优化之子查询优化的示例分析,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。1. 案例取所有不为掌门人的员工,按年龄分组!selec&#...
    99+
    2022-10-18
  • MySQL数据库查询性能优化策略
    优化查询 使用Explain语句分析查询语句 Explain 用来分析 SELECT 查询语句,开发人员可以通过分析 Explain 结果来优化查询语句。 通过对查询语句的分析,可以了解查询语句的执行情况,找出查询...
    99+
    2022-05-25
    MySQL 优化 MySQL 查询优化 MySQL 查询性能优化
  • mysql-查询性能优化
    不要取出全部列,取出全部列,会让优化器无法完成索引覆盖扫描这类优化,还会为服务器带来额外的I/O、内存和CPU的消耗。应该严格禁止SELECT * 的写法。MySQL使用如下三种方式应用WHERE条件,从好到坏依次...
    99+
    2021-02-18
    mysql-查询性能优化
  • MySQL查询优化的示例分析
    小编给大家分享一下MySQL查询优化的示例分析,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!一、优化的思路和原则有哪些1、 优化更需要优化的查询 2、 定位优化对象的性能瓶颈 3、 明确优...
    99+
    2022-10-18
  • MYSQL(四)查询性能优化
    优化数据访问1.是否向数据库请求了不需要的数据解决方式:A. 查询后加limitB. Select后写需要的列而不是*2. 是否扫描了额外的数据数据库的访问方式速度由...
    99+
    2022-10-18
  • MySQL数据库性能优化的示例分析
    小编给大家分享一下MySQL数据库性能优化的示例分析,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!为什么做优化??因为数据量太多了,项目部署上线再到用户使用,每天...
    99+
    2023-06-22
  • mysql性能优化的示例
    小编给大家分享一下mysql性能优化的示例,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!历史很久远的一篇文章了,不记得是从哪里记...
    99+
    2022-10-18
  • 如何通过查询优化MySQL数据库性能
    如何通过查询优化MySQL数据库性能?相信很多新手小白还没学会这个技能,通过这篇文章的总结,希望你能学会这个技能。以下资料是实现的步骤。查询是数据库技术中最常用的操作。查询操作的过程比较简单,首先从客户端发...
    99+
    2022-10-18
  • MySQL 大数据in查询该怎么优化
    对于 MySQL 中的大数据 IN 查询,可以使用以下方法进行优化: 尽可能使用索引。如果使用 IN 操作符的字段有索引,MySQL 将会使用索引来加速查询。 尽量使用常量作为 IN 操作符中的参数,而不是使用子查询或者表达式。因为 M...
    99+
    2023-09-16
    mysql 大数据 数据库
  • 如何优化MySQL的查询性能?
    如何优化MySQL的查询性能?MySQL是一款广泛应用于Web开发的关系型数据库管理系统。然而,在处理大量数据和复杂查询时,MySQL的查询性能可能会受到影响,从而导致应用程序的响应时间变慢。为了提高MySQL的查询性能,我们可以采取以下几...
    99+
    2023-10-22
    索引优化 数据库缓存 查询重写
  • MySQL数据库性能优化之SQL优化的示例分析
    这篇文章将为大家详细讲解有关MySQL数据库性能优化之SQL优化的示例分析,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。  注:这篇文章是以 MySQL 为背景,很多内容...
    99+
    2022-10-19
  • MySQL查询缓存优化的示例分析
    小编给大家分享一下MySQL查询缓存优化的示例分析,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!MySQL查询缓存优化1 概述2...
    99+
    2022-10-18
  • mysql中慢查询优化的示例分析
    这篇文章主要介绍mysql中慢查询优化的示例分析,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!一个用户反映线上一个SQL语句执行时间慢得无法接受。SQL语句看上去很简单(本文描述中修...
    99+
    2022-10-18
  • MySQL优化 - 性能分析与查询优化
    MySQL优化 - 性能分析与查询优化    优化应贯穿整个产品开发周期中,比如编写复杂SQL时查看执行计划,安装MySQL服务器时尽量合理配置(见过太多完全使用默认配置安装的情况),根...
    99+
    2022-10-18
  • MySQL查询缓存优化示例详析
    目录一、概述二、查询优化内容1、查询缓存的原理2、查询缓存的优缺点3、不能应用查询缓存的内容4、查询缓存相关的服务器变量5、SELECT语句的缓存控制6、查询缓存相关的状态变量7、查询的优化的检查路线8、命中率和内存使用...
    99+
    2022-10-26
  • Mysql大数据量查询优化思路详析
    目录1. 千万级别日志查询的优化2. 几百万黑名单库的查询优化3. Mybatis批量插入处理问题项目场景: Mysql大表查询优化,理论上千万级别以下的数据量Mysql单表查询性能...
    99+
    2022-11-12
  • MySQL数据查询之子查询的示例分析
    这篇文章主要介绍了MySQL数据查询之子查询的示例分析,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。子查询是指一个查询语句嵌套在另一个查询语...
    99+
    2022-10-18
  • MySQL中怎么优化查询性能
    MySQL中怎么优化查询性能,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。WHERE条件字段使用函数假设我们有如下创建表的语句mysq...
    99+
    2022-10-18
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作