iis服务器助手广告广告
返回顶部
首页 > 资讯 > 数据库 >Schema与数据类型优化的方法
  • 736
分享到

Schema与数据类型优化的方法

2024-04-02 19:04:59 736人浏览 独家记忆
摘要

这篇文章主要介绍Schema与数据类型优化的方法,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!schema就是数据库对象的集合,这个集合包含了各种对象如:表、视图、存储过程、索引等。

这篇文章主要介绍Schema与数据类型优化的方法,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

schema就是数据库对象的集合,这个集合包含了各种对象如:表、视图、存储过程、索引等。为了区分不同的集合,就需要给不同的集合起不同的名字,默认情况下一个用户对应一个集合,用户的schema名等于用户名,并作为该用户缺省schema。所以schema集合看上去像用户名。

如果把database看作是一个仓库,仓库很多房间(schema),一个schema代表一个房间,table可以看作是每个房间中的储物柜,user是每个schema的主人,有操作数据库中每个房间的权利,就是说每个数据库映射的user有每个schema(房间)的钥匙。 SQL Serveroracle Mysql有别

4.1选择优化的数据类型

原则:

1、更小的通过更好,尽量使用可正确存储数据的最小的数据类型(占更少的磁盘 内存 CPU缓存,处理时需要CPU周期更少:更快),但能罩得住数据,存不下就尴尬了

2、简单就好:简单类型(更少CPU周期),使用mysql内建类型存时间,整型存ip,整型较字符代价低(字符集和校对排序规则使字符较复杂)

3、尽量避免null:最好指定为not null

*)null列使用更多的存储空间,mysql里需要特殊处理

*)null使索引、索引统计和值比较更复杂;可为null的列被索引时,每个索引记录需额外的字节

例外:InnoDB使用单独位bit存储null,so对于稀疏数据(很多值为null)有很好的空间效率,不适合MyISAM

4.1.1整数类型【参考】

整数whole number

tinyint(8位存储空间)  smallint(16)  mediumint(24)   int(32)    bigint(64)

1、存储值的范围:Schema与数据类型优化的方法,N是存储空间的位数

2、unsigned:可选、不容许负值,可使正数的上限提高一倍:tinyint unsigned 0~255,tinyint-128~127

3、有无符号使用相同的存储空间,相同的性能

可为整型指定宽度,例如INT(11),对于大多数应用无意义,不会限制值的合法范围,只是规定了交互工具显示字符的个数,对于存储和计算,int(1)和int(20)是相同的;

实数real number:带小数

float和double,mysql使用duble作为内部浮点计算的类型

decimal:存储精确的小数,mysql服务器自身实现,decimal(18,9)18位,9位小数,9个字节(前4后4点1)

尽量只在对小数进行精确计算时才使用(额外的空间和计算开销),如财务数据

数据量大时,考虑使用bigint代替,将需要存储的货币单位据小数的位数乘以相应的倍数

浮点:

建议:只指定类型、不定精度(mysql),这些精度非标准,mysql会悄选类型、或存时对值取舍

存储同样范围的值时,比decimal更少的空间,float4字节存 double8字节(更高精度范围)

4.1.3字符串类型

varchar和char:

前提:innodb和myisam引擎,最主要的字符串类型

磁盘存储:存储引擎存储的方式与在内存、磁盘上的不能不一样,所以mysql服务器从引擎取值需转格式

varchar:

1、存储可变字符串,比定长节省空间(仅使用必要的空间),但如果表使用row_fORMat=fixed,行会定长存储

2、需使用1/2额外字节记录字符串长度;1)列max长度<=255字节,1字节表示,否2字节,2)采用latinl字符集,varchar(10)列需11个字节的存储空间,varchar(1000)1002字节,2字节存储长度信息

3、节省存储空间,利于性能;但在update可能使行变得比原来更长、需做额外工作

合适的情况:

1)字符串列最大长度比平均长度大很多;2)列的更新少(不担心碎片);3)使用UTF-8字符串,每个字符均使用不同的字节数存储

char:

1、定长,据长度分配空间,删除all末尾空格;长度不够、空格填充

2、存储空间上更有效率,char(1)来存储只有Y N的值 1个字节 ,varchar2字节,还有一个记录长度

适合的情况:

1)适合存储很短的字符串;2)或all值接近同一个长度;3)经常变更的数据,存储不易碎片

对应空格、存储:

char类型存储时末尾空格被删;数据如何存储取决于存储引擎,Memory引擎只支持定长的行(最大长度分配空间)

binary,varbinary:存储二进制字符串字节码,长度不够、\0来凑(不是空格)检索时不会去

慷慨不是明智的:varchar(5)和varchar(100)存储‘hell’空间开销一样,长的列消耗更多内存

blob和text:大数据

分别用二进制和字符方式存储,分别属于两组不同的数据类型:字符类型:tinytext、smalltext、text、mediumtext、longtext,对应的二进制类型是tinyblob、smallblob、blob、mediumblob、longblob,两类仅有的不同:blob类型存储的是二进制,无排序规则或字符集,text有字符串 排序规则;

MySQL会把每个blob和text当做独立的对象处理,存储引擎存储时会做特殊处理,当值太大,innoDB使用专门的外部存储区域进行存储,此时每个值在行内需要1~4个字节存储一个指针,然后在外部存储实际的值;

mysql对他们的列排序:只对每列前max_sort_length字节排序;且不能将列全部长度的字符串进行索引,也不能使用这些索引消除排序;

如果explain执行计划的extra包含using temporary:这个查询使用了隐式临时表

使用enum代替字符串类型

定义时指定取值范围,对1~255个成员的枚举需要1个字节存储;对于256~65535个成员,需要2个字节存储。最多可以有65535个成员,ENUM类型只能从成员中选择一个和set相似

可把不重复的固定的字符串存储成一个预定义的集合,mysql在存储枚举时会据列表值的数量压缩到1/2字节中,在内部会将每个值在列表中的位置保存为整数(从1开始,必须进行查找才能转换为字符串,开销、列表小 可控,且在表的.frm文件中保持“数字-字符串”映射关系的“查找表”;

将一个数字存储到一个 ENUM 中,数字被当作为一个索引值,并且存储的值是该索引值所对应的枚举成员: 在一个 ENUM字符串中存储数字是不明智的,因为它可能会打乱思维;ENUM 值依照列规格说明中的列表顺序进行排序。(ENUM 值依照它们的索引号排序。)举例来说,对于 ENUM("a", "b") "a" 排在 "b" 后,但是对于 ENUM("b", "a") "b" 却排在 "a" 之前。空字符串排在非空字符串前,NULL 值排在其它所有的枚举值前。为了防止意想不到的结果,建议依照字母的顺序定义 ENUM列表。也可以通过使用GROUP BY CONCAT(col) 来确定该以字母顺序排序而不是以索引值。【源】

排序时安装创建表时的顺序排序的(应该是);枚举最不好的地方:字符串列表是固定的,添加删除字符串须使用alter  table;在‘查找表’时采用整数主键避免基于字符串的值进行关联;

4.1.4日期和时间

datetime:大范围的值 1001 9999 s YYYYMMDDHHMMSS 与时区无关 8字节

默认,以可排序、无歧义的格式显示datetime:2008-01-02 22:33:44

timestamp:1970 2038,1970 1 1以来的秒数,时区 4字节

from_unixtime将unix时间戳转日期,unix_timestamp将日期转unix时间戳

插入时没有指定第一个timestamp列的值,设置为当前时间,插入记录时,默认更新第一个timestamp列的值,timestamp类为not null,尽量使用timestamp(空间效率高);

可以使用bigint类型存储微妙级别的时间戳,或double存秒之后的小数部分,或使用MariaDB代替MySQL;

4.1.5 位

bit:mysql5.0

前与tinyint同义词,新特性

bit(1)单个位的字段,bit(2)2个位,最大长度64个位

  行为因存储引擎而异,MyISAM打包存储all的BIT列(17个单独的bit列只需要17个位存储,myisam3字节ok),其他引擎Memory和innoDB为每bit列使用足够存储的最小整数类型来存放,不节省存储空间;

   mysql把bit当做字符串类型,检索bit(1)值、结果是包含二进制0/1的字符串,数字上下文的场景检索,将字符串转成数字,大部分应用,best避免使用;

Schema与数据类型优化的方法

set

创建表时,就指定SET类型的取值范围 :属性名 SET('值1','值2','值3'...,'值n'),“值n”参数表示列表中的第n个值,这些值末尾的空格将会被系统直接删除,字段元素顺序 系统自动按照定义时的顺序显示 重复 只存一次。

其基本形式与ENUM类型一样。SET类型的值可以取列表中的一个元素或者多个元素的组合。取多个元素时,不同元素之间用逗号隔开。SET类型的值最多只能是有64个元素构成的组合,根据成员的不同,存储上也有所不同:【参考,同enum】

1~8成员的集合,占1个字节。
9~16成员的集合,占2个字节。
17~24成员的集合,占3个字节。
25~32成员的集合,占4个字节。
33~64成员的集合,占8个字节。

需要保持很多true、false值,可考虑合并这些列到set类型,在mysql内部以一系列打包的位的集合来表示的(有效利用存储空间)且mysql有find_in_set、field函数,方便在查询中使用;

缺点:改变列的定义代价高,需要alter table,无法再set上通索引查找

在整数列按位操作:

代替set的方式:使用整数包装一系列的位:可把8个位包装到tinyint中,且按位操作来使用,为位定义名称常量来简化这个工作,但是这样查询语句较难写且难理解

4.1.6选择标识符identifier

标识列:自增长列【源】

1)可不用手动插入值,系统提供默认序列值;2)不要求和主键搭配 ; 3)要求是unique key;

4)一个表最多一个;5)类型只能是数值;5)可通过set auto_increment_increment=3;

选择标识列类型时

考虑存储类型、mysql对这种类型怎么执行计算和比较,确定后确保在all关联表中使用same类型,类型间要精确匹配;

技巧:

1、整数类型:整数通常最好的选择,很快且可使用auto_increment

2、enum和set类型,存储固定信息

3、字符串:避免,耗空间较数字慢,myisam表特别小心(默认对字符串压缩使用、查询慢)

1)完全“随机”字符串MD5/SHA1/UUID函数生成的新值 会任意分布在很大的空间内,导致insert及部分的select变慢:插入值随机的写到索引的不同位置,insert变慢(页分裂 磁盘随机访问 聚簇索引碎片);select变慢、逻辑上相邻的行分布在磁盘和内存不同的地方;随机值导致缓存对all类型的查询语句效果都变差(使缓存赖以工作的访问局部性原理失效)

聚簇索引,实际存储的循序结构与数据存储的物理结构一致,通常来说物理顺序结构只有一种,一个表的聚簇索引也只能有一个,通常默认都是主键,设置了主键,系统默认就为你加上了聚簇索引;【源】

非聚簇索引记录的物理顺序与逻辑顺序没有必然的联系,与数据的存储物理结构没有关系;一个表对应的非聚簇索引可以有多条,根据不同列的约束可以建立不同要求的非聚簇索引;

2)存储uuid,移除-符号,或者用unhex转换uuid值为16字节的数字,且存储在binary(16)列中,检索时通过hex函数格式化为16进制格式;

UUID生成的值与加密散列函数(sha1)生成的值不同特征:uuid分布不均匀,有一定顺序,不如递增整数

当心自动生成的schema:

严重性能问题,很大的varchar、关联列不同的类型;

orm会存储任意类型的数据到任意类型的后端数据存储中,并没有设计使用更优的类型存储,有时为每个对象每个属性使用单独行,设置使用基于时间戳的版本控制,导致单个属性会有多个版本存在;权衡

4.1.7特殊类型数据:空

以上是“Schema与数据类型优化的方法”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注编程网数据库频道!

您可能感兴趣的文档:

--结束END--

本文标题: Schema与数据类型优化的方法

本文链接: https://www.lsjlt.com/news/54592.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Schema与数据类型优化的方法
    这篇文章主要介绍Schema与数据类型优化的方法,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!schema就是数据库对象的集合,这个集合包含了各种对象如:表、视图、存储过程、索引等。...
    99+
    2024-04-02
  • Schema与数据类型优化的示例
    小编给大家分享一下Schema与数据类型优化的示例,希望大家阅读完这篇文章之后都有所收获,下面让我们一起去探讨吧!4.2MySQL schema设计中的陷阱1、太多的列MySQL存储引擎api工作时需要在服...
    99+
    2024-04-02
  • MySQL中的数据类型和schema优化是什么
    小编给大家分享一下MySQL中的数据类型和schema优化是什么,希望大家阅读完这篇文章后大所收获,下面让我们一起去探讨吧!1. 选择优化的数据类型MySQL支持的数据类型有很多,而如何选择出正确的数据类型...
    99+
    2024-04-02
  • ASP 变量与数据类型性能优化技巧
    ...
    99+
    2024-04-02
  • ASP 中的数据类型优化技巧
    ASP 中的数据类型优化技巧 ASP 是一种动态网页开发技术,它支持多种数据类型,包括字符串、数字、日期等。在开发 ASP 应用程序时,数据类型的选择和使用对性能和可维护性都有很大影响。本文将介绍 ASP 中数据类型的优化技巧,以提高应用程...
    99+
    2023-11-12
    并发 数据类型 编程算法
  • 千万级数据的mysql数据库与优化方法
    本篇内容主要讲解“千万级数据的mysql数据库与优化方法”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“千万级数据的mysql数据库与优化方法”吧!1.对查询进行...
    99+
    2024-04-02
  • 类与数据类型
    目录 类与数据类型 list.append()方法原理 端午节刚吃完粽子写下的这篇血泪文章!!! python3中统一了类与类型...
    99+
    2023-01-31
    数据类型
  • Python 编程中的数据类型:如何优化 load 算法?
    Python 是一种高级编程语言,它具有易学易用的特点,使得它成为了许多程序员的首选编程语言。在 Python 编程中,数据类型是一个非常重要的概念。在 Python 中,有许多不同的数据类型,包括数字、字符串、列表、元组、字典等等。在本文...
    99+
    2023-07-09
    编程算法 数据类型 load
  • Pytorch数据类型与转换的方法有哪些
    本篇内容介绍了“Pytorch数据类型与转换的方法有哪些”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!Pytorch数据类型与转换(torc...
    99+
    2023-07-05
  • Spring 框架对大数据的数据类型有何优化?
    Spring 框架是一个非常流行的 Java 应用程序框架,它提供了一系列的工具和框架来简化 Java 应用程序的开发。在大数据应用中,Spring 框架的使用是非常重要的,它可以帮助我们更好地处理和管理大数据。 在大数据应用中,数据类型的...
    99+
    2023-10-24
    数据类型 spring 大数据
  • 如何实现MySQL底层优化:数据类型选择与存储空间优化
    MySQL是一款广泛使用的关系型数据库管理系统,其底层优化对于数据库的性能和稳定性至关重要。本文将对MySQL数据类型选择与存储空间优化进行详细介绍,并给出具有实际意义的代码示例。一、数据类型选择与优化1.常见数据类型介绍MySQL支持多种...
    99+
    2023-11-08
    MySQL 数据类型 优化 存储空间优化
  • PHP函数与新型数据库交互的优化
    为优化 php 函数与新型数据库的交互,最佳实践包括:使用针对特定数据库设计的客户端,如 mongodb 的 mongoclient。优化查询,如使用索引、限制记录数和聚合操作。对不变或...
    99+
    2024-04-14
    php nosql mongodb
  • 优化mysql数据库的方法
    这篇文章主要介绍了优化mysql数据库的方法,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。1、创建索引对于查询占主要的应用来说,索引显得尤为重要...
    99+
    2024-04-02
  • PHP PDO 数据类型映射:让你的数据类型化
    什么是 PDO 数据类型映射? PDO(PHP 数据对象)提供了一个抽象层,可简化与不同数据库的交互。PDO 数据类型映射使我们能够将数据库字段类型映射到 PHP 数据类型。这提供了一致、类型化的和安全的数据库交互体验。 为什么要使用 ...
    99+
    2024-02-17
    PDO PHP 数据类型 映射 数据库
  • 原来MySQL 数据类型也可以优化
    目录不超过范围的情况下,数据类型越小越好简单就好尽量避免 null一些细则整数类型字符和字符串类型varchar :根据实际内容长度保存数据。char:固定长度的字符串BL...
    99+
    2024-04-02
  • NumPy和Java:如何优化大数据处理的数据类型?
    在大数据处理领域,数据类型是一个非常关键的问题。数据类型的选择会直接影响到数据处理的速度和效率。在这个领域中,NumPy和Java都是非常流行的数据处理工具。本文将介绍如何利用NumPy和Java来优化大数据处理的数据类型选择。 一、Nu...
    99+
    2023-07-08
    numy 大数据 数据类型
  • 如何在JavaScript中优化数据类型的使用?
    当我们在编写JavaScript代码时,数据类型的使用是至关重要的。合理的数据类型使用可以提高代码的性能和可读性。在本文中,我们将探讨如何在JavaScript中优化数据类型的使用。 一、避免使用全局变量 全局变量是JavaScript中最...
    99+
    2023-11-02
    异步编程 javascript 数据类型
  • 如何优化Python对象的实时数据类型?
    Python是一门强大的编程语言,它支持多种数据类型,如整数、浮点数、字符串、列表、元组、集合、字典等。在实际应用中,我们经常需要处理实时数据,因此需要对Python对象的实时数据类型进行优化,以提高程序的运行效率。本文将介绍Python对...
    99+
    2023-10-23
    对象 实时 数据类型
  • Unix系统中PHP数据类型的优化技巧
    在Unix系统中,PHP是一种广泛使用的服务器端脚本语言。在PHP编写代码时,数据类型的选择和使用对于代码的运行效率和性能有着重要的影响。本文将介绍一些,帮助读者编写更加高效的PHP代码。 使用合适的数据类型 在PHP中,有多种数据类...
    99+
    2023-05-26
    数据类型 容器 unix
  • python数据类型的转换方法
    这篇文章主要介绍“python数据类型的转换方法”,在日常操作中,相信很多人在python数据类型的转换方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”python数据类型的转换方法”的疑惑有所帮助!接下来...
    99+
    2023-06-20
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作