广告
返回顶部
首页 > 资讯 > 后端开发 > 其他教程 >SQL Server内存机制详解
  • 109
分享到

SQL Server内存机制详解

2024-04-02 19:04:59 109人浏览 薄情痞子
摘要

1.前言 对于数据库引擎来说,内存是一个性能提升的重要解决手段。把数据缓存起来,可以避免在查询或更新数据时花费多余的时间,而这时间通常是从磁盘获取数据时用来等待磁盘寻址的。把执行计划

1.前言

对于数据库引擎来说,内存是一个性能提升的重要解决手段。把数据缓存起来,可以避免在查询或更新数据时花费多余的时间,而这时间通常是从磁盘获取数据时用来等待磁盘寻址的。把执行计划缓存起来,可以避免重复分析执行计划时带来额外的CPU及各种资源的开销。通过在内存中开辟查询内存空间,可以迅速地完成排序、哈希等计算,达到快速返回运算结果的目的。若没有足够的内存空间,数据库引擎将无法快速地响应用户的请求。

2.SQL Server如何从操作系统层面分配内存

sql Server存储引擎本身是一个windows下的进程,所以SQL Server使用内存和其它Windows进程一样,都需要向Windows申请内存(通过VirtualAlloc之类的api向Windows申请内存)。

3.物理内存、虚拟内存、虚拟内存管理器

3.1物理内存(RAM)

内存芯片提供的物理存储空间,能被CPU直接访问,访问速度快,易丢失。内存性能指标GB/s,ns(纳秒),前者是吞吐量,后者是响应时间。磁盘性能指标MB/s,us(微秒),从两者对比就能看出内存访问速度是远优于磁盘的。

3.2虚拟内存

物理内存容量是有限的,如果所有进程都直接使用有限的物理内存,那新的进程将无法为他们找到任何物理内存,那么物理内存将容易成为瓶颈。所以Windows会授予每个进程一个虚拟地址空间(Virtual Address Space,VAS),通过VAS建立应用程序与物理内存的桥梁。

3.2.1虚拟地址空间(Virtual Address Space,VAS)

是指一个应用程序能够申请访问的最大地址空间。VAS作为中间的抽象层的,不是所有的请求都直接映射到物理内存,它首先映射到VAS,然后映射到物理内存。
而两个进程可以共用一个VAS,而VAS的大小取决于CPU架构,具体请看下面表格:

OS Type

Kernel Model

(内核模式)

User Model

(用户模式)

Total

32位系统

2GB

2GB

4GB

64位系统

8TB

8TB

16TB

VAS有两种内存模式,Kernel Model和User Model。Kernel Model下的VAS是供Windows系统进程使用,而User Model下的VAS是供用户进程使用。
由表格可知,32位Windows系统应用程序可以访问最大2GB的VAS,64Windows位系统可以访问最大8TB的VAS。这意味着在32位Windows系统中一个Word文档进程跟一个SQL Server进程能得到最大2GB的VAS是一样的。因此,从理论上讲,这意味着任何应用程序进程在32位Windows系统上都将共享最大限度的2 G的VAS。

3.3虚拟内存管理器(Virtual Memory Manager,VMM)

VMM是负责把物理内存在系统中所有需要内存的进程之间作共享,必要时会从VAS回收物理内存,把数据存储到页面文件上面去,保证数据永不丢失。当进程需要内存时,VMM会从页面文件中查找数据,并将这数据写入一部分空闲内存当中,然后将新页面映射到需要操作的VAS当中。

4.SQL Server内存架构

SQL Server 2012对内存管理这块跟SQL Server 2008还是有比较大的区别的,参考一些资料,下面我们来看看两者具体架构。

SQL Server 2008 R2:

SQL Server 2012:

名词术语

4.1缓冲池(Buffer Pool)

为了更加清楚了解Buffer Pool,我们先来了解下 SQL Server的所需要的内存有哪些,其中包括SQL Server服务(sqlserver.exe)和其它一些组件所占用的内存,例如SQL Server代理程序(sqlagent.exe), SQL Server复制代理程序、SQL Server报表服务(ReportingServicesService.exe)、SQL Server Analysis Services(msmdsrv.exe)、SQL Server Integration Services(MsDtsSrvr.exe),和SQL Server 全文搜索(msftesql.exe)。
在一台运行SQL Server的服务器上,运行着sqlserver服务(sqlserver.exe)和其它一些组件。在sqlserver服务(sqlserver.exe)获取到的内存中,又分为2大块:一部分为Buffer Pool,另一部分为非Buffer Pool,旧称MemToReserve(默认sqlserver.exe给它预留了256MB)。下表为这两部分内存各自的用途:

SQL Server 进程所占内存

Buffer Pool

EXEC sp_configure N'min server memory

EXEC sp_configure N'max server memory

非Buffer Pool(即MemToReserve)

(默认为256MB), 可以sqlserver.exe启动时加-g参数,预留足够内存(预留内存大小=256MB+工作线程数*512KB)

Buffer Pool中主要存放之前查询中的数据页,和索引页。然后根据它自已的算法,自动清理过期过访问或效率低下的页。

SQL Server工作线程

占用不多

分布式查询引用的OLE DB访问接口

如操作链接服务器

备份还原

维护计划或者T-SQL备份恢复

扩展过程

如sp_或sys开头的系统存储过程,sp_OACreate 存储过程

多页的分配器SQL Server内存管理器

.net framework程序(它们连接sqlserver的网络包大小为8K, sqlserver默认网络包大小为4k)

.DLL文件

 

SQL Server CLR的Microsoft COM对象

 

4.2 Single-Page

这块内存是<=8kb的存储,适用于sql server 2008及以前,属于Buffer Pool缓冲池来分配。有存储数据页面,Consumer功能组件。

4.3 Multi-Page

这块内存是>8kb的存储,适用于sql server 2008及以前,不属于Buffer Pool缓冲池来分配, 有存储Consumer功能组件, 第三方代码, Threads线程。

4.4 Any Size Page

这个适用于sql server 2012及以上,整合了single-page,multi-page统称any size page。

4.5 Memory Manager

它来统一响应SQL Server 内部各种组件内存申请的请求。因为这个原因,在SQL Server 2012里面,max server memory 不再像以前的版本那样,只控制buffer pool的大小,也包括那些大于8kb 的内存请求。也就是,max server memory能够更准确地控制SQL Server 的内存使用了。

5.SQL Server 2008内存

从内存架构我们可以看到有page reservation需预先申请的内存,有momory objects从windows api申请的内存,有clr第三方申请的内存。

内存使用分类

5.1按用途分类

(1)Database Cache(数据页面缓冲区)

存放数据页面的缓冲区。SQL Server数据库里的数据都是以8KB为一个页面存储。当有用户需要使用到这个页面上存储的数据时,SQL Server会把整个页面都调入内存,供用户使用。所以8KB是数据访问的最小单元。当用户修改了某个页面上的数据时,SQL Server会在内存中将这个页面修改,但是不会立刻将这个页面写回磁盘,而是等到后面的Checkpoint或Lazy Write的时候集中处理。

(2)各类Consumer

SQL Server的很多功能组件,都必须要申请内存来完成它们的任务。这些统称为“Consumer”。常见有如下:

  • Connection:SQL Server为每个连接分配一个数据结构,存储关于这个连接的信息。另外,还会分配一个输入缓冲池,缓冲客户端发来的指令;一个输出缓冲池,存放SQL Server返回的结果,等待客户端取走。
  • General:一组大杂烩。包括语句的编译、范式化、每个数据结构、事务上下文、表格和索引的元数据等。
  • Query Plan:语句和存储过程的执行计划。和Database Cache类似,如果SQL Server没有内存压力,它就会保留每一个生成的执行计划,供以后的用户重用,减少Comlile的消耗。所以Query Plan也会是一块比较大的内存使用区域。
  • Optimizer:SQL Server在生成执行计划的过程中需要消耗的内存。
  • Utilities:像BCP、Log Manager、Parallel Queries、Backup等比较特殊的操作需要的内存。

(3)线程内存

SQL Server会为每个进程内的每个线程分配0.5MB的内存,以存放线程的数据结构和相关信息。

(4)第三方代码申请的内存(COM,XP...)

在SQL Server的进程里,会运行一些非SQL Server自身的代码。例如,用户定义的CLR或者Extended Stored Procedure代码,Linked Server需要加载的数据连结驱动,调用SQL Mail功能需要加载的MAPI动态库等。这些代码也会申请内存,会算在SQL Server自己都不知道。

5.2按申请方式分类

有些SQL Server内存的申请方式,是预先Reserve一块大的内存,然后在使用的时候一小块一小块地Commit。而另外的内存申请则直接从空间里Commit。在SQL Server里,把后一种方式叫Stolen。
在SQL Server里,对Database Cache,SQL Server会先Reserve,再Commit。其他的所有内存使用,基本都是直接Commit,都是“Stolen”。要重申的是,Stolen内存也是正常使用的内存,不是泄漏掉的内存。
之所以要把这两种分开,是因为SQL Server不会对Stolen的内存使用AWE功能。也就是说,AWE扩展出去的内存,只能用来存放Database Cache。其他内存还要在原来的那2GB里想办法。

5.3按申请大小分类

对于SQL Server自己申请的内存,有两种内存申请单位。
小于等于8KB一个单位内存申请,SQL Server就分配一个8KB页面。所有这些页面都集中管理,这块内存被称为Buffer Pool。一次一个页面的这种分配称为Single Page Allocation。
对于大于8KB为单位的内存申请,SQL Server把它们集中在另外一个区域,称为Multi-Page Allocation(旧称MemToLeave)。而这种分配称为Multi-Page Allocation。

5.4各个内存分类方法之间的关系:

类型

Database Cache

Consumer

3rh Party Code

Threads

Reserved/Commit

一般不是

一般不是

不是

Stolen

不是

Buffer Pool

(Single Page)

所有

绝大部分

没有

没有

MemToLeave(Multi-Page)

没有

一小部分

所有

所有

这里的一个例外是运行在SQL Server进程里的CLR代码所申请的内存。这部分内存像第三方代码一样,也是使用MemToLeave的内存。但是,CLR可能也会用Reserve-Commit的方式申请内存。所以MemToLeave的内存也并不是都是Stolen的。

6.SQL Server 2012内存

根据SQL Server内存架构图,我们可以知道,在2012版本上,Single Page Allocation跟Multi-Page Allocation合并为Any Size Page Allocation了。而max server memory控制的不但是 Buffer Pool内存大小,而是所有大于等于小于8KB的内存请求。
如图:

比如我设置最小服务器内存为8G,重新启动下SQL Server (MSSQLSERVER)服务,再使用dmv来查看当前实例的总内存空间,以及占用内存空间:
--Target Server Memory (KB)最多能申请的内存量
--Total Server Memory (KB)目前使用了多少内存量

SELECT counter_name, ltrim(cntr_value*1.0/1024.0/1024.0)+'G' 
AS memoryGB FROM sys.dm_os_perfORMance_counters 
WHERE counter_name like '%target%server%memory%'or counter_name like '%total%memory%'

从查询结果可以看到当我们在SQL Server设置最小服务器内存为8G的时候,给SQL Server分配了多少内存,它就占用多少多少内存,从而达到性能最佳。

到此这篇关于SQL Server内存机制的文章就介绍到这了。希望对大家的学习有所帮助,也希望大家多多支持编程网。

--结束END--

本文标题: SQL Server内存机制详解

本文链接: https://www.lsjlt.com/news/145076.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • SQL Server内存机制详解
    1.前言 对于数据库引擎来说,内存是一个性能提升的重要解决手段。把数据缓存起来,可以避免在查询或更新数据时花费多余的时间,而这时间通常是从磁盘获取数据时用来等待磁盘寻址的。把执行计划...
    99+
    2022-11-13
  • SQL Server 2012内存
    SQLServer 2012内存 翻译自:https://mssqlwiki.com/tag/sql-server-2012-memory-architecture/ SQL Serve...
    99+
    2022-10-18
  • 【SQL SERVER】锁机制
    SQL Server中锁机制保证并发情况下的数据访问,开发过程中利用好索引减少数据,能减少数据扫描数据加锁的过程,合理规范使用事务,能减少死锁发生 锁定是 SQL Server 数据库引擎用来同步多...
    99+
    2018-04-02
    【SQL SERVER】锁机制
  • SQL Server的存储过程详解
    目录存储过程的概念存储过程的优点系统存储过程用户自定义存储过程1、 创建语法2、 创建不带参数存储过程3、 修改存储过程4、 带参存储过程5、 带通配符参数存储过程6、 带输出参数存...
    99+
    2022-11-13
  • SQL SERVER存储过程用法详解
    目录一、存储过程的概念存储过程的优点二、存储过程的分类1、系统存储过程2、临时存储过程3、用户自定义存储过程二、存储过程的用法1、不带参数的存储过程,获取MyStudentInfo表...
    99+
    2022-11-13
  • nginx共享内存的机制详解
    目录1 共享内存申请2 共享内存实现原理2.1 共享内存组织2.2 slab共享内存管理机制2.3 slab与ngx_shm_zone_t 关系3 共享内存应用1 共享内存申请 共享...
    99+
    2022-11-13
  • 详解python的内存分配机制
    开始 作为一个实例,让我们创建四个变量并为其赋值: variable1 = 1 variable2 = "abc" variable3 = (1,2) variable4 = ['a',1] #打印他们的ids...
    99+
    2022-06-02
    python 内存 python 内存分配
  • SQL Server内存数据库原理解析
    前言关系型数据库发展至今,细节上以做足文章,在寻求自身突破发展的过程中,内存与分布式数据库是当下最流行的主题,这与性能及扩展性在大数据时代的需求交相辉映。SQL Server作为传统的数据库也在最新发布版本...
    99+
    2022-10-18
  • SQL Server内存故障排除
    SQLServer内存故障排除 翻译自:https://blogs.msdn.microsoft.com/karthick_pk/2012/06/15/troubleshooting-sql-se...
    99+
    2022-10-18
  • 详解Android Handler 机制 (三)内存泄漏
    ps:看本文之前最好先了解一下Handler源码 常用写法 我们一般使用Handler使用匿名内部类的写法,也就是: private Hand...
    99+
    2022-06-06
    内存泄漏 handler Android
  • SQL Server虚拟内存不足如何解决
    本篇文章给大家分享的是有关SQL Server虚拟内存不足如何解决,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。  SQLServer虚拟内存...
    99+
    2022-10-18
  • 深入理解 SQL Server 2008 的锁机制
    相比于 SQL Server 2005(比如快照隔离和改进的锁与死锁监视),SQL Server 2008 并没有在锁的行为和特性上做出任何重大改变。SQL Server 2008 引入的一个主要新特性是在...
    99+
    2022-10-18
  • MyBatis 动态SQL和缓存机制实例详解
    有的时候需要根据要查询的参数动态的拼接SQL语句常用标签:- if:字符判断- choose【when...otherwise】:分支选择- trim【where,set】:字符串截取,其中where标签封装查询条件,s...
    99+
    2023-05-31
    mybatis 动态sql 缓存机制
  • 详解php内存管理机制与垃圾回收机制
    目录一、内存管理机制二、垃圾回收机制一、内存管理机制 先看一段代码: <?php //内存管理机制 var_dump(memory_get_usage());//获...
    99+
    2022-11-12
  • 详解SQL Server表和索引存储结构
    本文详细分析了SQL Server中表和索引结构存储的原理以及对于如何加快搜索速度和提高效率等方面做了详细的分析,以下是主要内容。 下图显示了表的存储组织,每张表有一个对应的对象ID,并且包含一个或多个分区...
    99+
    2022-10-18
  • SQL Server内部运行机制的原理是什么
    本篇文章给大家分享的是有关SQL Server内部运行机制的原理是什么,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。(一)查询缓慢问题*,临时...
    99+
    2022-10-18
  • Linux共享内存实现机制的详解
    Linux共享内存实现机制的详解 内存共享: 两个不同进程A、B共享内存的意思是,同一块物理内存被映射到进程A、B各自的进程地址空间。进程A可以即时看到进程B对共享内存中数据的更新,反之亦然。由于多个进程共...
    99+
    2022-06-04
    详解 机制 内存
  • Python超详细讲解内存管理机制
    目录什么是内存管理机制一、引用计数机制二、数据池和缓存什么是内存管理机制 python中创建的对象的时候,首先会去申请内存地址,然后对对象进行初始化,所有对象都会维护在一 个叫做re...
    99+
    2022-11-11
  • JS堆栈内存的运行机制详解
    目录栈内存 ECStack堆内存数据类型创建步骤在js引擎中对变量的存储主要有两个位置,堆内存和栈内存。栈内存主要用于存储各种基本类型的变量,包括Boolean、Number、Str...
    99+
    2022-11-13
  • SQL SERVER触发器详解
    目录一、触发器的定义二、触发器分类三、创建触发器1、创建insert类型的触发器2、delete触发器3、update触发器4、instead of触发器DDL触发器触发器...
    99+
    2022-11-13
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作