MYSQL实战优化——buffer pool介绍

Buffer pool详解

1、回顾一下buffer pool是个什么东西
它是一个非常关键的组件,我们都知道数据库中的数据实际上最终都是要存放在磁盘文件上的,但是我们在对数据库执行增删改的时候,不可能直接更新磁盘上的数据,因为如果你对磁盘进行随机读写操作,那速度是相当的慢,随便一个大磁盘文件的随机读写操作,可能都要几百毫秒。如果要是那么搞的话,可能你的数据库每秒也就只能处理几百个请求了。之前我们已经讲过了,你在对数据库执行增删改操作的时候,实际上主要都是针对内存里的buffer pool中的数据进行的,也就是实际上主要是对数据库的内存里的数据结构进行了增删改。我们再来回顾一下之前画的图:

commit1.jpg

一句话总结,buffer pool就是数据库的一个内存组件,里面缓存了磁盘上的真实数据,然后我们的java系统对数据库执行的增删改操作,其实主要就是对这个内存数据结构中的缓存数据执行的。

2、如何配置buffer pool的大小?
buffer pool本质是数据库的一个内存组件,就是一片内存数据结构,所以这个内存数据结构肯定是有一定的大小的,不可能是无限大的。buffer pool默认情况下是128MB,还是有一点偏小了,我们实际生产环境下完全可以对buffer pool进行调整。假如我们的数据库是16核32G的机器,那么你可以给buffer pool分配个2G的内存使用下面的配置就可以了。

innodb_buffer_pool_size=2147483648

3、数据页:MySQL中抽象出来的数据单位
现在我们来看一个问题,就是数据是如何放在buffer pool中的?我们都知道数据库中的核心数据模型就是表+字段+行的概念,那么我们的数据是一行一行的放在buffer pool里面的吗?其实不是的,\color{green}{实际上MySQL对数据抽象出来了一个数据页的概念},它把很多行数据放在了一个数据页里,也就是说我们的磁盘文件中就是会有很多的数据页,每一页数据里放了很多行数据。所以实际上假设我们要更新一行数据,此时数据库会找到这行数据所在的数据页,然后从磁盘文件里把这行数据所在的数据页直接加载到buffer pool里去,也就是说,buffer pool中存放的是一个一个的数据页,如下图:

buffer1.jpg

4、磁盘上的数据页和buffer pool中的缓存页是如何对应起来的?
默认情况下,磁盘中存放的数据页的大小是16kb,也就是说,一页数据包含了16kb的内容。而buffer pool中存放的一个一个的数据页,我们通常叫做缓存页,因为毕竟buffer pool是一个缓冲池,里面的数据都是从磁盘缓存到内存里去的。而buffer pool中默认情况下,一个缓存页的大小和磁盘上的一个数据页的大小是一一对应起来的,都是16kb。

5、缓存页对应的描述信息是什么?
对于每个缓存页它实际上都会有一个描述信息,包含如下一些东西:这个数据页所属的表空间、数据页的编号、这个缓存页在buffer pool中的地址等等。每个缓存页都会对应一个描述信息,这个描述信息本身也是一块数据,在buffer poo中,每个缓存页的描述数据放在最前面,然后各个缓存页放在后面。我们来看下面的示意图:

buffer2.jpg

这里我们要注意一点,buffer pool中的描述数据大概相当于缓存页大小的5%左右,也就是每个描述数据大概是800个字节左右的大小,然后假设你设置的buffer pool大小是128MB,实际上buffer pool真正的最终大小会超出一些,可能有个130多MB的样子,因为它里面还要存放每个缓存页的描述数据。

6、数据库启动的时候是如何初始化buffer pool的?
数据库只要一启动,就会按照你设置的buffer pool大小,稍微再加大一点,去找操作系统申请一块内存区域,作为buffer pool的内存区域。当内存区域申请完毕之后,数据库就会按照默认的缓存页大小(16kb)以及对应的描述数据的大小(800字节左右),在buffer pool中划分出来一个一个的缓存页和它们对应的描述数据。只不过这个时候,buffer pool中的一个一个的缓存页都是空的,里面什么都没有,要等数据库运行起来之后,当我们要对数据执行增删改查操作的时候,才会把数据对应的页从磁盘文件里读取出来,放入buffer pool的缓存页中。

free 链表

当从磁盘上读取数据页放入buffer pool中的缓存页的时候,必然涉及到一个问题,那就是哪些缓存页是空闲的?这里就用到了\color{green}{free链表}!数据库会为buffer pool设计一个free链表,它是一个双向链表数据结构,在这个free链表里,每一个节点就是一个空闲的缓存页的描述数据块的地址,也就是说,只要一个缓存页是空闲的,那么它的描述数据块就会被放入这个free链表中。数据库刚启动的时候可能所有的缓存页都是空闲的,所以此时所有的缓存页的描述数据块都会被放入这个free链表中。我们看下示意图:

free1.jpg

大家可以看到上面出现了一个free链表,这个free链表里面就是各个缓存页的描述数据块,只要缓存页是空闲的,那么它们对应的描述数据块就会加入到这个free链表中,每个节点都会双向链接自己的前后节点,组成一个双向链表。除此之外,这个free链表有一个基础节点,它会引用链表的头节点和尾节点,里面还存储了链表中有多少个描述数据块的节点,也就是有多少个空闲的缓存页。

1、free链表占用多少内存空间?
free链表本身就是有buffer pool里的描述数据块组成的,每个描述数据块里都有两个指针,一个是free_pre,一个是free_next,分别指向自己的上一个free链表的节点,以及下一个free链表的节点。通过buffer pool中的描述数据块的free_pre和free_next两个指针,就可以把所有的描述数据块串成一个free链表,上面为了画图需要,所以把描述数据块单独画了一份出来,表示它们之间的指针引用关系。对于一个free链表,只有一个基础节点是不属于buffer pool的,它是40字节大小的一个节点,里面就存放了free链表的头节点地址,尾节点的地址,还有free链表里当前有多少个节点。

2、如何将磁盘上的页读取到buffer pool的缓存页中去?
首先,我们需要从free链表里获取一个描述数据块,然后就可以对应的获取到这个描述数据块对应的空闲缓存页。接着我们就可以把磁盘上的数据页读取到对应的缓存页里去,同时把相关的一些描述数据写入缓存页的描述数据块里去,比如这个数据页所属的表空间之类的信息,最后把那个描述数据块从free链表里去除就可以了。

3、如何知道数据页有没有被缓存?
数据库其实会有一个哈希表数据结构,它会用表空间号+数据页号,作为一个key,然后缓存页的地址作为value,当你要使用一个数据页的时候,通过“表空间号+数据页号”作为key去这个哈希表里查一下,如果没有就读取数据页,如果已经有了,就说明数据页已经被缓存了。也就是说,每次读取一个数据页到缓存之后,都会在这个哈希表中写入一个key-value对,那么下次如果你再使用这个数据页,就可以从哈希表里直接读取出来。

flush 链表

1、脏数据页到底为什么会脏?
通过之前的讲解我们知道,你要更新的数据页都会在buffer pool的缓存页里,供你在内存中直接执行增删改的操作。当你更新了buffer pool的缓存页中的数据后,那么缓存页里的数据和磁盘上的数据页里的数据就不一致了,这个时候,我们就说缓存页是脏数据,脏页。

2、哪些缓存页是脏页?
通过之前的学习,我们都知道一点,最终内存里更新的脏页的数据都是要被刷回磁盘文件的。但是这里有一个问题,不可能所有的缓存页都刷回磁盘的,因为有的缓存页可能是因为查询的时候被读取到buffer pool里的,根本没有被修改过。所以数据库在这里引入了另外一个跟free链表类似的\color{green}{flush链表},这个flush链表本质也是通过缓存页的描述数据块中的两个指针,让被修改过的缓存页的描述数据块,组成一个双向链表。凡是被修改过的缓存页,都会把它的描述数据块加入到flush链表中去,flush的意思就是这些都是脏页,后续都是要flush刷新到磁盘上去的。flush链表数据结构和free完全一样,我们这里就不再给示意图。

\color{green}{本文结束}

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353