MySQL-脏页的刷新机制

MySQL内存结构-缓冲区

MySQL的缓冲区中有数据页,索引页,插入缓冲等等,这个角度是从页的功能来分类的。本小节从另一个视角关注这些页,如果从 是否被修改过(和磁盘不一致) 这个角度来区分这些页,那么页可以被分为干净的页和脏页。

  • 干净页:内存中的数据和磁盘一致
  • 脏页:内存中的数据和磁盘不一致

本小节主要关注脏页刷新到磁盘的机制,首先需要了解缓冲区的内存管理细节。

内存管理机制简述

缓冲区中包含这三大类列表。分别为:LRUList、FreeList、FlushList。

在数据库刚启动时,LRUlist中并没有数据页,空闲页都存放在FreeList中,当需要读取某个页时,会从free列表中获取一个空闲页,读入数据后,放入LRU列表中;如果free中没有空闲页了,那么根据LRU算法淘汰Lru列表中末位的页。

  • LRU列表:管理已经被读取的页
  • Free列表:管理空闲的页

当LRU中的页被修改后,页就变成了脏页,这个页也会被加入Flush列表中。注意:这时这个页既在LRU列表中,又在Flush列表中。

  • Flush列表:管理脏页

总结:LRUList和FreeList用来管理页的可用性;Flush列表用来管理脏页的刷新

脏页的刷新机制-checkpoint机制
数据修改和读取只依赖缓冲区行不行?

如果数据修改和读取只依赖内存的缓冲区,那么一旦数据库宕机,内存中的数据都会丢失。所以MySQL使用之前讲过的redo log来实现异常重启的数据恢复,redolog相关介绍可以看篇文章:MySQL-redo log 和 binlog

简单来说,就是在更新缓冲区之前,先写入redo log,保证异常重启之后可以正常恢复缓冲区中的数据。

脏页为什么一定要刷新?

考虑这种情况

  • 缓冲区可以无限大
  • redo log可以无限大或者无限拆分为多个文件

如果缓冲区无限大,可以装下所有的磁盘数据,redo log也可以无限大,那么就算异常重启,依靠redo log也可以恢复所有的更新。但现实中,首先,缓冲区依赖的内存空间不可能无限大,现实中有许多TB级别的数据库,但是目前还没有TB级别的内存;并且 redo log如果无限大或者有许多个文件,对运维和管理也是一个考验;最后,如果系统中有大量的修改操作,一旦宕机,恢复的时间也会非常长。

所以自然而然,我们就一定需要把内存中的脏页按照某种规则刷新到磁盘中,有了刷新这个操作,缓冲区的大小问题和redo log的大小问题都可以解决。

  1. 缓冲区不需要无限大了,因为可以持久化到磁盘
  2. redo log也不需要无限大了,因为一旦持久化到磁盘,redo log中对应的那部分数据就可以释放。
如何刷新呢?

上部分讨论的是脏页刷新到磁盘的必要性。那具体应该如何刷新呢?MySQL中,刷新的规则叫checkpoint机制。

在InnoDB存储引擎中,有两种checkpoint:

  • sharp checkpoint:在数据库关闭时,刷新所有的脏页到磁盘,这里有参数控制,默认是开启的
  • fuzzy checkpoint:刷新一部分脏页到磁盘中。

关于Fuzzy checkpoint,InnoDB存储引擎中可能包括如下几种:

  • 定时刷新 - master thread做
  • Flush LRUlist checkpoint -page cleaner thread做
  • async/sync checkpoint -page cleaner thread做
  • dirty too much checkpoint -?谁做?

刷新机制用更通俗易懂的角度来分析,上面的四种类型可以对应下面的

  • 无论如何,定时刷新
  • 当LRU中列表中空闲页不足时,强制LRU删除一些末尾的页,如果存在脏页,那么需要checkpoint刷新
    • 使用innodb_lru_scan_depth来控制最少空闲页的数量
  • 当重做日志不够用时,从flush 列表中选择一些页,强制checkpoint刷新
    • 重做日志有两个水位:async水位 75% * innodb的总大小;sync水位:90* innodb大小。
    • 当未刷新的数据大小 小于 低水位,不需要刷新
    • 当未刷新的数据大小 大于 低水位,小于高水位,异步刷新,保证刷新后小于 低水位
    • 当未刷新的数据大小 大于 高水位,同步阻塞刷新,保证刷新后小于 低水位。
  • 关注系统中的整体脏页比例,如果达到一定比例,强制刷新
    • 使用 innodb_dirty_page_pct来控制这个比例数值,默认时75%
master thread中的定时刷新机制

1)InndoDB1.0.x版本之前的master thread。
每秒,会进行一次 dirty too much checkpoint。
每10秒

  • 判断过去10秒的IO操作是否小于200次,如果是,刷100个脏页;
  • 判断系统当前脏页比例,如果超过70%,刷新100个;如果小于70%,刷新脏页的10%

2)InndoDB1.2.x版本之前的master thread。
在1.0.x存在硬编码,每秒最多只会刷新100个脏页到磁盘中,这种规定其实限制了性能更高的SSD磁盘。

在1.0.x版本,可以使用innodb_io_capacity来表示磁盘io的吞吐量。刷新脏页的数量由innodb_io_capacity来控制,默认是200。

总结

了解脏页刷新机制以及相应的参数是很有必要的,当数据库系统某些性能问题时,要考虑是否是脏页刷新相关的配置参数不合理导致的。

根据实际业务,考虑缓冲区的大小,redo log的大小,最少空闲页,脏页比例,io吞吐量相关参数是否配置合理,根据优化相关参数,解决系统问题。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,204评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,091评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,548评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,657评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,689评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,554评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,302评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,216评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,661评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,851评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,977评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,697评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,306评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,898评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,019评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,138评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,927评论 2 355