mysql Innodb引擎中缓存池 Buffer Pool原理总结

缓存

    mysql Innodb引擎在处理客户端请求时,当访问某个页的数据的时候,即使我们请求的是某个页中的一条数据记录,也会把整个页从磁盘加载到内存中, 然后在内存中就可以对数据进行读写了,  数据读写之后并不着急把数据对应的内存释放掉,而是将其缓存起来,等再次有数据请求的时候,省去了访问磁盘的IO操作了。

缓冲池 Buffer Pool

    Innodb设计缓冲池,在mysql启动时申请一大块内存,内存的名字就叫做Buffer Pool,其大小是可以通过参数 innodb_buffer_pool_size进行配置的 。

Buffer Pool内部组成    

Buffer Pool 缓存页的大小和磁盘上缓存页的大小是一致的,都是16kb,为了更好地管理这些缓存页,需要为每一个缓存页创建一个控制信息块,内容包括缓存页相关的一些信息:页所属的表空间编号,页号,页在缓冲池中的地址等一些数据;每个控制信息块所占有的内存是固定的,控制信息块和缓存页是一一对应的,在缓存中,控制块在Buffer Pool前部分,缓存页在Buffer Pool后部分。

    mysql服务器系统启动后,首先申请Buffer Pool内存,然后将内存划分为若干个控制信息块和内存块,此时每个块尚未进行缓存数据,此时需要进行管理这些块,把所有的空闲的块通过链表关联到一起,这个链表称为 free链表(和STL中 内存池申请内存后使用链表管理方式类似),每一个缓存页对应的控制信息块都加入了这个链表中。

    链表进行管理这些空闲块,那么关于链表的信息也需要进行存储,Innodb中,特意定义了一个称为 基节点    ,包含链表的头和尾以及节点个数信息。基节点所占有的内存不属于Buffer Pool中的,而是单独申请的一块内存,占用40字节的内存。

    有了free链表之后,当磁盘中读取数据后,从free链表中获取一个空闲的块缓存数据,并将此块从free链表中移除,表示缓存已经被使用(读STL内存分配也是如此操作)。

缓存页的hash处理(查找)

    请求数据时,如果数据在缓存池中,那么直接从缓存池中获取,怎么在缓存池中进行查找呢?  一个个遍历效率闲的太慢了,根据key进行查找快速的方式我们很容易想到hash,解决方案是  采用表空间号+页号作为key,缓存页作为value创建一个hash表;访问某个缓存页数据时,先查找表空间号+页号,如果有则获取缓存页,如果没有则从磁盘读取后获取一个空闲块进行缓存。

flush链表的管理(更新)

    如果修改了某个缓存页的数据,那么就会和磁盘上数据保持不一致,此时这个缓存页被称为脏页(dirty page), 最简单的方式是如果出现脏页,那么立即同步到磁盘,频繁往写数据会严重影响程序的性能,so每次出现脏页,并不着急立即同步到磁盘,在后面某个节点进行同步(后详细叙述);对于在缓存中出现的N多个脏页也需要我们进行管理,不然后面进行同步的时候找不到该同步哪些页,每次出现数据更新,成为脏页后这个页会被添加到一个flush链表中,flush链表构造和free链表差不多,也有个基节点保存链表信息:头节点,尾节点,个数等。

缓存用完了怎么办?

    Buffer Pool缓存池的大小是有限的,如果只是一味的添加数据,无论多大的内存都会用完,所有当从free 链表中获取缓存页发现没有的时候就应该考虑删除一些缓存页数据腾出新的缓存页

        LRU链表:这种方式是添加一个额外的链表(又是链表)管理每个缓存页使用的频率,每次访问缓存页或者从磁盘获取数据添加到新的缓存页时,将此缓存页头插法放入LRU链表中,需要删除时,只需从此链表尾部删除即可。

        LRU存在的问题:Innodb提供了一个贴心的服务称为预读,就是处理服务后可能会读取某些页面,将其加载到缓存页。预读的作用是为了提高语句的执行效率,但如果预读的数据用不到而又占据了LRU的头,那么缓存命中率会降低;其二,如果查询不走索引,那么会进行全表扫描,缓存数据会被全部替换,其他查询也是如此的话Buffer Pool中所有数据又会被重新换一次,大大降低了缓存的命中率。

        解决方案:Innodb设计LRU链表的时候 ,把此链表分成了两段,分别是:一部分存储使用频率非常高的数据,这一部分链表称为热数据(young);另一部分存储使用频率不是很高的数据,称为冷数据(old),二者的长度不是固定不变的,按照某个比例设置;参数innodb_old_block_pct确定冷数据所占的比例;这种设计对以上问题解决方式是:对于预读,数据放在冷数据部分,不占用热数据部分,这样内存不足时删除数据不影响热数据的处理,对于全表扫描,首次把数据放在old区域后,可能马上被再次访问,放入到了young区,这样仍然会把young区域的数据顶下去,防止这种情况出现,需要一个时间判断下加入old区这个数据时间和再次访问时间间隔,如果很短,那么不把数据放入young区,避免了去顶除young数据,这个时间间隔设置的名称就是innodb_old_blocks_time;可以进行修改。

    将LRU链表分成young和old段,再加上innodb_old_blocks_time的设置,可以降低预读和全表表扫描造成的缓存命中率低的问题。

进一步优化

    如果每次访问的数据都会被移动到LRU链表的头部,那么开销也是有点大的,比如两个页被交替访问,也就是交替放到LRU头部,这种频繁在young区内部的移动有点浪费,Innodb规定访问的young中的数据位于young区的后1/4时才会进行移动到链表头的操作,降低了链表频繁调整的频率,提高了性能。    

刷新脏页到磁盘

    后台有一个线程负责过一段时间把脏页刷新到磁盘,这样不影响用户线程处理线上的请求,主要有两种刷新路径:

        从LRU链表冷数据中刷新一部分到磁盘:后台线程从LRU尾部开始扫描,遇到脏页进行刷新到磁盘,具体扫描的页数量通过innodb_lru_scan_depth变量进行控制。

        从flush链表刷新一部分到磁盘:后台线程会从flush链表中刷新一部分到磁盘中。

多个BufferPool实例:

多线程下访问一个BufferPool内存是需要加锁处理的,在多线程环境下采用每个线程访问一个BufferPool实例避免多个线程操作一块内存导致锁竞争。    通过innodb_buffer_pool_instanc设置个数。

        

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,542评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,596评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,021评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,682评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,792评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,985评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,107评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,845评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,299评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,612评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,747评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,441评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,072评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,828评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,069评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,545评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,658评论 2 350

推荐阅读更多精彩内容