前言
InnoDB 存储引擎作为 MySQL的默认存储引擎,功能十分强大,并且具备高可用性、高性能以及高可扩展性,这里将简要介绍 InnoDB 的整体结构和核心功能
整体架构
MySQL 数据库从结构可以分为三层:服务层、存储引擎层和文件存储层,
- 服务层主要负责一些公共能力的封装,比如:鉴权、连接池、备份、恢复、SQL 的解析和优化等
- 存储引擎层负责对 Server 层优化之后的 SQL 进行执行并组装返回结果集,同事可以以插件化的方式集成多种存储引擎,便于根据具体的业务场景来选择(存储引擎是基于表的,与数据库库无关)
- 文件存储层主要是数据库中所有的物理文件的集合,包括:数据文件、索引文件以及一些备份的文件
InnoDB 存储引擎结构
后台线程
主要负责:1.从磁盘 load 数据到缓冲池、2. 刷新脏页到磁盘、3. 其他后台任务,比如:插入缓冲合并 (insert buffer merge)
缓冲池
物理内存中 80% 的内存空间分配给缓冲池(buffer pool,后面将用该专用名词),buffer pool 主要用来缓存磁盘文件上的数据(物理数据页、索引页等),通过对 buffer pool 的读写来降低直接对磁盘读写时速度上的影响,进而提升 InnoDB 的整体性能
buffer pool 被划分为包含多行数据的页(page)来提高读取操作时的效率,(目的:尽可能一次 IO 能够操作多行数据),将 page 以链表的形式组成,并通过改进后的 LRU(最近最少使用) 算法来对缓存池进行管理
Buffer Pool 管理
buffer pool 使用改进后的 LRU 算法来管理 page 组成的链表。在 3/8 的位置加入了 midpoint ,在 midpoint 之前的为 New 列表,之后的为 Old 列表,新读取到的 page 将会放到 midpoint 的位置(可以理解为 New 列表中的页都是活跃的热点数据)
为什么不将读取的页放到 LRU 的 Head?
某些大数据量 SQL 操作可能使缓冲池中的页被刷新出,从而影响缓存池的效率,如:索引\数据扫描
innodb_old_block_tims
插入到 old 列表的 page 在第一次访问后必须停留 innodb_old_block_times 之后才能移动到 new 列表(默认 1s)。当 old 列表中的 page 被淘汰,称为:为 page not made young,当 old 中的页晋升到 new 中则称为 page made young
核心特性
插入缓冲
对二级索引数据进行插入时,需要在 buffer pool 找到对应的索引页再修改,而当该二级索引(非唯一索引) 在 buffer pool 中不存在时,批量插入场景下导致会进行大量随机的查找索引页 IO 操作,此时 innodb 通过插入缓冲(insert buffer)来优化该问题
以二级索引插入为例,此刻流程:
- 判断 buffer pool 中是否存在插入数据对应的二级索引页
- 存在则修改后返回(变为脏页)
- 不存在从磁盘随机查找该页并放到 buffer pool
- 重复 2
插入缓冲则当进入3时,将该索引数据放到 Insert buffer 中,然后返回表示该索引已插入到 buffer pool ,最后通过后台任务按一定频率对其与二级索引的叶子节点进行 merge
innodb 1.0.x 版本之后也叫 change buffer,因为后面对 update、delete 操作都做了兼容
Double Write
当存储引擎的后台线程正在将 page 刷新磁盘时,如果 16KB 大小的 page,只写到 4KB 就宕机了则会引起未写成功的 12KB 的数据丢失(partial page write)。Double Write 主要流程为,先将脏页复制到 doublewrite buffer(内存,大小 2MB):
- 将 doublewrite buffer 顺序写【共享表空间】的物理磁盘(主要用来恢复,所以顺序写即可,性能较高,不用考虑逻辑上的顺序)
- 将 doublewrite buffer 离散写各个表空间的物理磁盘(真正开始写)
此时如果在 2 的操作中发生 partial page write (部分写失败)问题时,则可以从【共享表空间】中的 doublewrite 找到该页的一个副本,再应用重做日志进行恢复
自适应哈希
哈希算法在查找的时间复杂度为 O(1),在查询效率上十分高。 innodb 作为高性能的存储引擎虽然底层通过 b+ 树来构造索引提高查询效率,但并未止步于此。
InnoDB 存储引擎会监控对标上个索引页的查询,如果观察到建立哈希索引可以带来速度提升,则建立索引,后者成为【自适应哈希索引】(adaptive hash index AHI),建立时只需对 b+ 树中的热点页建立哈希索引,因此速度很快。(注意:哈希索引只能在等值查询的条件上生效)
参考:
https://dev.mysql.com/doc/refman/8.0/en/innodb-in-memory-structures.html