[MySQL][索引][下][理解索引]详细讲解

0.前期准备

• 建立测试表

  create table if not exists user (
  id int primary key, --一定要添加主键，只有这样才会默认生成主键索引
  age int not null,
  name varchar(16) not null
  );
  
  mysql> show create table user \G
  *************************** 1. row ***************************
  Table: user
  Create Table: CREATE TABLE `user` (
  	`id` int(11) NOT NULL,
  	`age` int(11) NOT NULL,
  	`name` varchar(16) NOT NULL,
  	PRIMARY KEY (`id`)
  ) ENGINE=InnoDB DEFAULT CHARSET=utf8 --默认就是InnoDB存储引擎
  

• 插入多条记录

  • 注意：这里并没有按照主键的大小顺序插入

  # 插入多条记录，
  insert into user (id, age, name) values(3, 18, '杨过');
  insert into user (id, age, name) values(4, 16, '小龙女');
  insert into user (id, age, name) values(2, 26, '黄蓉');
  insert into user (id, age, name) values(5, 36, '郭靖');
  insert into user (id, age, name) values(1, 56, '欧阳锋');
  

• 查看插入结果，发现竟然默认是有序的，是谁干的呢？排序有什么好处呢？

  • mysqld自己做的
  • 可以很方便地引入目录

  select * from user;
  +----+-----+-----------+
  | id | age | name      |
  +----+-----+-----------+
  | 1  | 56  | 欧阳锋    |
  | 2  | 26  | 黄蓉      |
  | 3  | 18  | 杨过      |
  | 4  | 16  | 小龙女    |
  | 5  | 36  | 郭靖      |
  +----+-----+-----------+
  

1.为何IO交互要是Page？

• 为何MySQL和磁盘进行IO交互的时候，要采用Page的方案进行交互呢？用多少，加载多少不香吗？
  • 如上面的5条记录，如果MySQL要查找id=2的记录，第一次加载id=1，第二次加载id=2，一次一条记录，那么就需要2次IO。如果要找id=5，那么就需要5次IO
  • 但如果这5条(或者更多)都被保存在一个Page中(16KB，能保存很多记录)，那么第一次IO查找id=2的时候，整个Page会被加载到MySQL的Buffer Pool中，这里完成了一次IO。但是往后如果在查找id=1,3,4,5等，完全不需要进行IO了，而是直接在内存中进行了，所以，就在单Page里面，大大减少了IO的次数
• 怎么保证，用户一定下次找的数据，就在这个Page里面？
  • 不能严格保证，但是有很大概率，因为有局部性原理
• 往往IO效率低下的最主要矛盾不是IO单次数据量的大小，而是IO的次数

2.理解单个Page

• MySQL中要管理很多数据表文件，而要管理好这些文件，就需要 先描述，再组织

  • 目前可以简单理解成一个个独立文件是由一个或者多个Page构成的
  • MYSQL内部，一定需要并且会存在大量的Page，也就决定了，MYSQL必须要将多个同时存在的Page管理起来
  • 要管理所有的MYSQL内的Page，需要 先描述，再组织

• 不同的Page，在MySQL中，都是16KB，使用 prev 和 next 构成双向链表

• 因为有主键的问题， MySQL会默认按照主键给数据进行排序，从下面的Page内数据记录可以看出，数据是有序且彼此关联的
  

• 为什么数据库在插入数据时要对其进行排序呢？按正常顺序插入数据不是也挺好的吗？

  • 插入数据时排序的目的，就是优化查询的效率
  • 页内部存放数据的模块，实质上也是一个链表的结构，链表的特点也就是增删快，查询修改慢，所以优化查询的效率是必须的
  • 正是因为有序，在查找的时候，从头到后都是有效查找，没有任何一个查找是浪费的，而且，如果运气好，是可以提前结束查找过程的

3.理解多个Page

• 上面页模式中，只有一个功能，就是在查询某条数据的时候直接将一整页的数据加载到内存中，以减少硬盘IO次数，从而提高性能。但是，现在的页模式内部，实际上是采用了链表的结构，前一条数据指向后一条数据，本质上还是通过数据的逐条比较来取出特定的数据
• 如果有1千万条数据，一定需要多个Page来保存1千万条数据，多个Page彼此使用双链表链接起来，而且每个Page内部的数据也是基于链表的。那么，查找特定一条记录，也一定是线性查找，这效率也太低了
  

4.页目录

• 在看一本书的时候，比如要看<刘姥姥进大观园>，找到该章节有两种做法
  • 从头逐页的向后翻，直到找到目标内容
  • 通过书提供的目录，发现其在234页(假设)，那么便直接翻到234页。
• 同时，查找目录的方案，可以顺序找，不过因为目录肯定少，所以可以快速提高定位
• 本质上，书中的目录，是多花了纸张的，但是却提高了效率
  • 所以，目录，是一种**“空间换时间的做法”**

5.单页情况

• 针对上面的单页Page，能否也引入目录呢？
  • 当然可以
  • 此时，如果要查找id=4记录，之前必须线性遍历4次，才能拿到结果。现在直接通过目录2[3]，直接进行定位新的起始位置，提高了效率
• 现在可以再次正式回答上面的问题了，为何通过键值MySQL会自动排序？
  • 可以很方便引入目录
    

6.多页情况

• MySQL中每一页的大小只有 16KB，单个Page大小固定，所以随着数据量不断增大，16KB不可能存下所有的数据，那么必定会有多个页来存储数据

• 在单表数据不断被插入的情况下， MySQL 会在容量不足的时候，自动开辟新的Page来保存新的数据，然后通过指针的方式，将所有的Page组织起来

• 需要注意，下面的图，是理想结构，目前要保证整体有序，那么新插入的数据，不一定会在新Page上面，这里仅仅做演示

• 这样，就可以通过多个Page遍历，Page内部通过目录来快速定位数据

  • 可是，貌似这样也有效率问题，在Page之间，也是需要MySQL遍历的
  • 遍历意味着依旧需要进行大量的IO，将下一个Page加载到内存，进行线性检测
  • 这样就显得之前的Page内部的目录，有点杯水车薪了
    

• 那么如何解决呢？

  • 给Page也带上目录
  • 使用一个目录项来指向某一页，而这个目录项存放的就是将要指向的页中存放的最小数据的键值
  • 和页内目录不同的地方在于，这种目录管理的级别是页，而页内目录管理的级别是行
  • 其中，每个目录项的构成是：键值+指针，图中没有画全
    

• 存在一个目录页来管理页目录，目录页中的数据存放的就是指向的那一页中最小的数据

  • 有数据，就可通过比较，找到该访问哪个Page，进而通过指针，找到下一个Page

• 其实目录页的本质也是页，普通页中存的数据是用户数据，而目录页中存的数据是普通页的地址

• 可是，每次检索数据的时候，该从哪里开始呢？虽然顶层的目录页少了，但是还是要遍历啊？

  • 不用担心，可以再加目录页
  • 这种数据结构就是传说中的B+树
  • 至此，已经给表user构建完了主键索引

• 索引的本质：就是数据结构B+树

• 随便找一个id=?，现在查找的Page数一定减少了，也就意味着IO次数减少了，那么效率也就提高了
  

7.总结复盘

• Page分为目录页和数据页，目录页只放各个下级Page的最小键值
• 查找的时候，自顶向下找，只需要加载部分目录页到内存，即可完成算法的整个查找过程，大大减少了IO次数

8.InnoDB 在建立索引结构来管理数据的时候，其他数据结构为何不行？

• 链表？

  • 线性遍历

• 二叉搜索树？

  • 退化问题，可能退化成为线性结构

• AVL && 红黑树？

  • 虽然是平衡或者近似平衡，但是毕竟是二叉结构，相比较多阶B+，意味着树整体过高，都是自顶向下找，层高越低，意味着系统与硬盘更少的IO Page交互
  • 虽然你很秀，但是有更秀的:P

• Hash？

  • 官方的索引实现方式中， MySQL是支持HASH的，不过 InnoDB 和 MyISAM 并不支持
  • Hash根据其算法特征，决定了虽然有时候也很快(O(1))，不过，在面对范围查找就明显不行
    

• B树？最值得比较的是InnoDB为何不用B树作为底层索引？

  • 目前这两棵树，对我们最有意义的区别是：
    • B树节点，既有数据，又有Page指针，而B+，只有叶子节点有数据，其他目录页，只有键值和Page指针
      • 路上节点不存储data，这样一个节点就可以存储更多的key，可以使得树更矮，所以IO操作次数更少[结构角度]
      • 每一个节点，都有目录项，可以大大提高搜索效率[算法角度]
    • B+叶子节点，全部相连，而B没有，这是B+的特点
      • 叶子节点相连，更便于进行范围查找

• B树
  

• B+树
  

9.聚簇索引 vs 非聚簇索引

• MyISAM引擎同样使用B+树作为索引结果，叶节点的data域存放的是数据记录的地址

  • 下图为 MyISAM 表的主键索引，Col1 为主键
    

• 其中，MyISAM 最大的特点是将索引Page和数据Page分离，也就是叶子节点没有数据，只有对应数据的地址

  • 相较于 InnoDB 索引， InnoDB 是将索引和数据放在一起的

• MyISAM 这种用户数据与索引数据分离的索引方案，叫做非聚簇索引

• InnoDB 这种用户数据与索引数据在一起索引方案，叫做聚簇索引

  -rw-r----- 1 mysql mysql 8586 Jun 13 13:33 mtest.frm --表结构数据
  -rw-r----- 1 mysql mysql 0 Jun 13 13:33 mtest.MYD --该表对应的数据，当前没有数据，所以是0
  -rw-r----- 1 mysql mysql 1024 Jun 13 13:33 mtest.MYI --该表对应的主键索引数据
  
  -rw-r----- 1 mysql mysql 8586 Jun 13 13:39 itest.frm --表结构数据
  -rw-r----- 1 mysql mysql 98304 Jun 13 13:39 itest.ibd --该表对应的主键索引和用户数据/
  虽然现在一行数据没有，但是该表并不为0，因为有主键索引数据
  

• 当然， MySQL 除了默认会建立主键索引外，用户也有可能建立按照其他列信息建立的索引，一般这种索引可以叫做辅助(普通)索引

  • 对于 MyISAM，建立辅助(普通)索引和主键索引没有差别，无非就是主键不能重复，而非主键可重复

• 下图就是基于 MyISAM 的 Col2 建立的索引，和主键索引没有差别
  

• 同样， InnoDB 除了主键索引，用户也会建立辅助(普通)索引，以上表中的 Col3 建立对应的辅助索引如下图
  

• 可以看到，InnoDB 的非主键索引中叶子节点并没有数据，而只有对应记录的key值

  • 所以通过辅助(普通)索引，找到目标记录，需要两遍索引：
    • 首先检索辅助索引获得主键
    • 然后用主键到主索引中检索获得记录
  • 这种过程，就叫做回表查询

• 为何 InnoDB 针对这种辅助(普通)索引的场景，不给叶子节点也附上数据呢？

  • 原因就是太浪费空间了