容易来说,索引的出现其实就是为了提升数据查询的效率,就像书的目录一样。一本 500 页的书,如果你想快速找到其中的某一个知识点,在不借助目录的情况下,那我估计你可得找一会儿。同样,对于数据库的表而言,索引其实就是它的“目录”。
索引模型
索引的出现是为了提升查询效率,但是实现索引的方式却有很多种,所以这里也就引入了索引模型的概念,一下是常见的三种:
哈希表
哈希表是一种以键值对的方式进行存储的。只要输入key就可以查找到对应的value,哈希思路很容易,就是放在一个有序数组中,通过一个可以计算出hash值的函数算出key指定一个位置,然后再将value放到对应的位置上。
不可避免的还有哈希冲突,也就是算出了同一个哈希值作为key,发生哈希冲突时数据就会延升出一个链表,这个链表会存储value,value会有一个next属性指向下一个value。
图中User1和User4算出了两个相同的哈希值,不过没关系,后面跟了一个链表,假设,这时候你要查 ID_1对应的名字是什么,处理步骤就是:首先,将 ID_1 通过哈希函数算出 N;然后,按顺序遍历,找到 User1。
图中的ID不是自增的,这样做的好处是增加新的 User 时速度会很快,只需要往后追加。但缺点是,因为不是有序的,所以哈希索引做区间查询的速度是很慢的。
你可以设想下,如果你现在要找ID在[ID_X, ID_Y]这个区间的所有用户,就一定要全部扫描一遍了。所以,哈希表这种结构适用于只有等值查询的场景。
有序数组
但是有序数组在等值查询的时候就特别优秀,同样是上面的例子。
这个数组就是按照ID号递增的顺序保存的。这时候如果你要查 ID3 对应的名字,用二分法就可以快速得到,这个时间复杂度是 O(log(N))。
这个索引结构支持范围查询。你要查ID号在[ID_X, ID_Y]区间的 User,可以先用二分法找到 ID_X(如果不存在 ID_X,就找到大于 ID_X 的第一个 User),然后向右遍历,直到查到第一个大于 ID_Y 的ID号,退出循环。
如果仅仅看查询效率,有序数组就是最好的数据结构了,但是需要更新时就很麻烦了,如果要往中间插入数据的话就要挪动后面所有的数据。
一般可以使用在静态数据或者常年不怎么改变的数据进行存储。
搜索树
二叉搜索树的特点是:父节点左子树所有结点的值小于父节点的值,右子树所有结点的值大于父节点的值。
这样如果你要查 ID_4 的话,按照图中的搜索顺序就是按照 UserA -> UserC ->User2 这个路径得到。这个时间复杂度是 O(log(N))。
二叉树是搜索效率最高的,但是实际上大多数的数据库存储却并不使用二叉树。其原因是,索引不止存在内存中,还要写到磁盘上。
如果树节点很多,还很高的话,这个查询效率是非常底的。为了提升效率就一定要尽量的规避IO。
InnoDB 的索引模型
在 InnoDB 中,表都是根据主键顺序以索引的形式存放的,这种存储方式的表称为索引组织表。InnoDB 使用了 B+ 树索引模型,所以数据都是存储在 B+ 树中的。每一个索引在 InnoDB 里面对应一棵 B+ 树。
假设,我们有一个主键列为 ID 的表,表中有字段 k,并且在 k 上有索引。
mysql> create table T(id int primary key, k int not null, name varchar(16),index (k))engine=InnoDB;
然后假设表中有五行数据:(id,k) 值分别为 (100,1)、(200,2)、(300,3)、(400,4) 和 (500,5)。
两棵树的图:
两棵树分为两个索引:主键索引和非主键索引。
- 主键索引的叶子节点存储的是整行的数据。(聚簇索引)
- 非主键索引的叶子节点内容是主键的值。(二级索引)
主键索引和非主键索引的区别
- 如果语句是 select * from T where ID=500,即主键查询方式,则只需要搜索 ID 这棵 B+ 树;
- 如果语句是 select * from T where k=5,即普通索引查询方式,则需要先搜索 k 索引树,得到 ID 的值为 500,再到 ID 索引树搜索一次。这个过程称为回表。
普通索引比主键索引多出了一次查询,所有我们要尽可能的使用自增主键。
维护索引
如果需要在id500后面新增id600,就直接在后面插入,如果说我要中间的位置插入数据的话成本又会显的很高。需要逻辑上挪动后面的数据,空出位置。
如果 R5 所在的数据页已经满了,根据 B+ 树的算法,这时候需要申请一个新的数据页,然后挪动部分数据过去。这个过程称为页分裂。在这种情况下,性能自然会受影响。
页分裂操作还影响数据页的利用率。原本放在一个页的数据,现在分到两个页中,整体空间利用率降低大约 50%,也就是会挪动50%到新的数据页中。
比如我R3,R4,R5,R6挪动50%,到新的数据页里(新的数据页中包含R7因为插入时候不够了所以分页了呀),R3,R4,R5,R6、R7(这是挪过来的数据)。
当然有分裂就有合并。
怎么选择索引,使用自增还是普通的业务索引?
自增主键的插入数据模式,正符合了我们前面提到的递增插入的场景。每次插入一条新记录,都是追加操作,都不涉及到挪动其他记录,也不会触发叶子节点的分裂。
而有业务逻辑的字段做主键,则往往不容易保证有序插入,这样写数据成本相对较高。
还有一方面就是存储空间的考虑:我们上面也说了普通索引的叶子节点存的主键索引的ID。假设身份证这个唯一的字符串做主键索引的话,其他的普通索引的叶子节点就会存储主键索引的值,身份证一般18个子符,可以想象多占空间,如果用整型就是4字节。
主键长度越小,普通索引的叶子节点就越小,普通索引占用的空间也就越小
什么场景适合用业务字段直接做主键的呢?
- 只有一个索引;
- 该索引一定要是唯一索引。
典型的 KV 场景。
索引覆盖
就是主键索引和非主键索引之间,非主键索引总是需要回表。这方面就可以采用索引覆盖去优化,覆盖索引可以减少树的搜索次数,显著提升查询性能,所以使用覆盖索引是一个常用的性能优化手段。
SELECT ID FROM SHADIAO WHERE K 1 BETWEEN 2;
这条语句需要执行几次树的搜索操作,会扫描多少行?
- 去K的索引字段取到k=1,id=100;
- 再到 id 索引树查到 id=100 对应的 R1;
- 再取k=2索引,叶子节点值是id=200;
- 再回表到主键索引id=200取到R2;
- 然后k再取下一个值3,继续循环判断条件成不成立,不成立循环结束。
可以看到这个过程非常的繁琐,来会进行回表的操作,因为根据k查询的结果都在主键中,所以不得不回表取数据。
如果这个语句只需要查询ID的值,而ID的值也已经在k索引上了,因此可以直接提供查询结果,不需要回表了,其实就是这个K已经覆盖了
我们需要的查询结果,被称为覆盖索引。
联合索引
举个栗子:就是如果我有一个id和身份证号加姓名这几个字段,这个时候我要根据身份证号去查询姓名的话,我需不需要把身份证号和姓名建立联合索引(多个索引合起来作为一个联合索引,如(card,name,size>1单值索引是联合索引size=1的特例)?
答案是肯定的,建立联合索引后,查询身份证号的时候就不用去回表去主键索引拿到整行数据再找到姓名这个字段了,而是直接将姓名这个字段结果返回了。(因为联合索引存的是联合字段+主键值)。
其实索引高多了成本也是很高的。
最左前缀
接上个栗子:给姓名和身份证号建立联合索引(name,card_id)可以看的我是顺序排列的,从左往右。
使用语句 like “name%” 这个索引就会生效:
- 顾名思义:最左优先,以最左边的为起点任何连续的索引都能匹配上。同时遇到范围查询(>、<、between、like)就会停止匹配(like “name%”会生效,like “%name”不会生效)。
- 例如:b = 2 如果建立(a,b)顺序的索引,是匹配不到(a,b)索引的;但是如果查询条件是a = 1 and b = 2-或者a=1(又或者是a = 2 and b = 1)就可以,因为优化器会自动调整a,b的顺序。
- 再比如a = 1 and b = 2 and c > 3 and d = 4 如果建立(a,b,c,d)顺序的索引,d是用不到索引的,因为c字段是一个范围查询,它之后的字段会停止匹配。
索引下垂
还是用(name,card_id)这个例子,这两个是个联合索引,查询语句 like “name%” 就可以获取到数据了,但是如果我加了一个条件,语句变成了 like “name%” and card_id=2;
再遍历这两个索引的时候先对索引列进行判断,直接过滤掉不满足条件的记录,减少回表次数。
小结
如果有了(a,b)两个联合索引后就不需要去单独维护一个a的索引了。
如果有一个基于a、b给自的查询语句,比如条件里面只有b的话(a,b)索引就不会生效,这时候就不得不单独维护一个单独的索引了。
建立联合索引可以有效的避免回表次数。比如(a,b)两个索引,这和时候通过a去查询到b的值的时候就可以直接获取到b的数据而不用回表去查询了。(联合索引包含了字段值+主键id)
覆盖索引是一种优化索引,可以减少回表,就是当我这个索引包含了要查询的字段的值就可以不用回表查询而是直接返回。