网站开发后端工资多少,餐饮加盟网站制作,南宁网站建设哪家好,特效网站一、为什么使用索引 以及 索引的优缺点 1.为什么使用索引 索引是存储引擎用于快速找到数据记录的一种数据结构#xff0c;就好比一本教科书的目录部分#xff0c;通过目录中找到对应文章的页码#xff0c;便可快速定位到需要的文章。Mysql中也是一样的道理#xff0c;进行数… 一、为什么使用索引 以及 索引的优缺点 1.为什么使用索引 索引是存储引擎用于快速找到数据记录的一种数据结构就好比一本教科书的目录部分通过目录中找到对应文章的页码便可快速定位到需要的文章。Mysql中也是一样的道理进行数据查找时首先查看查询条件是否命中某条索引符合则通过索引查找相关数据如果不符合则需要全表扫描即需要一条一条的查找记录直到找到与条件符合的记录。 如上图所示数据库没有索引的情况下数据 分布在硬盘的不同位置上面读取数据时摆臂需要前后摆动查找数据这样操作非常消耗时间如果数据顺序摆放那么也需要从1到6行安顺序读取这样就相当于进行了6次IO操作依旧非常耗时如果我们不借助任何索引结构帮助我们快速定位数据的话我们查找 Col 2 89 这条记录就要逐行去查找去比较。从Col 2 34 开始 进行比较发现不是继续下一行。我们当前的表只有不到10行数据但是如果表很大的话有上千万条数据。就意味着要做 非常多次磁盘IO 才能找到。现在要查找Col 2 89这条记录CPU 必须先去磁盘查找这条记录找到之后加载到内存在对数据进行处理这个过程最耗时间的就是磁盘IO (涉及到磁盘的旋转时间 速度较快磁头的寻道时间速度慢、耗时)。 假如给数据使用 二叉树 这样的数据结构进行存储如下图所示 对字段Col 2 添加了索引就相当于在硬盘上为Col 2维护了一个索引的数据结构即这个 二叉搜索树二叉搜索树的每个节点存储的是k,v结构value是该key所在行的文件指针地址。比如该二叉搜索树的根节点就是340x07。现在对col 2添加了索引。这时再去查找Col 2 89这条记录的时候会先去查找该二叉搜索树二叉树的遍历查找。读34到内存89 》 34;继续右侧数据读89到内存89 89找到数据返回。找到之后就根据当前结点的vaiue快速定位到要查找的记录对应的地址我们可以发现只需要查找两次就可以定位到记录的地址查询速度就提高了。 这就是我们为什么要建索引目的就是为了减少磁盘IO的次数加快查询速率。 2.索引的优缺点 2.1 索引概述 MySQL官方对索引的定义为索引Index是帮助MySQL高效获取数据的数据结构。 索引的本质索引是数据结构。你可以简单理解为“排好序的快速查找数据结构”满足特定查找算法。这些数据结构以某种方式指向数据 这样就可以在这些数据结构的基础上实现 高级查找算法 。 索引是在存储引擎中实现的因此每种存储引擎的索引不一定完全相同并且每种存储引擎并不一定支持所有索引类型同时存储引擎可以定义每个表的最大索引数 和 最大索引长度。所有存储引擎支持每个表至少16个索引总索引长度至少为256字节。有些存储引擎支持更多的索引数和更大的索引长度。 2.2 优点 1类似大学图书馆建书目索引提高数据检索的效率降低 数据库的 IO 成本 这也是创建索引最主要的原因。 2通过创建唯一索引可以保证数据库表中每一行 数据的唯一性 。 3 在实现数据的参考完整性方面可以 加速表和表之间的连接 。换句话说对于有依赖关系的子表和父表联合查询时 可以提高查询速度。 4在使用分组和排序子句进行数据查询时可以显著 减少查询中分组和排序的时间 降低了 CPU 的消耗。 2.3 缺点 增加索引也有许多不利的方面主要表现在如下几个方面 1创建索引和维护索引要 耗费时间 并且随着数据量的增加所耗费的时间也会增加。 2索引需要占 磁盘空间 除了数据表占数据空间之外每一个索引还要占一定的物理空间 存储在磁盘上 如果有大量的索引索引文件就可能比数据文件更快达到最大文件尺寸。 3虽然索引大大提高了查询速度同时却会 降低更新表的速度 。当对表中的数据进行增加、删除和修改的时候索引也要动态地维护这样就降低了数据的维护速度。 因此选择使用索引时需要综合考虑索引的优点和缺点。 索引可以提高查询的速度但是会影响插入记录的速度这种情况下最好的办法是先删除表中的索引然后插入数据插入完成后再创建索引。 二、InnoDB中索引的推演 2.1 索引之前的查找 先来看一个精确匹配的例子 SELECT [列名列表] FROM 表名 WHERE 列名 xxx; 1). 在一个页中的查找 假设目前表中的记录比较少所有的记录都可以被存放到一个野种在查找记录的时候可以根据搜索条件的不同分为两种情况。
以主键为搜索条件 可以在页目录中使用 二分法快速定位到对应的槽然后再遍历该槽对应分组中的记录即可快速找到指定的记录。以其他列作为搜索条件 因为在数据页中并没有对非主键列建立所谓的页目录所以我们无法通过二分法快速定位相应的槽这种情况下只能从最小记录开始依次遍历单链表中的每条记录然后对比每条记录是不是符合搜索条件很显然这种查找的效率是非常低的。 · 2). 在很多页中查找 大部分情况下我们表中存放的记录都是非常多的需要好多的数据页来存储这些记录。在很多页中查找记录的话可以分为两个步骤
定位到记录所在页从所在页内中查找相应的记录 在没有索引的情况下不论是根据主键列或者其他列的值进行查找由于我们并不能快速的定位到记录所在的页所以只能 从第一个页 沿着 双向链表 一直往下找在每一个页中根据我们上面的查找方式去查找指定的记录。因为要遍历所有的数据页所以这种方式显然是 超级耗时 的。如果一个表有一亿条记录呢此时 索引 应运而生。 2.2 设计索引 建一个表 mysql CREATE TABLE index_demo( - c1 INT , - c2 INT , - c3 CHAR ( 1 ), - PRIMARY KEY (c1) - ) ROW_FORMAT Compact; 这个新建的 index_demo 表中有2个INT类型的列1个CHAR(1)类型的列而且我们规定了c1列为主键 这个表使用 Compact 行格式来实际存储记录的。Compact 行格式主要是用来记录存储的这一条记录。比如说添加了两条记录我们添加两条记录的格式称作为行格式或者称作记录格式。后面会详细讲。 这里我们简化了index_demo表的行格式示意图 我们只在示意图里展示记录的这几个部分 record_type 记录头信息的一项属性表示记录的类型 0 表示普通记录、 2 表示最小记 录、 3 表示最大记录、 1 暂时还没用过下面讲。 next_record 记录头信息的一项属性表示下一条地址相对于本条记录的地址偏移量我们用 箭头来表明下一条记录是谁。各个列的值 这里只记录在 index_demo 表中的三个列分别是 c1 、 c2 和 c3 。其他信息 除了上述3种信息以外的所有信息包括其他隐藏列的值以及记录的额外信息。 将记录格式示意图的其他信息项暂时去掉并把它竖起来的效果就是这样 把一些记录放到页里的示意图就是 这就是基本的数据页的模型。 1. 一个简单的索引设计方案 我们在根据某个搜索条件查找一些记录时为什么要遍历所有的数据页呢因为各个页中的记录并没有规律我们并不知道我们的搜索条件匹配哪些页中的记录所以不得不依次遍历所有的数据页。所以如果我们 想快速的定位到需要查找的记录在哪些数据页 中该咋办我们可以为快速定位记录所在的数据页而 建立一个目录 建这个目录必须完成下边这些事
下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值。 假设每个数据页做多能存放三条记录实际上一个数据页非常大可以存放下好多记录。有了这个假设之后我们向 index_demo表中插入3条记录 INSERT INTO index_demo values (1,4,u),(3,9,d),(5,3,y); 那么这些记录已经按照主键值的大小串联成一个单项链表了如图所示 从图中可以看出来index_demo表中的3条记录都被插入到了编号为 10 的数据页中了此时我们再来插入一条记录 INSERT INTO index_demo values (4,4,a); 因为页10最多只能放3条记录所以我们不得不再分配一个新页 注意新分配的 数据页编号 可能不是连续的他们只是通过维护着上一页和下一个页的编号而建立了链表关系另外页10中用户记录最大的主键值是 6 而 页28中有一条记录的主键值是 4因为 54 所以这就不符合下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值的要求所以再插入主键值为4的记录的时候需要伴随着一次记录移动也就是把主键值为 5 的记录移动到页 28中然后再把主键值为 4 的记录插入到页10中这个过程的示意图如下 这个过程表明了再对页中的记录进行增删改操作的过程中我们必须通过一些诸如记录移动的操作来始终保证这个状态一直成立下一个数据页中用户记录的主键值必须大于上一个页中用户记录的主键值这个过程我们成为 页分类。 给所有的页建立一个目录项。 由于数据页的 编号可能是不连续的所以在向 index_demo表中插入许多记录后可能是这样的效果 因为这些16Kb的页在 物理存储上是不连续的所以如果想从这么多页中根据主键值 快速定位某些记录所在值页我们需要给他们做个 目录每个目录包括下边两个部分
页的用户记录中最小的主键值我们用key来表示页号我们用page_no表示 所以我们为上边几个页做好的目录就像这样子 以 页 28 为例它对应 目录项 2 这个目录项中包含着该页的页号 28 以及该页中用户记录的最小主 键值 5 。我们只需要把几个目录项在物理存储器上连续存储比如数组就可以实现根据主键 值快速查找某条记录的功能了。比如查找主键值为 20 的记录具体查找过程分两步 1. 先从目录项中根据 二分法 快速确定出主键值为 20 的记录在 目录项 3 中因为 12 20 209 它对应的页是 页 9 。 2. 再根据前边说的在页中查找记录的方式去 页 9 中定位具体的记录。 至此针对数据页做的简易目录就搞定了。这个目录有一个别名称为 索引 。 2. InnoDB中的索引方案 ① 迭代1次目录项纪录的页 上面称为一个简易的索引方案是因为我们为了在根据主键值进行查找时使用二分法快速定位具体的目录项而 假设 所有目录项都可以在物理存储器上连续存储但是这样做有几个问题 InnoDB是使用页来作为管理存储空间的基本单位很多能保证16kb的连续存储空间而随着表中记录数量的增多需要非常大的连续的存储空间 才能把所有的目录都放下这对记录数量非常多的表是不现实的。我们时长会对记录进行增删假设我们把 页28 中的记录都删除了那意味着 目录项2 也就没有存在的必要了这就需要把目录项2后的目录项都向前移动一下这样牵一发而动全身的操作效率很差。
所以我们需要一种可以 灵活管理所有目录项的方式我们发现目录项其实长得跟我们的用户记录差不多只不过目录项中的两个列是 主键 和 页号 而已为了和用户记录做一下区分我们把这些用来表示目录项的记录称为 目录项记录。那InnoDB怎么区分一条记录是普通的用户记录还是目录项记录呢使用记录头信息里的 record_type 属性它的各个取值代表的意思如下 0普通的用户记录1目录项记录2最小记录3最大记录 我们把前边使用到的目录项放到数据页中的样子就是这样 从图中可以看出来我们新分配了一个编号为30 的页来专门存储目录项记录。这里再次强调 目录项记录 和普通的 用户记录 的 不同点 目录项记录 的 record_type 值是1而 普通用户记录 的 record_type 值是0。 目录项记录只有 主键值和页的编号 两个列而普通的用户记录的列是用户自己定义的可能包含 很 多列 另外还有InnoDB自己添加的隐藏列。 了解记录头信息里还有一个叫 min_rec_mask 的属性只有在存储 目录项记录 的页中的主键值 最小的 目录项记录 的 min_rec_mask 值为 1 其他别的记录的 min_rec_mask 值都是 0 。 相同点两者用的是一样的数据页都会为主键值生成 Page Directory 页目录从而在按照主键值进行查找时可以使用 二分法 来加快查询速度。 现在以查找主键为 20 的记录为例根据某个主键值去查找记录的步骤就可以大致拆分成下边两步
1. 先到存储 目录项记录 的页也就是页30中通过 二分法 快速定位到对应目录项因为 12 20 209 所以定位到对应的记录所在的页就是页9。 2. 再到存储用户记录的页9中根据 二分法 快速定位到主键值为 20 的用户记录。 ② 迭代2次多个目录项纪录的页 虽然说 目录项记录 中只存储主键和对应的页号比如用户记录需要的存储空间小多了但是不论怎么说一个页只有16kb 大小能存放的目录项记录也是有限的那如果表中的数据太多以至于一个数据页不足以存放所有的 目录项记录如何处理呢 这里我们假设一个存储在目录项记录的页 最多只能存放4条目录项记录所以如果此时我们再向上图插入一条主键值为 320 的用户记录的话那就需要分配一个新的存储目录项记录的页 从图中可以看出我们插入了一条主键值为320的用户记录之后需要两个新的数据页 为存储该用户记录而新生成了 页31 。 因为原先存储目录项记录的 页30的容量已满 我们前边假设只能存储4条目录项记录所以不得不需要一个新的 页32 来存放 页31 对应的目录项。 现在因为存储目录项记录的页不止一个所以如果我们想根据主键值查找一条用户记录大致需要 3 个步骤以查找主键值为 20 的记录为例 1. 确定 目录项记录页 我们现在的存储目录项记录的页有两个即 页 30 和 页 32 又因为页 30 表示的目录项的主键值的范围是 [1, 320) 页 32 表示的目录项的主键值不小于 320 所以主键值为 20 的记录对应的目 录项记录在 页 30 中。 2. 通过目录项记录页 确定用户记录真实所在的页 。 在一个存储 目录项记录 的页中通过主键值定位一条目录项记录的方式说过了。 3. 在真实存储用户记录的页中定位到具体的记录。 ③ 迭代3次目录项记录页的目录页 问题来了在这个查询步骤的第一步中跟我们需要定位存储目录项记录的页但是这些页不是连续的如果我们表中的数据非常多则会产生很多存储目录项记录的页那我们怎么根据主键值快速定位一个存储目录项记录的页呢那就为这些存储目录项记录的页在生成一个更高级的目录就像是一个多级目录一样大目录嵌套小目录小目录里才是实际的数据所以现在各个页的示意图就是这样子 如图我们生成了一个存储更高级目录项的 页 33 这个页中的两条记录分别代表页 30 和页 32 如果用户记录的主键值在 [1, 320) 之间则到页 30 中查找更详细的目录项记录如果主键值 不小于 320 的 话就到页32 中查找更详细的目录项记录。 我们可以用下边这个图来描述它 这个数据结构它的名称是 B树 。 ④ BTree 不论是存放用户记录的数据页还是存放目录项记录的数据页我们都把他们存放在B树这个数据结构中了所以我们也称这些数据页为节点。从图中可以看出我们的实际用户记录其实都存放在B树的最底层的节点上这些节点也被称为叶子节点其余用来存放目录项的节点称为 非叶子节点 或者内节点其中B树最上边的那个节点也成为根节点。 一个B树的节点其实可以分成好多层规定最下边的那层也就是存放我们用户记录的那层为第 0 层之后依次往上加。之前我们做了一个非常极端的假设存放用户记录的页 最多存放3条记录 存放目录项记录的页 最多存放4条记录 。其实真实环境中一个页存放的记录数量是非常大的假设所有存放用户记录的叶子节点代表的数据页可以存放 100条用户记录 所有存放目录项记录的内节点代表的数据页可以存放 1000条目录项记录 那么
如果B树只有1层也就是只有1个用于存放用户记录的节点最多能存放 100 条记录。如果B树有2层最多能存放 1000×10010,0000 条记录。 如果B树有3层最多能存放 1000×1000×1001,0000,0000 条记录。 如果B树有4层最多能存放 1000×1000×1000×1001000,0000,0000 条记录。相当多的记录 你的表里能存放 100000000000 条记录吗所以一般情况下我们 用到的B树都不会超过4层 那我们通过主键值去查找某条记录最多只需要做4个页面内的查找查找3个目录项页和一个用户记录页又因为在每个页面内有所谓的 Page Directory 页目录所以在页面内也可以通过 二分法 实现快速定位记录。 2.3 常见索引概念 索引按照物理实现方式索引可以分为 2 种聚簇聚集和非聚簇非聚集索引。我们也把非聚集索引称为二级索引或者辅助索引。 1. 聚簇索引 聚簇索引并不是一种单独的索引类型而是一种数据存储方式所有的用户记录都存储在了叶子节点也就是所谓的索引即数据数据即索引。 术语 ”聚簇“ 表示数据行和相邻的键值聚簇的存储在一起。 特点 1. 使用记录主键值的大小进行记录和页的排序这包括三个方面的含义
页内 的记录是按照主键的大小顺序排成一个 单向链表 。 各个存放 用户记录的页 也是根据页中用户记录的主键大小顺序排成一个 双向链表 。 存放 目录项记录的页 分为不同的层次在同一层次中的页也是根据页中目录项记录的主键大小顺序排成一个 双向链表 。 2. B树的 叶子节点 存储的是完整的用户记录。 所谓完整的用户记录就是指这个记录中存储了所有列的值包括隐藏列。 我们把具有这两种特性的B树称为 聚簇索引所有完整的用户记录都存放在这个 聚簇索引 的叶子节点处这种聚簇索引并不需要我们在Mysql语句中显示的使用 INDEX 语句去创建InnoDB存储引擎会自动为我们创建聚簇索引。 优点 数据访问更快 因为聚簇索引将索引和数据保存在同一个B树中因此从聚簇索引中获取数据比非 聚簇索引更快 聚簇索引对于主键的 排序查找 和 范围查找 速度非常快 按照聚簇索引排列顺序查询显示一定范围数据的时候由于数据都是紧密相连数据库不用从多个数据块中提取数据所以 节省了大量的io操作 。 缺点 插入速度严重依赖于插入顺序 按照主键的顺序插入是最快的方式否则将会出现页分裂严重影响性能。因此对于InnoDB表我们一般都会定义一个自增的ID列为主键 更新主键的代价很高 因为将会导致被更新的行移动。因此对于InnoDB表我们一般定义主键为不可更新 二级索引访问需要两次索引查找 第一次找到主键值第二次根据主键值找到行数据 限制 对于Mysql数据库目前只有InnoDB数据引擎支持聚簇索引而MyISAM 并不支持聚簇索引。由于数据物理存储排序方式只有一种所以每个Mysql的表只能有一个聚簇索引一般情况下就是该表的主键。为了充分利用聚簇索引的聚簇特性InnoDB表的主键尽量选用有序的数据id,而不建议用无序的id,比如UUIDMD5hash字符串列作为主键无法保证数据的顺序增长。 2. 二级索引辅助索引、非聚簇索引 上面介绍的 聚簇索引 只能在搜索条件是 主键值 时才能发挥作用因为 B树中的数据都是按照主键进行排序的。那如果我们想以别的列作为搜索条件该怎么办呢肯定不是从头到尾沿着链表一次遍历记录一遍。 我们可以多建几棵B树不同的B树中的数据采用不同的排序规则比如说我们用 c2 列的大小作为数据页页中记录的排序规则再建一颗B树效果如下图所示 这个叶子节点中存储的不再是完整的数据了而是c2字段的值和这条记录中c1字段的值。 这个B树与上边介绍的聚簇索引有几处不同 使用记录c2列的大小进行记录和页的排序这包括三个方面的含义 页内的记录是按照c2列的大小顺序排成一个单向链表。各个存档用户记录的页也是根据页中记录的c2列大小顺序排成一个双向链表。存放 目录项记录的页 分为不同的层次在同一层次中的页也是根据页中目录项记录的c2列大小顺序排成一个双线链表。B树的叶子节点存储的并不是完整的用户记录而只是c2列 主键这两个列的值。目录项记录中不再是 主键 页号 的搭配而变成了c2列 页号的搭配。 所以如果哦我们现在想通过c2列的值查找某些记录的话就可以使用我们刚刚剑豪的这个B树了以查找c2列的值为4的记录为例查找过程如下 确定目录项记录页 根据 根页面 也就是页44可以快速定位到 目录项记录 所在的页为 页42因为249。 通过目录项记录页确定用户记录真实所在的页 在页42中可以快速定位到实际存储用户记录的页但是由于c2列并没有唯一性约束所以c2列值为4的记录可能分布在多个数据页中有因为244所以确定实际存储用户记录的页在 页34 和 页 35中。 在真实存储用户记录的页中定位到具体的记录 到页34和页35中定位到具体的记录。 但是这个B树的叶子节点中的记录只存储了c2 和 c1 也就是主键两个列所以我们必须再根据主键值去聚簇索引中在查找一遍完整的用户记录。 概念回表 我们根据这个以c2列大小排序的B树只能确定我们要查找记录的主键值所以如果我们想根据c2列的值查找到完整的用户记录的话仍然需要到 聚簇索引 中再查一遍这个过程称为 回表 。也就是根据c2列的值查询一条完整的用户记录需要使用到 2 棵B树 问题为什么我们还需要一次 回表 操作呢直接把完整的用户记录放到叶子节点不OK吗 如果把完整的用户记录放到叶子节点中是可以不用回表但是太占地方了相当于每建立一颗B树都需要把所有的用户记录再拷贝一遍这就有点太浪费存储空间了。 因为这种按照 非主键列 建立的B树需要一次回表操作才可以定位到完整的用户记录所以这种B树也被称为二级索引或者辅助索引由于我们使用的是c2列的大小作为B树的排序规则所以我们也称为这个B树是为c2列建立的索引。 非聚簇索引的存在不影响数据在聚簇索引中的组织所以一张表可以有多个非聚簇索引。 小结聚簇索引与非聚簇索引的原理不同在使用上也有一些区别 1 聚簇索引的叶子节点存储的就是我们的数据记录非聚簇索引的叶子节点存储的是 数据位置非聚簇索引不会影响数据表的物理存储顺序。 2 一个表 只能有一个聚簇索引因为只能有一种排序存储的方式但可以有多个非聚簇索引也就是多个索引目录提供数据检索。 3 使用聚簇索引的时候数据的查询效率高但是如果对数据进行插入删除更新等操作效率会比非聚簇索引低。 3. 联合索引 我们也可以同时以多个列的大小作为排序规则也就是同时为多个列建立索引比方说我们想让B树按照 c2和c3列 的大小进行排序这个包含两层含义
先把各个记录和页按照c2列进行排序。 在记录的c2列相同的情况下采用c3列进行排序
为 c2 和 c3 列建立的索引示意图如下 如图所示我们需要注意以下几点
每条目录项记录都有c2、c3页号这三部分组成各条记录先按照c2列的值进行排序如果记录的c2相同则按照c3列的值进行排序。B树叶子节点处的用户记录有c2、c3和主键c1列组成。 注意一点以c2和 c3 列的大小为排序规则建立的 B 树称为 联合索引 本质上也是一个二级索引。它的意 思与分别为c2 和 c3 列分别建立索引的表述是不同的不同点如下 建立 联合索引 只会建立如上图一样的1棵B树。 为c2和c3列分别建立索引会分别以c2和c3列的大小为排序规则建立2棵 3.4 InnoDB的B树索引的注意事项 1. 根页面位置万年不动 实际上B树的形成过程是这样的
每当为某个表创建一个b树索引聚簇索引不是人为创建的默认就有的时候都会为这个索引创建一个 根节点 页面最开始表中没有数据的时候每个b树索引对应的根节点中既没有用户记录也没有目录项记录。随后向表中插入用户记录时先把用户记录存储到这个根节点中当根节点中的可用空间用完时继续插入记录此时会将根节点中的所有记录复制到一个新分配的页比如页a中然后对这个新页进行 页分裂的操作得到另一个新页比如 页b,这时新插入的记录根据键值也就是聚簇索引中的主键值二级索引中对应的索引列的值的大小就会被分配到 页a或页b中而根节点便升级为存储目录项记录的页。 这个过程特别注意的是一个B树索引的根节点自诞生之日起便不会再移动这样只要我们对某个表建立一个索引那么它的根节点的页号便会被记录到某个地方然后凡是InnoDB存储引擎需要用到这个索引的时候都会从那个固定的地方取出根节点的页号从而来访问这个索引。 2. 内节点中目录项记录的唯一性 我们知道B树索引的内节点中目录项记录的内容是 索引列页号 的搭配但是这个搭配对于二级索引来说有点不严谨还拿 index_demo表为例假设这个表中的数据是这样的 3. 一个页面最少存储2条记录
