MySQL进阶篇2-索引的创建和使用以及SQL的性能优化

索引

mkdir mysql
tar -xvf mysqlxxxxx.tar -c myql
cd mysql
rpm -ivh   .....rpm
yum install openssl-devel
​
systemctl start mysqld
​
gerp 'temporary password' /var/log/mysqld.log
​
mysql -u root -p
mysql>
show variables like 'validate_password.%'
set global validate_password.policy = 0;
set global validate_pawwword.length = 4;
alter user 'root'@'localhost' identified by '1234'
​
create user 'root'@'localhost' identified with mysql_native_password by '1234';
​
​
​

索引概述

高效获取数据的有序数据结构。数据库除了存储原始的数据外,还要存储索引这种数据结构。 通过这些数据结构来指向原始的数据,这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。

select * from emp where age > 35;

无索引状况:

1、根据条件逐条查找,直到最后一条记录。【全表扫描,性能极低】

有索引状况:

1、对年龄二叉树【二叉排序树】进行维护。

优点:

1、提高数据检索效率,降低数据库IO成本。

2、通过索引对数据排序,降低数据怕徐成本,降低CPU消耗。

缺点:

1、索引也是占用空间的。

2、虽然提高了查询效率,但是要维护索引,降低了表更新的速度。

索引数据结构

二叉树缺点:顺序插入时,一直往左侧插入,形成一个单向链表,查询性能大大降低。数据量较大的情况下,层级较深,检索速度慢。

【红黑树,需要自平衡的二叉树。减少了层级】,但是数量大的情况下,检索也会较慢。

B树:

多路平衡查找树,不止两个子节点。指针比父节点的元素+1。【根据阶数,满阶就向上分裂。p68级有完整演示】

B+树:

所有的元素都会出现在叶子节点。上边的节点起到了索引的作用,叶子节点是用来存放数据的。

MySQL的B+树索引结构

哈希索引

采用一定的哈希算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储到hash表中。

1、先算出这张表当中,每一行数据的hash值,接下来再拿到name字段的所有值,针对于name字段通过它内部的hash函数去计算每一个name值它应该落在哪一个hash槽位上。

【hash表的槽位上存储:字段属性值+字段属性值所在的行的hash值。

如果产生了哈希冲突,那么则在槽位上存储一个链表来记录新值。

特点:

1、只能用于等值匹配(=,in),不能用户范围查询。【between < > ... 】

2、无法利用索引完成排序操作

3、查询效率较高,通常一次检索就够了,效率通常要高于B+树索引

4、目前只有Memory存储引擎支持hash索引。【但是InnoDB引擎会在指定条件下,自动将B+树索引构建为hash索引】

思考:

为什么InnoDB引擎选了B+树索引,而不是其他的呢?

二叉树:顺序插入,形成了链表,搜索时造成性能下降。

红黑树:本周上也是一棵二叉树,变成了平衡树。

B树:叶子节点和非叶子节点都存放数据,都存放到一页中,但是页的大小是有限的,为16K,这将导致一页当中存储的数据更少,指针跟着减少,只能增加树的高度,导致性能降低。放到B+树中,能存储更多的数据,层数更少,所以性能更优。

B+树:相对于二叉树来说,层级更少,搜索效率更高。【无论如何,都到叶子节点中查找值,搜索效率稳定。并且是双向链表,搜索效率相对高一点,便于范围内搜索和排序】

hash索引:对于hash索引来说,只支持等值匹配。【不支持范围内匹配和排序操作。

索引分类

聚集索引选取规则:

1、如果存在主键,主键索引就是聚集索引

2、如果不存在主键,将使用第一个唯一索引作为聚集索引

3、如果表没有主键,或者是没有合适的唯一索引,则InnoDB会自动生成一个rowid作为隐藏的聚集索引。

select * from emp where ename='pshdhx';

回表查询:

1、先根据二级索引查询到name值的位置,在其叶子节点下有改行的id值

2、根据id值再跑到聚集索引中,然后找到改行的值。

InnoDB的B+树索引有多高

索引语法

--创建索引
create [unique|fulltext] index index_name on table_name(index_col_name,....);
​
create index idx_user_name on tb_user(name);
​
​
--查看索引 加上\G之后,由原来的一行转为1列,看的清楚,不会错行。
show index from table_name\G;
--删除索引
drop index index_name on table_name;

SQL性能分析

SQL执行频率

【是插入,修改,删除为主,还是查询为主】

查看当前数据库的访问频次:是不是以增删改为主。

show [session|global] status 命令可以提供服务器状态信息

show global status like 'com_ _ _ _ _ _ _'; 7个字符

慢查询日志

慢查询日志默认没有开启,需要在/etc/my.cnf中开启配置

show variables like 'slow_query_log';

show_query_log=1

long_query_time=2

配置完毕之后,通过以下指令启动MySQL服务器进行测试,

systemctl restart mysqld

查看慢查询日志记录的信息/var/lib/mysql/localhost-slow.log

tail -f localhost-slow.log

只要尾部有内容追加进去,就可以输出出来。

profile详情

show profiles能够在做SQL优化时,帮助我们了解时间都耗费到哪里去了。通过have_profiling参数,能够看到当前MySQL是否支持profile操作。

select @@have_profiling

默认profiling是关闭的,可以通过set语句在session/global级别开启profiling;

select @@profiling;
set profiling = 1;
show profiles; --查看各个语句的执行情况[时间]
show profile for query query_id;  
--比如第16条语句执行慢,可以看看时间浪费在什么地方
show profile for query 16;
show profile cpu for query 16; --查看每个执行阶段cpu的耗费情况

explain执行==desc执行

explain select * from user where id = 1;
desc select * from user where id = 1;

1、id

select查询的序列号。id相同【联表查询会产生多个id】,执行顺序从上到下。id不同(子查询),值越大,越先执行。

2、select_type

表示select的类型,常见的取值有simple(简单表,不用联表和子查询)、primary(主查询,即外层的查询)、union、subquery(select /where之后 包含的子查询)等。

3、type

表示连接类型。性能由好到差的连接类型为 null、system、const、eq_ref、ref、range、index、all

null:不访问任何表,就是null,在业务系统中不可能出现。

system:访问系统表,才是system

const:访问主键,或者是唯一索引,才是const

ref:当我们使用非唯一性的索引查询时,会出现ref

index:用了索引,但是也会带索引进行扫描,遍历整个索引数

all:全表扫描。

4、possible_key:显示可能应用在这张表上的索引,一个或者多个

5、key:展示实际使用到的索引,如果为null,则没有使用索引

6、key_len:标识索引使用的字节数,该值为索引字段最大可能长度,并非实际长度。

7、rows:执行查询的行数。预估值。

8、filtered:查询返回的行数,占读取总行的百分比。值,自然越大越好。

索引使用

验证索引效率:

1000万条数据,某字段没有索引,以该字段为条件,查询效率很慢。

create index idx_sku_sno on sku(sno);

此条指令执行很慢,因为需要为1000万条数据,创建索引,构造索引二叉树。

最左前缀法则

如果索引了多列【联合索引】,要遵循最左前缀法则。查询从索引的最左列开始,并且不跳过索引中的列。【索引中的最左侧字段得存在,跟放的位置没有关系。

例如:三个字段加上了同一个索引,要想索引生效,必须从左到右,不能跳过字段。只筛选1 、筛选1 2、筛选1 2 3,索引生效。如果只有1和3,那么3的索引是不生效的。3 21 也生效,1存在就生效。

范围查询

联合索引中,出现范围查询> <号时,范围右侧的列索引失效。

如果是>=,那么列索引也生效。

索引列运算

不要在索引列上进行运算操作【包含函数运算操作】,索引将失效。

explain select * from user where substring(phone,10,2) = '15';

这样的操作,索引将会失效,进行全表扫描。

字符串不加引号

虽然字符串不加单引号是能查询出来的,但是索引是不生效的。

模糊查询索引

如果仅仅是尾部模糊查询匹配,索引在不会失效。但是,如果是头部模糊查询匹配,索引失效。

例如:'软件%' 索引生效

'%工程' 索引失效。

or-索引

用or分割开的条件,如果or前的条件中的列有索引,而后边的列中没有索引,那么涉及到的索引都不会被用到。

    只有两侧都有索引的时候,所以才会被用到。

数据分布影响

如果MySQL评估使用索引比全表更慢,则不使用索引。

例如:1 2 3 4.。。 都是顺序递增的。 筛选条件是 >=1 ,所以MySQL认为走索引还不如直接走全表扫描效率高呢,故使用explain没用到索引。

【绝大多数数据满足,就不走索引。否则,就走索引】

SQL提示

如果某个字段有多个索引,例如有联合索引和普通索引,MySQL会自动选择一个合适的索引进行查找。

但是我们也可以人为用哪个索引。

use index【建议】 、ignore index 、force index【强制】

explain select * from user use index(idx_user_name) where name = '软件工程';

覆盖索引

尽量使用覆盖索引【查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到】,减少使用select *

Extra:Using where using index 【性能高】不需回表(根据name找主键,根据主键找rowid)。

Extra:Using inedex condition【性能低】查询的时候,使用了索引,但是需要回表查询。

联合索引是属于二级索引的,二级索引当中,叶子节点挂的就是id值,所以查询id不需要回表,但是查询name,需要回表。

id name password status

select id name password form emp where name="pshdhx";

需要在name和password建立联合索引,id就在叶子节点上。不用回表查询

前缀索引

当字段类型为字符串(varchar、text等)时 ,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘IO,影响查询效率。

此时可以将字符串的一部分前缀,建立索引。这样可以大大节约索引空间,从而提高索引效率。

create index idx_tablename_idxName on tableName(column(n));

只需要指定一个n,就可以建立前缀索引。n代表该字段的前几个字符。

回表查询之后,拿出row,再看看该行的值是否与过滤条件的值完全相同。

单列索引&联合索引

1、select id ,phone , name from emp where phone="xxx" and name="xxxxx";

通过explain,可以看到只走了phone的索引。但是查询不到name的值,所以会回表查询。

但是如果使用了联合索引,就不会产生回表查询了,所以建议使用联表索引。

索引设计原则

1、针对于数据量较大,且查询较为频繁的表建立索引。

2、针对于常作为查询条件,where,order by ,group by操作的字段建立索引或联合索引。

3、选择区分度高的字段建立索引,尽量建立唯一索引。区分度越高,索引的使用效率越高。

4、字符串类型字段,建立前缀索引。

5、尽量使用联合索引,减少单列索引。联合索引很多时候可以覆盖索引,避免回表,提高查询效率。

6、控制索引的数量,索引越多,维护索引结构的代价越大,会影响增删改的效率。

7、如果要建立索引的列不能为null值,建议使用非空约束。有利于索引查询。

SQL优化

插入数据

insert 优化

1、执行批量插入insert into emp values(1,'pshdhx'),(2,'pshdhx2')

2、手动提交事务。否则,执行insert之前开启事务,执行之后关闭事务,性能较低。

3、主键顺序插入。顺序插入的性能要高于乱序插入。因为MySQL的组织结构。

大批量数据插入:load指令

<<<<<<< HEAD ​

======= ​

主键优化

数据组织方式:

在InnoDB存储引擎当中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表。【index organized table IOT】

    就像是二级索引,主键从左到右存放。

列分页:

页可以为空,也可以填充一半,也可以填充100%,固定大小为16K。段固定大小为1M,有64页。每页包含了2-N行数据(如果一行数据大,会行溢出),根据主键排列。

主键顺序插入:

主键乱序插入:

1号页满,1号页数据分裂,形成3号页,然后分裂的数据和新插入的数据到3号页,页面指针改为1 3 2。

页合并:

当删除一行记录时,实际上记录并没有被物理删除,只是被标记为删除。当标记的数量达到页的50%时,InnoDB会尝试有没有合并页的可能,优化空间使用。

合并页的阈值,可以自己设置,在创建表或者创建索引时指定。

主键设计原则

1、满足业务需求的情况下,尽量降低主键的长度。

在二级索引中挂的是主键, 主键比较长,二级索引占得空间比较大。 在搜索的时候占用较多的磁盘IO。

2、插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键。

3、尽量不要使用UUID做主键或者是其他自然主键,如身份证号码。

4、业务操作时,尽量避免对主键的修改。 修改主键还需要修改索引的结构。

order by优化

1、Using filesort:通过表的索引或者是全表扫描,读取满足条件的数据行,然后在排序缓冲区sort Buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序,都叫file sort排序。

2、Using Index:通过有序索引顺序扫描,直接返回有序数据。不需要额外排序,操作效率高。

优化掉filesort

1、对order by后边的字段建立索引,如果是单字段,建立单字段索引。如果是多字段,建立联合索引。

2、注意:索引默认是asc排序,desc排序时,extra显示需要倒序索引 。一个字段asc 一个字段desc,会显示这种情况。

3、如果我就是想使用desc,可以创建索引时指定。

create index idx_user_age_phone_asc_desc on user(age asc,phone desc);

以上说的这一切,前提是**覆盖索引。**多字段排序时,也遵循最左前缀法则。

show variables like 'sort_buffer_size'; 默认256K

如果需要可以调大一点。

group by优化

explain select profession,count(*) from user group bu profession;

extra:Using temporary:使用到了临时表,效率较低。

如果对profession创建了联合索引(profession_age_status),Extra优化为了 Using index

如果不遵循最左前缀法则,Extra:Using index ; Using temporary

explain select age,count(*) from user where profession = '软件工程' group by age;

虽然group by没有最左前缀法则,但是where里边有,所以Extra还是Using index

limit优化

select * from sku limit 1000000,10;

select * from sku limit 10000000,10; 越往后越耗时。【19秒】

此时,MySQL排序前100000010记录,仅仅返回10000000,到10000010的记录,其他记录丢弃,查询排序 的代价非常大。

select id from sku order by id limit 10000000,10; 先查询10条的id【10秒】

select * from sku where id in (select id from sku order by id limit 10000000,10) ;【语法报错 子查询中不允许有limit】

select s.* from sku , (select id from sku order by id limit 10000000,10) tmp where s.id = tmp.id ;【10秒,比起直接分页查询,提高了近9秒

优化思路:

一般分页查询时,通过创建覆盖索引,能够比较好的提高性能。可以通过通过覆盖索引加子查询形式进行优化。

count优化

MyISAM存储引擎,把一个表的总行数记录到了磁盘上,因此执行count(*)的时候会直接返回总数,效率很高。

InnoDB,它在执行count(*)的时候,需要把数据一行一行地从存储引擎里边读出来,然后计算个数。

优化思路:自己计数。

count(*):InnoDB引擎并不会把数字全部取出来,而是专门做了优化,不取值,服务层直接按照行进行累加。

count(主键):主键不可能是null,遍历整张表,把每行的主键取出来,返回给服务层,服务层进行累加操作。

count(字段):遍历整张表,取字段,还有判断是不是null。看看not null约束。

count(1): InnoDB会遍历整张表,但是不取值。服务层对于返回的每一行,放一个数字1,然后按行进行累加。什么数字都行,不一定是1。

效率:count(字段)<count(主键)<count(1)≈count(*)

所以尽量使用count(*);

update优化

session1: update user set name="pshdhx" where id = 1;[开启事务begin,提交commit]

session2:update user set name = "pshdhx2" where id = 3;[开启事务begin,提交commit]

此时是没有问题的,InnoDB锁住的是行。

但是: 如果存在

update user set name="pshdhx3" where name="pshdhx";[开启事务begin,提交commit]

update user set name = "pshdhx4" where id = 3;[开启事务begin,提交commit]

此时就会出问题,因为name没有索引,行锁升级为表锁

总结:

update时,并发事务时,要根据索引字段进行更新,否则就会锁住表。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/704858.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【Flink精讲】Flink状态及Checkpoint调优

RocksDB大状态调优 RocksDB 是基于 LSM Tree 实现的&#xff08;类似 HBase&#xff09; &#xff0c;写数据都是先缓存到内存中&#xff0c; 所以 RocksDB 的写请求效率比较高。 RocksDB 使用内存结合磁盘的方式来存储数据&#xff0c;每 次获取数据时&#xff0c;先从内存中 …

睿尔曼超轻量仿人机械臂—远程文件传输工具使用说明

一、介绍 由于很多开发人员是在Linux下进行开发&#xff0c;但文件资料大多是保存在Windows下&#xff0c;进行文件传输很不方便&#xff0c;所以可通过远程文件传输的方式进行跨系统传输。此类方法有很多&#xff0c;这里讲述的是使用WinSCP工具进行文件远程传输。 WinSCP 是…

Go的CSP并发模型实现M, P, G简介

GMP概念简介 G: goroutine&#xff08;协程&#xff0c;也叫用户态线程&#xff09; M: 工作线程(内核态线程) P: 上下文(也可以认为是cpu&#xff0c;逻辑cpu数量&#xff0c;可以在程序启动的时候设置这个数量&#xff0c;gomaxprocs函数设置) GMP 模型 在 Go 中&#xff…

iconfont的组件化使用方法(SVG)

目录 一、需求描述二、操作步骤1.在iconfont中选择项目需要使用的图标2.在项目中创建iconfont.js3.创建svgIcon组件 一、需求描述 将iconfont图标库选择的图标以SVG的形式引入项目并通过组件化的形式在项目中引用可控制图标的大小和颜色 二、操作步骤 1.在iconfont中选择项目…

Mysql常见函数和用法(重点)

where子句中经常使用的运算符 -- 查询总分大于200分的所有同学 select * from student2 where (chineseenglishmath)>200; -- 查询math大于60 并且(and)id大于4的学生成绩 select * from student2 where math>60 and id>4; -- 查询英语成绩大于语文成绩的同学 select …

跟着cherno手搓游戏引擎【26】Profile和Profile网页可视化

封装Profile&#xff1a; Sandbox2D.h:ProfileResult结构体和ProfileResult容器&#xff0c;存储相应的信息 #pragma once #include "YOTO.h" class Sandbox2D :public YOTO::Layer {public:Sandbox2D();virtual ~Sandbox2D() default;virtual void OnAttach()ove…

【Python 数据分析 实战案例】通过用户和订单的数据分析,制定营销策略

在互联网行业中&#xff0c;电子商务领域绝对是数据分析用途最多的地方&#xff0c;各大电商平台都依赖数据分析帮助其挖掘用户订单增长机会。比如某宝的随手买一件&#xff0c;核心思路也就是根据用户的日常浏览内容及停留时间&#xff0c;以及订单的关联度来进行推荐的。 本…

AI与大数据:智慧城市安全的护航者与变革引擎

一、引言 在数字化浪潮的席卷下&#xff0c;智慧城市正成为现代城市发展的新方向。作为城市的神经系统&#xff0c;AI与大数据的融合与应用为城市的安全与应急响应带来了革命性的变革。它们如同城市的“智慧之眼”和“聪明之脑”&#xff0c;不仅为城市管理者提供了强大的决策…

VScode连接远端服务器一直输入密码解决方法

文章目录 1 关闭远程连接2打开命令面板3 输入remote-ssh: kill vs code server on host… 1 关闭远程连接 2打开命令面板 3 输入remote-ssh: kill vs code server on host… remote-ssh: kill vs code server on host… 然后一路回车(选中出问题的主机)&#xff0c;输一遍密码…

tmux的使用方法

1. tmux的定义 我&#xff1a;什么是tmux&#xff1f; GPT&#xff1a;tmux&#xff08;terminal multiplexer&#xff09;是一个强大的终端复用器&#xff0c;它允许用户在一个终端窗口中创建、访问和控制多个会话。使用tmux&#xff0c;你可以在一个窗口中打开多个终端会话&…

SpringMVC(1)

目录 SpringMVC简介入门案例启动服务器初始化过程单次请求过程bean加载控制 PostMan请求与响应设置请求映射路径请求参数五种类型参数传递JSON数据日期类型参数传递响应 RestRest 简介RESTful快速开发 SpringMVC是隶属于Spring框架的一部分&#xff0c;主要是用来进行Web开发&a…

快速搭建宠物医院服务小程序的步骤,无需编程经验

如果你是一家宠物医院或者宠物服务机构&#xff0c;想要拥有一款方便用户预约、查询信息的小程序&#xff0c;那么乔拓云网提供的轻应用小程序是你的不二选择。下面将为你详细介绍如何轻松打造宠物医院服务小程序。 1. 进入乔拓云网后台&#xff0c;点击【轻应用小程序】中的【…

FDTD算法总结

计算电磁学(Computational Electromagnetics, CEM)是通过数值计算来研究电磁场的交叉学科。 数值求解电磁学问题的方法可以分成频域(Frequency Doamin, FD)、时域(Time Domain, TD)等两类。 频域法基于时谐微分&#xff0c;通过对多个采样值的傅里叶逆变换得到所需的脉冲响应…

代码随想录|学习工具分享

工具分享 画图 https://excalidraw.com/ 大家平时刷题可以用这个网站画草稿图帮助理解&#xff01;如果看题解很蒙或者思路不清晰的时候&#xff0c;跟着程序处理流程画一个图&#xff0c;90%的情况下都可以解决问题&#xff01; 数据结构可视化 https://www.cs.usfca.edu/…

Springboot应用执行器Actuator源码分析

文章目录 一、认识Actuator1、回顾Actuator2、Actuator重要端点 二、源码分析1、Endpoint自动装配&#xff08;1&#xff09;自动配置入口&#xff08;2&#xff09;普通Endpoint自动装配&#xff08;3&#xff09;配置Web - Endpoint&#xff08;4&#xff09;注册Endpoint为M…

vue_pdf,word,excel,pptx等文件预览

项目背景&#xff1a;vue3elementPlusvite 1.pdf 1.1 iframe预览 #toolbar0 拼接到src后&#xff0c;可隐藏iframe顶部的工具栏 <template><div class"viewPDF.vue"><uploadFile file"getFile" accept".pdf,.PDF" ></up…

redis八股

文章目录 数据类型字符串实现使用场景 List 列表实现使用场景 Hash 哈希实现使用场景 Set 集合实现使用场景 ZSet 有序集合实现使用场景 BitMap实现使用场景 Stream使用场景pubsub为什么不能作为消息队列 数据结构机制SDS 简单动态字符串压缩列表哈希表整数集合跳表quicklistli…

vue3+electron开发桌面应用,静态资源处理方式及路径问题总结

1、静态资源放到src/assets/目录下 静态资源,例如图片、静态的JSON文件、视频、CSS等等,放到src/assets目录下。 不然会很蛋疼,这个坑我踩过了。切记,切记!! 以下是CHATGPT-4 Turbo的回答: 在 Vue 应用程序中,src/assets 目录确实有特别的处理。当你使用 Vue CLI 创…

每日五道java面试题之spring篇(七)

目录&#xff1a; 第一题. 什么是Spring beans&#xff1f;第二题. 一个 Spring Bean 定义 包含什么&#xff1f;第三题. 如何给Spring 容器提供配置元数据&#xff1f;Spring有几种配置方式?第四题. Spring基于xml注入bean的几种方式?第五题&#xff1a;你怎样定义类的作用域…

【USENIX论文阅读】Day2

Birds of a Feather Flock Together: How Set Bias Helps to Deanonymize You via Revealed Intersection Sizes&#xff08;"物以类聚&#xff1a;集合偏差如何帮助去匿名化——通过揭示交集大小&#xff09; Xiaojie Guo, Ye Han, Zheli Liu, Ding Wang, Yan Jia, Jin L…