面试问烂的 MySQL 查询优化,看完屌打面试官! - Go语言中文社区

面试问烂的 MySQL 查询优化,看完屌打面试官!


640

Java技术栈

www.javastack.cn

优秀的Java技术公众号


作者:唐立勇

https://segmentfault.com/a/1190000013672421


什么影响了数据库查询速度

1.1 影响数据库查询速度的四个因素

640?wx_fmt=png

1.2 风险分析

QPS: QueriesPerSecond意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。

TPS:TransactionsPerSecond的缩写,也就是事务数/秒。它是软件测试结果的测量单位。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。网站性能测试指标详解,更多看这篇文章。

Tips:最好不要在主库上数据库备份,大型活动前取消这样的计划。

1、效率低下的 sql:超高的 QPSTPS

2、大量的并发:数据连接数被占满( max_connection默认 100,一般把连接数设置得大一些)。

并发量:同一时刻数据库服务器处理的请求数量

3、超高的 CPU使用率:CPU资源耗尽出现宕机。

4、磁盘 IO:磁盘 IO性能突然下降、大量消耗磁盘性能的计划任务。解决:更快磁盘设备、调整计划任务、做好磁盘维护。

1.3 网卡流量:如何避免无法连接数据库的情况

1、减少从服务器的数量(从服务器会从主服务器复制日志) 2、进行分级缓存(避免前端大量缓存失效) 3、避免使用 select 进行查询 4、分离业务网络和服务器网络

1.4 大表带来的问题(重要)

1.4.1 大表的特点

1、记录行数巨大,单表超千万 2、表数据文件巨大,超过 10G

1.4.2 大表的危害

1、慢查询:很难在短时间内过滤出需要的数据

查询字区分度低 -> 要在大数据量的表中筛选出来其中一部分数据会产生大量的磁盘 io -> 降低磁盘效率

2.对 DDL影响:

建立索引需要很长时间:

MySQL-v<5.5 建立索引会锁表 MySQL-v>=5.5 建立索引会造成主从延迟( mysql建立索引,先在组上执行,再在库上执行)

修改表结构需要长时间的锁表:会造成长时间的主从延迟('480秒延迟')

1.4.3 如何处理数据库上的大表

分库分表把一张大表分成多个小表

难点:

1、分表主键的选择 2、分表后跨分区数据的查询和统计

1.5 大事务带来的问题(重要)

1.5.1 什么是事务

事务是数据库系统区别于其他一切文件系统的重要特性之一

事务是一组具有原子性的SQL语句,或是一个独立的工作单元

事务要求符合:原子性、一致性、隔离性、持久性

1.5.2事务的 ACID属性

1、原子性( atomicity):全部成功,全部回滚失败。银行存取款。

2、一致性(consistent):银行转账的总金额不变。3、隔离性(isolation):

隔离性等级:

未提交读( READ UNCOMMITED) 脏读,两个事务之间互相可见;已提交读( READ COMMITED)符合隔离性的基本概念,一个事务进行时,其它已提交的事物对于该事务是可见的,即可以获取其它事务提交的数据。可重复读( REPEATABLE READ) InnoDB的默认隔离等级。事务进行时,其它所有事务对其不可见,即多次执行读,得到的结果是一样的!可串行化( SERIALIZABLE) 在读取的每一行数据上都加锁,会造成大量的锁超时和锁征用,严格数据一致性且没有并发是可使用。

查看系统的事务隔离级别: show variables like'%iso%';开启一个新事务: begin;提交一个事务: commit;修改事物的隔离级别: setsession tx_isolation='read-committed';推荐:面试问烂的 MySQL 四种隔离级别,看完吊打面试官!关注Java技术栈微信公众号,在后台回复关键字:mysql,可以获取更多栈长整理的MySQL技术干货。

4、持久性( DURABILITY):从数据库的角度的持久性,磁盘损坏就不行了

640?wx_fmt=png

redolog机制保证事务更新的一致性持久性

1.5.3 大事务

运行时间长,操作数据比较多的事务;

风险:锁定数据太多,回滚时间长,执行时间长。

1、锁定太多数据,造成大量阻塞和锁超时;

2、回滚时所需时间比较长,且数据仍然会处于锁定;

3、如果执行时间长,将造成主从延迟,因为只有当主服务器全部执行完写入日志时,从服务器才会开始进行同步,造成延迟。关注Java技术栈微信公众号,在后台回复关键字:mysql,可以获取更多栈长整理的MySQL技术干货。

解决思路:

1、避免一次处理太多数据,可以分批次处理;

2、移出不必要的 SELECT操作,保证事务中只有必要的写操作。

什么影响了MySQL性能(非常重要)

2.1 影响性能的几个方面

1、服务器硬件。

2、服务器系统(系统参数优化)。

3、存储引擎MyISAM:不支持事务,表级锁。InnoDB: 支持事务,支持行级锁,事务 ACID

4、数据库参数配置。

5、 数据库结构设计和SQL语句。(重点优化)

2.2 MySQL体系结构

分三层:客户端->服务层->存储引擎

640?wx_fmt=png

1、 MySQL插件式的存储引擎,其中存储引擎分很多种。只要实现符合mysql存储引擎的接口,可以开发自己的存储引擎! 2、所有跨存储引擎的功能都是在服务层实现的。

3、MySQL的存储引擎是针对表的,不是针对库的。也就是说在一个数据库中可以使用不同的存储引擎。但是不建议这样做。

2.3 InnoDB存储引擎

MySQL5.5及之后版本默认的存储引擎InnoDB

2.3.1 InnoDB使用表空间进行数据存储。

show variables like'innodb_file_per_table

如果innodbfileper_table 为 ON 将建立独立的表空间,文件为tablename.ibd;

如果innodbfileper_table 为 OFF 将数据存储到系统的共享表空间,文件为ibdataX(X为从1开始的整数);

.frm :是服务器层面产生的文件,类似服务器层的数据字典,记录表结构

2.3.2 (MySQL5.5默认)系统表空间与( MySQL5.6及以后默认)独立表空间

1、系统表空间无法简单的收缩文件大小,造成空间浪费,并会产生大量的磁盘碎片。

2、独立表空间可以通过 optimeze table 收缩系统文件,不需要重启服务器也不会影响对表的正常访问。

3、如果对多个表进行刷新时,实际上是顺序进行的,会产生IO瓶颈。

4、独立表空间可以同时向多个文件刷新数据。

强烈建立对Innodb 使用独立表空间,优化什么的更方便,可控。

2.3.3 系统表空间的表转移到独立表空间中的方法

1、使用mysqldump 导出所有数据库数据(存储过程、触发器、计划任务一起都要导出 )可以在从服务器上操作。

2、停止MYsql 服务器,修改参数(my.cnf加入innodbfileper_table),并删除Inoodb相关文件(可以重建Data目录)。

3、重启MYSQL,并重建Innodb系统表空间。

4、 重新导入数据。

或者 Altertable 同样可以的转移,但是无法回收系统表空间中占用的空间。

2.4 InnoDB存储引擎的特性

2.4.1 特性一:事务性存储引擎及两个特殊日志类型:Redo Log 和 Undo Log

1、 Innodb 是一种事务性存储引擎

2、完全支持事务的 ACID特性。3、支持事务所需要的两个特殊日志类型:RedoLogUndoLog

Redo Log:实现事务的持久性(已提交的事务)。Undo Log:未提交的事务,独立于表空间,需要随机访问,可以存储在高性能io设备上。

Undo日志记录某数据被修改前的值,可以用来在事务失败时进行 rollbackRedo日志记录某数据块被修改后的值,可以用来恢复未写入 data file的已成功事务更新的数据。

2.4.2 特性二:支持行级锁

1、InnoDB支持行级锁。

2、行级锁可以最大程度地支持并发。

3、行级锁是由存储引擎层实现的。

2.5 什么是锁

2.5.1 锁

锁的主要作用是管理共享资源的并发访问

锁用于实现事务的隔离性

2.5.2 锁类型

640?wx_fmt=png

2.5.3 锁的粒度

MySQL的事务支持不是绑定在MySQL服务器本身 而是与存储引擎相关

  • 表级锁

  • 行级锁

table_name加表级锁命令:locktable table_name write; 写锁会阻塞其它用户对该表的‘读写’操作,直到写锁被释放:unlock tables

1、锁的开销越大,粒度越小,并发度越高。2、表级锁通常是在服务器层实现的。3、行级锁是存储引擎层实现的。innodb的锁机制,服务器层是不知道的

2.5.4 阻塞和死锁

1、阻塞是由于资源不足引起的排队等待现象。

2、死锁是由于两个对象在拥有一份资源的情况下申请另一份资源,而另一份资源恰好又是这两对象正持有的,导致两对象无法完成操作,且所持资源无法释放。

2.6 如何选择正确的存储引擎<

版权声明:本文来源CSDN,感谢博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/youanyyou/article/details/89702235
站方申明:本站部分内容来自社区用户分享,若涉及侵权,请联系站方删除。
  • 发表于 2020-06-28 01:54:03
  • 阅读 ( 1422 )
  • 分类:面试题

0 条评论

请先 登录 后评论

官方社群

GO教程

猜你喜欢