你好,你有一份MySQL性能管理及架构设计指南待领取

唐成勇 2019-02-25 09:55:00

一、什么影响了数据库查询速度

 

1、影响数据库查询速度的四个因素

    

 

2、风险分析

 

QPS:Queries Per Second意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。

TPS:是TransactionsPerSecond的缩写,也就是事务数/秒。它是软件测试结果的测量单位。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此来计算使用的时间和完成的事务个数。

 

Tips:最好不要在主库上数据库备份,大型活动前取消这样的计划。

 

  • 效率低下的SQL:超高的QPS与TPS。

  • 大量的并发:数据连接数被占满(max_connection默认100,一般把连接数设置得大一些)。

  • 并发量:同一时刻数据库服务器处理的请求数量

  • 超高的CPU使用率:CPU资源耗尽出现宕机。

  • 磁盘IO:磁盘IO性能突然下降、大量消耗磁盘性能的计划任务。解决:更快磁盘设备、调整计划任务、做好磁盘维护。

 

3、网卡流量:如何避免无法连接数据库的情况

 

  • 减少从服务器的数量(从服务器会从主服务器复制日志)

  • 进行分级缓存(避免前端大量缓存失效)

  • 避免使用select * 进行查询

  • 分离业务网络和服务器网络

 

4、大表带来的问题

 

1)大表的特点

 

  • 记录行数巨大,单表超千万

  • 表数据文件巨大,超过10个G

 

2)大表的危害

 

①慢查询:很难在短时间内过滤出需要的数据

 

查询字区分度低 -> 要在大数据量的表中筛选出来其中一部分数据会产生大量的磁盘io -> 降低磁盘效率

 

②对DDL影响:

 

建立索引需要很长时间:

 

  • MySQL -v<5.5 建立索引会锁表

  • MySQL -v>=5.5 建立索引会造成主从延迟(mysql建立索引,先在组上执行,再在库上执行)

 

修改表结构需要长时间的锁表:会造成长时间的主从延迟('480秒延迟')

 

3)如何处理数据库上的大表

 

分库分表把一张大表分成多个小表。

 

难点:

 

  • 分表主键的选择

  • 分表后跨分区数据的查询和统计

 

5、大事务带来的问题

 

1) 什么是事务

    

 

2)事务的ACID属性

 

①原子性(atomicity):全部成功,全部回滚失败。银行存取款。

②一致性(consistent):银行转账的总金额不变。

③隔离性(isolation):

 

隔离性等级:

 

  • 未提交读(READ UNCOMMITED) 脏读,两个事务之间互相可见;

  • 已提交读(READ COMMITED)符合隔离性的基本概念,一个事务进行时,其它已提交的事物对于该事务是可见的,即可以获取其它事务提交的数据。

  • 可重复读(REPEATABLE READ) InnoDB的默认隔离等级。事务进行时,其它所有事务对其不可见,即多次执行读,得到的结果是一样的!

  • 可串行化(SERIALIZABLE)在读取的每一行数据上都加锁,会造成大量的锁超时和锁征用,严格数据一致性且没有并发是可使用。

 

查看系统的事务隔离级别:show variables like '%iso%';

开启一个新事务:begin;

提交一个事务:commit;

修改事物的隔离级别:set session tx_isolation='read-committed';

 

④持久性(DURABILITY):从数据库的角度的持久性,磁盘损坏就不行了

    

 

redo log机制保证事务更新的一致性和持久性。

 

3)大事务

 

运行时间长,操作数据比较多的事务。

 

风险:锁定数据太多,回滚时间长,执行时间长。

 

  • 锁定太多数据,造成大量阻塞和锁超时;

  • 回滚时所需时间比较长,且数据仍然会处于锁定;

  • 如果执行时间长,将造成主从延迟,因为只有当主服务器全部执行完写入日志时,从服务器才会开始进行同步,造成延迟。

 

解决思路:

 

  • 避免一次处理太多数据,可以分批次处理;

  • 移出不必要的SELECT操作,保证事务中只有必要的写操作。

 

二、什么影响了MySQL性能

 

1、影响性能的几个方面

 

  • 服务器硬件。

  • 服务器系统(系统参数优化)。

  • 存储引擎。 

  • MyISAM: 不支持事务,表级锁。

  • InnoDB: 支持事务,支持行级锁,事务ACID。

  • 数据库参数配置。

  • 数据库结构设计和SQL语句。(重点优化)

 

2、MySQL体系结构

 

分三层:客户端->服务层->存储引擎

 

 

  • MySQL是插件式的存储引擎,其中存储引擎分很多种。只要实现符合mysql存储引擎的接口,可以开发自己的存储引擎。

  • 所有跨存储引擎的功能都是在服务层实现的。

  • MySQL的存储引擎是针对表的,不是针对库的。也就是说在一个数据库中可以使用不同的存储引擎。但是不建议这样做。

 

3、InnoDB存储引擎

 

MySQL5.5及之后版本默认的存储引擎:InnoDB。

 

1)InnoDB使用表空间进行数据存储

 

show variables like 'innodb_file_per_table

 

  • 如果innodb_file_per_table 为 ON 将建立独立的表空间,文件为tablename.ibd;

  • 如果innodb_file_per_table 为 OFF 将数据存储到系统的共享表空间,文件为ibdataX(X为从1开始的整数);

 

 .frm :是服务器层面产生的文件,类似服务器层的数据字典,记录表结构。

 

2)(MySQL5.5默认)系统表空间与(MySQL5.6及以后默认)独立表空间

   

  • 系统表空间无法简单的收缩文件大小,造成空间浪费,并会产生大量的磁盘碎片。

  • 独立表空间可以通过optimeze table 收缩系统文件,不需要重启服务器也不会影响对表的正常访问。

  • 如果对多个表进行刷新时,实际上是顺序进行的,会产生IO瓶颈。

  • 独立表空间可以同时向多个文件刷新数据。

 

强烈建立对Innodb使用独立表空间,优化什么的会更方便可控。

 

3)系统表空间的表转移到独立表空间中的方法

 

  • 使用mysqldump 导出所有数据库数据(存储过程、触发器、计划任务一起都要导出 )可以在从服务器上操作。

  • 停止MYsql服务器,修改参数(my.cnf加入innodb_file_per_table),并删除Inoodb相关文件(可以重建Data目录)。

  • 重启MYSQL,并重建Innodb系统表空间。

  • 重新导入数据。

 

或者Alter table同样可以的转移,但是无法回收系统表空间中占用的空间。

 

4、InnoDB存储引擎的特性

 

1)特性一:事务性存储引擎及两个特殊日志类型:Redo Log和Undo Log

 

  • Innodb 是一种事务性存储引擎。

  • 完全支持事务的ACID特性。

  • 支持事务所需要的两个特殊日志类型:Redo Log 和Undo Log

 

Redo Log:实现事务的持久性(已提交的事务)。

Undo Log:未提交的事务,独立于表空间,需要随机访问,可以存储在高性能io设备上。

 

Undo日志记录某数据被修改前的值,可以用来在事务失败时进行rollback;Redo日志记录某数据块被修改后的值,可以用来恢复未写入data file的已成功事务更新的数据。

 

2)特性二:支持行级锁

 

  • InnoDB支持行级锁。

  • 行级锁可以最大程度地支持并发。

  • 行级锁是由存储引擎层实现的。

 

5、什么是锁

 

1)锁

    

 

2)锁类型

    

 

3)锁的粒度

 

MySQL的事务支持不是绑定在MySQL服务器本身,而是与存储引擎相关。

 

 

将table_name加表级锁命令:lock table table_name write; 写锁会阻塞其它用户对该表的‘读写’操作,直到写锁被释放:unlock tables;

 

  • 锁的开销越大,粒度越小,并发度越高。

  • 表级锁通常是在服务器层实现的。

  • 行级锁是存储引擎层实现的。innodb的锁机制,服务器层是不知道的。

 

4)阻塞和死锁

 

  • 阻塞是由于资源不足引起的排队等待现象。

  • 死锁是由于两个对象在拥有一份资源的情况下申请另一份资源,而另一份资源恰好又是这两对象正持有的,导致两对象无法完成操作,且所持资源无法释放。

 

6、如何选择正确的存储引擎

 

参考条件:

 

  • 事务

  • 备份(Innobd免费在线备份)

  • 崩溃恢复

  • 存储引擎的特有特性

 

总结:Innodb大法好。

注意:尽量别使用混合存储引擎,比如回滚会出问题在线热备问题。

 

7、配置参数

 

1)内存配置相关参数

 

  • 确定可以使用的内存上限。

    内存的使用上限不能超过物理内存,否则容易造成内存溢出;(对于32位操作系统,MySQL只能试用3G以下的内存。)

  • 确定MySQL的每个连接单独使用的内存。

 

 

sort_buffer_size #定义了每个线程排序缓存区的大小,MySQL在有查询、需要做排序操作时才会为每个缓冲区分配内存(直接分配该参数的全部内存);

join_buffer_size #定义了每个线程所使用的连接缓冲区的大小,如果一个查询关联了多张表,MySQL会为每张表分配一个连接缓冲,导致一个查询产生了多个连接缓冲;

read_buffer_size #定义了当对一张MyISAM进行全表扫描时所分配读缓冲池大小,MySQL有查询需要时会为其分配内存,其必须是4k的倍数;

read_rnd_buffer_size #索引缓冲区大小,MySQL有查询需要时会为其分配内存,只会分配需要的大小。

注意:以上四个参数是为一个线程分配的,如果有100个连接,那么需要×100。

 

  • MySQL数据库实例:

    ①MySQL是单进程多线程(而oracle是多进程),也就是说MySQL实例在系统上表现就是一个服务进程,即进程;

    ②MySQL实例是线程和内存组成,实例才是真正用于操作数据库文件的;

    一般情况下一个实例操作一个或多个数据库;集群情况下多个实例操作一个或多个数据库。

 

2)如何为缓存池分配内存

 

Innodb_buffer_pool_size,定义了Innodb所使用缓存池的大小,对其性能十分重要,必须足够大,但是过大时,使得Innodb 关闭时候需要更多时间把脏页从缓冲池中刷新到磁盘中;

 

 
总内存-(每个线程所需要的内存*连接数)-系统保留内存

 

key_buffer_size,定义了MyISAM所使用的缓存池的大小,由于数据是依赖存储操作系统缓存的,所以要为操作系统预留更大的内存空间;

 

 
select sum(index_length) from information_schema.talbes where engine='myisam'

注意:即使开发使用的表全部是Innodb表,也要为MyISAM预留内存,因为MySQL系统使用的表仍然是MyISAM表。

 

max_connections控制允许的最大连接数,一般2000更大。不要使用外键约束保证数据的完整性。

 

8、性能优化顺序

 

从上到下:

 

 

三、数据库结构优化

 

1、数据库结构优化目的

 

  • 减少数据冗余:(数据冗余是指在数据库中存在相同的数据,或者某些数据可以由其他数据计算得到),注意,尽量减少不代表完全避免数据冗余;

  • 尽量避免数据维护中出现更新,插入和删除异常:

    总结:要避免异常,需要对数据库结构进行范式化设计。

  • 节约数据存储空间。

  • 提高查询效率。

 

2、数据库结构设计步骤

 

  • 需求分析:全面了解产品设计的存储需求、数据处理需求、数据安全性与完整性;

  • 逻辑设计(重要):设计数据的逻辑存储结构。数据实体之间的逻辑关系,解决数据冗余和数据维护异常。数据范式可以帮助我们设计;

  • 物理设计:表结构设计,存储引擎与列的数据类型;

  • 维护优化:索引优化、存储结构优化。

 

3、数据库范式设计与反范式化

 

可参考“数据库逻辑设计之三大范式通俗理解,一看就懂,书上说的太晦涩”

https://segmentfault.com/a/1190000013695030

 

4、物理设计

    

 

 

 

可参考“MySQL中字段类型与合理的选择字段类型;int(11)最大长度是多少?,varchar最大长度是多少”

https://segmentfault.com/a/1190000010012140

 

四、高可用架构设计

 

 

 

1、读写分离

    

 

可参考:

MaxScale:实现MySQL读写分离与负载均衡的中间件利器

 

五、数据库索引优化

 

1、两种主要数据结构:B-tree和Hash

 

1)B-tree结构

    

 

B-tree索引的限制:

    

 

2)Hash结构

    

 

Hash索引的限制:

 

  • Hash索引必须进行二次查找

  • Hash索引无法用于排序

  • Hash索引不支持部分索引查找也不支持范围查找

  • Hash索引中Hash码的计算可能存在Hash冲突,不适合重复值很高的列,如性别,身份证比较合适。

 

3)MySQL常见索引和各种索引区别

 

 

PRIMARY KEY(主键索引)  ALTER TABLE `table_name` ADD PRIMARY KEY ( `column` ) 

UNIQUE(唯一索引)     ALTER TABLE `table_name` ADD UNIQUE (`column`)

INDEX(普通索引)     ALTER TABLE `table_name` ADD INDEX index_name ( `column` ) 

FULLTEXT(全文索引)      ALTER TABLE `table_name` ADD FULLTEXT ( `column` )

组合索引   ALTER TABLE `table_name` ADD INDEX index_name ( `column1`, `column2`, `column3` ) 

 

  • 普通索引:最基本的索引,没有任何限制

  • 唯一索引:与"普通索引"类似,不同的就是:索引列的值必须唯一,但允许有空值。

  • 主键索引:它 是一种特殊的唯一索引,不允许有空值。

  • 全文索引:仅可用于 MyISAM 表,针对较大的数据,生成全文索引很耗时好空间。

  • 组合索引:为了更多的提高mysql效率可建立组合索引,遵循“最左前缀”原则。

 

2、使用索引好处和索引缺陷

 

1)为什么要使用索引

 

  • 索引大大减少了存储引擎需要扫描的数据量;

  • 索引可以帮助我们进行排序以避免使用临时表;

  • 索引可以把随机I/O变为顺序I/O。

 

2)索引不是越多越好

 

  • 索引会增加写操作的成本;

  • 太多的索引会增加查询优化器的选择时间。

 

 
索引就好比一本书的目录,它会让你更快的找到内容,显然目录(索引)并不是越多越好,假如这本书1000页,而有500页是目录,它当然效率低,目录是要占纸张的,而索引是要占磁盘空间的。

 

3、索引优化策略

 

1)索引列上不能使用表达式和函数

    

 

2)前缀索引和索引列的选择性

 

Innodb索引列最大宽度为667个字节(utf-8 差不多255个字符),MyIsam索引类宽度最大为1000个字节,于是出现前缀索引,索引的选择性。

 

对于列的值较长,比如BLOB、TEXT、VARCHAR,就必须建立前缀索引,即将值的前一部分作为索引。这样既可以节约空间,又可以提高查询效率。但无法使用前缀索引做 ORDER BY 和 GROUP BY,也无法使用前缀索引做覆盖扫描。

 

语法: ALTER TABLE table_name ADD KEY(column_name(prefix_length))

 

 

如何选择索引列的顺序:

 

  • 经常会被使用到的列优先(选择性差的列不适合,如性别,查询优化器可能会认为全表扫描性能更好);

  • 选择性高的列优先;

  • 宽度小的列优先(一页中存储的索引越多,降低I/O,查找越快);

 

3)组合/联合索引策略

 

如果索引了多列,要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过索引中的列。

 

可参考“最左前缀原理与相关优化”

http://www.uml.org.cn/sjjm/201107145.asp#nav-4-2

 

4)覆盖索引策略

 

跟组合索引有点类似,如果索引包含所有满足查询需要的数据的索引则成为覆盖索引(Covering Index),也就是平时所说的不需要回表操作。即索引的叶子节点上面包含了他们索引的数据(hash索引不可以)。

 

判断标准:使用explain,可以通过输出的extra列来判断,对于一个索引覆盖查询,显示为using index,MySQL查询优化器在执行查询前会决定是否有索引覆盖查询。

 

优点:

 

  • 可以优化缓存,减少磁盘IO操作;

  • 可以减少随机IO,变随机IO操作变为顺序IO操作;

  • 可以避免对InnoDB主键索引的二次查询;

  • 可以避免MyISAM表进行系统调用;

 

无法使用覆盖索引的情况:

 

  • 存储引擎不支持覆盖索引;

  • 查询中使用了太多的列(如SELECT * );

  • 使用了双%号的like查询(底层API所限制);

 

可参考“mysql高效索引之覆盖索引”

https://www.cnblogs.com/chenpingzhao/p/4776981.html

 

5)SQL索引优化总结口诀(套路重点)

 

全值匹配我最爱,最左前缀要遵守;

带头大哥不能死,中间兄弟不能断;

索引列上不计算,范围之后全失效;

LIKE百分写最右,覆盖索引不写 *;

不等空值还有or,索引失效要少用;

字符单引不可丢,SQL高级也不难 ;

 

可参考“MySQL高级-索引优化”

https://www.cnblogs.com/zhaobingqing/p/7071331.html

 

4、使用索引来优化查询

 

1)利用索引排序

 

  • group by 实质是先排序后分组,遵照索引的最佳左前缀;

  • 索引中所有列的方向(升序、降序)和Order By子句完全一致;

  • 当无法使用索引列,增大max_length_for_sort_data参数的设置+增大sort_buffer_size参数的设置;

  • 如果最左列使用了范围,则排序会失效;

  • where 高于having,能写在where限定的条件就不要去having去限定了

 

5、索引的维护和优化

 

1)删除重复索引

    

 

注:主键约束相当于(唯一约束 + 非空约束)

 

一张表中最多有一个主键约束,如果设置多个主键,就会出现如下提示:Multiple primary key defined!!!

 

2)删除冗余索引

    

 

检查工具:pt-duplicate-key-checker

 

可参考“MySQL索引背后的数据结构及算法原理

explain查询计划”

http://www.uml.org.cn/sjjm/201107145.asp#nav-4-2

 

  • Using where:表示优化器需要通过索引回表查询数据;

  • Using index:表示直接访问索引就足够获取到所需要的数据,不需要通过索引回表,如覆盖索引;

 

六、SQL查询优化

 

1、获取有性能问题SQL的三种方式

 

  • 通过用户反馈获取存在性能问题的SQL;

  • 通过慢查日志获取存在性能问题的SQL;

  • 实时获取存在性能问题的SQL;

 

1)慢查日志分析工具

 

相关配置参数:

 

 

slow_query_log # 启动停止记录慢查日志,慢查询日志默认是没有开启的可以在配置文件中开启(on)

slow_query_log_file # 指定慢查日志的存储路径及文件,日志存储和数据从存储应该分开存储

 

long_query_time # 指定记录慢查询日志SQL执行时间的阀值默认值为10秒通常,对于一个繁忙的系统来说,改为0.001秒(1毫秒)比较合适

log_queries_not_using_indexes #是否记录未使用索引的SQL

 

常用工具:mysqldumpslow和pt-query-digest

 

 
pt-query-digest --explain h=127.0.0.1,u=root,p=p@ssWord  slow-mysql.log

 

2)实时获取有性能问题的SQL(推荐)

 

 

 

SELECT id,user,host,DB,command,time,state,info

FROM information_schema.processlist

WHERE TIME>=60

 

查询当前服务器执行超过60s的SQL,可以通过脚本周期性的来执行这条SQL,就能查出有问题的SQL。

 

2、SQL的解析预处理及生成执行计划

 

1)查询过程描述

 

上图原图连接:

https://processon.com/chart_image/5aab1fcbe4b0f68cc019053a.png?_=1521169284173

 

通过上图可以清晰的了解到MySQL查询执行的大致过程:

 

  • 发送SQL语句。

  • 查询缓存,如果命中缓存直接返回结果。

  • SQL解析,预处理,再由优化器生成对应的查询执行计划。

  • 执行查询,调用存储引擎API获取数据。

  • 返回结果。

 

2)查询缓存对性能的影响(建议关闭缓存)

 

第一阶段:

 

相关配置参数:

 

 

query_cache_type # 设置查询缓存是否可用

query_cache_size # 设置查询缓存的内存大小

query_cache_limit # 设置查询缓存可用的存储最大值(加上sql_no_cache可以提高效率)

query_cache_wlock_invalidate # 设置数据表被锁后是否返回缓存中的数据

query_cache_min_res_unit # 设置查询缓存分配的内存块的最小单

 

缓存查找是利用对大小写敏感的哈希查找来实现的,Hash查找只能进行全值查找(sql完全一致),如果缓存命中,检查用户权限,如果权限允许,直接返回,查询不被解析,也不会生成查询计划。

 

在一个读写比较频繁的系统中,建议关闭缓存,因为缓存更新会加锁。将query_cache_type设置为off,query_cache_size设置为0。

 

3)第二阶段:MySQL依照执行计划和存储引擎进行交互

这个阶段包括了多个子过程:

 

 

一条查询可以有多种查询方式,查询优化器会对每一种查询方式的(存储引擎)统计信息进行比较,找到成本最低的查询方式,这也就是索引不能太多的原因。

 

3、会造成MySQL生成错误的执行计划的原因

 

  • 统计信息不准确

  • 成本估算与实际的执行计划成本不同

  • 给出的最优执行计划与估计的不同

  • MySQL不考虑并发查询

  • 会基于固定规则生成执行计划

  • MySQL不考虑不受其控制的成本,如存储过程,用户自定义函数

 

4、MySQL优化器可优化的SQL类型

 

查询优化器:对查询进行优化并查询MySQL认为的成本最低的执行计划。为了生成最优的执行计划,查询优化器会对一些查询进行改写。

 

可以优化的SQL类型:

 

  • 重新定义表的关联顺序;

  • 将外连接转换为内连接;

  • 使用等价变换规则;

  • 优化count(),min(),max();

  • 将一个表达式转换为常数;

  • 子查询优化;

  • 提前终止查询,如发现一个不成立条件(如where id = -1),立即返回一个空结果;

  • 对in()条件进行优化;

 

5、查询处理各个阶段所需要的时间

 

1)使用profile(目前已经不推荐使用了)

 

 

set profiling = 1; #启动profile,这是一个session级的配制执行查询

 

show profiles; # 查询每一个查询所消耗的总时间的信息

 

show profiles for query N; # 查询的每个阶段所消耗的时间

 

2)performance_schema是5.5引入的一个性能分析引擎(5.5版本时期开销比较大)

 

启动监控和历史记录表:use performance_schema

 

 

update setup_instruments set enabled='YES',TIME = 'YES' WHERE NAME LIKE 'stage%';

 

update set_consumbers set enabled='YES',TIME = 'YES' WHERE NAME LIKE 'event%';

 

 

 

6、特定SQL的查询优化

 

1)大表的数据修改

    

 

 

2)大表的结构修改

    

 

利用主从复制,先对从服务器进入修改,然后主从切换。

 

添加一个新表(修改后的结构),老表数据导入新表,老表建立触发器,修改数据同步到新表,老表加一个排它锁(重命名),新表重命名,删除老表。

    

 

修改语句这个样子:

 

 
alter table sbtest4 modify c varchar(150) not null default ''

 

利用工具修改:

 

 

3)优化not in 和 <> 查询

 

子查询改写为关联查询:

 

 

七、分库分表

 

1、分库分表的几种方式

 

分担读负载 可通过 一主多从,升级硬件来解决。

 

1)把一个实例中的多个数据库拆分到不同实例(集群)

 

 

拆分简单,不允许跨库。但并不能减少写负载。

 

2)把一个库中的表分离到不同的数据库中

 

 

该方式只能在一定时间内减少写压力。

 

以上两种方式只能暂时解决读写性能问题。

 

3)数据库分片

 

对一个库中的相关表进行水平拆分到不同实例的数据库中:

 

 

如何选择分区键

 

  • 分区键要能尽可能避免跨分区查询的发生

  • 分区键要尽可能使各个分区中的数据平均

 

分片中如何生成全局唯一ID

 

 

可参考“表的垂直拆分和水平拆分”

https://www.kancloud.cn/thinkphp/mysql-design-optimalize/39326

最新评论
访客 2019年03月19日

牛批,醍醐灌顶

访客 2019年03月18日

似乎很屌 ~

访客 2019年03月08日

两台ECS,windows server 2016 + sql server 20…

访客 2019年03月07日

介绍的devops工具链不完整呀 开源的应该以jenkins为核…

访客 2019年03月05日

0611

活动预告