一条从未见过的报警,开启曲折的MySQL死锁排查

钱森淼@贝壳找房 2021-03-01 10:06:38

 

故障背景

 

国庆期间,收到一条从未见过的报警,后面间歇性地又报出类似的偶现报警,便忽然来了兴致,摘了其中一条,探究一下其中的故事。

 

*** (1) TRANSACTION:

TRANSACTION 6286508066, ACTIVE 0 sec updating or deleting

mysql tables in use 1, locked 1

LOCK WAIT 9 lock struct(s), heap size 1136, 14 row lock(s), undo log entries 1

MySQL thread id 189619143, OS thread handle 140619931252480, query id 1148803196 10.200.18.103 ke_information updating

update `user_feed_26` set `notification` = 1, `mtime` = '2020-10-03 09:11:11' where `user_id` = 2000000126212250 and `action` in ('resblock_weekly', 'bizcircle_weekly', 'district_weekly') and `notification` = 0

*** (1) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508066 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 93 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 14; hex 6f6e5f7368656c665f616761696e; asc on_shelf_again;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313033373433363737; asc 104103743677;;

 4: len 4; hex 95f12ab5; asc   * ;;

 

从日志的字面意思来看,显然,是MySQL数据库在执行事务时,发现了死锁的情况,那么这种死锁是如何产生的,背后又潜藏着怎样的隐患,又该如何去解决呢,我们一起来排查一下~

 

排查过程

 

雾里看花
 

 

刚开始收到这个报警,第一反应,是有不同事务互相锁,结果产生了死锁。那么坏了,十有八九是某个代码片段里写的逻辑出了问题。但是排查了一整圈,涉及到这个sql的代码,既没有开启事务,更没有多个事务,那么代码的bug基本上就可以排除了。

 

那么这些个事务是怎么来的呢?众所周知,MySQL的事务支持与存储引擎有关,MyISAM不支持事务,INNODB支持事务,更新时采用的是行级锁。由于我们的数据库采用的是INNODB引擎,意味着,会将update语句当做一个事务来处理。那难道是更新同一条数据,出现的冲突吗?于是找DBA同学要来了死锁日志(数据库版本:5.7.24 事务隔离级别为RR)。

 

事务一日志:

 

*** (1) TRANSACTION:

TRANSACTION 6286508066, ACTIVE 0 sec updating or deleting

mysql tables in use 1, locked 1

LOCK WAIT 9 lock struct(s), heap size 1136, 14 row lock(s), undo log entries 1

MySQL thread id 189619143, OS thread handle 140619931252480, query id 1148803196 10.200.18.103 ke_information updating

update `user_feed_26` set `notification` = 1, `mtime` = '2020-10-03 09:11:11' where `user_id` = 2000000126212250 and `action` in ('resblock_weekly', 'bizcircle_weekly', 'district_weekly') and `notification` = 0

*** (1) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508066 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 93 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 14; hex 6f6e5f7368656c665f616761696e; asc on_shelf_again;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313033373433363737; asc 104103743677;;

 4: len 4; hex 95f12ab5; asc   * ;;

 

由日志可以看出,事务一执行的sql语句是:

 

 update `user_feed_26` set `notification` = 1, `mtime` = '2020-10-03 09:11:11' where `user_id` = 2000000126212250 and `action` in ('resblock_weekly', 'bizcircle_weekly', 'district_weekly') and `notification` = 0

 

在等待的锁是:

 

 *** (1) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508066 lock_mode X locks gap before rec insert intention waiting

 

这里显示的是事务在等待什么锁。RECORD LOCKS 表示记录锁,并且可以看出要加锁的索引为idx_user_id,space id为2229,page no为263938,lock_mode X 标识该记录锁为排它锁,insert intention waiting 表示要加的锁为插入意向锁,并处于锁等待状态。

 

 Record lock, heap no 93 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 14; hex 6f6e5f7368656c665f616761696e; asc on_shelf_again;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313033373433363737; asc 104103743677;;

 4: len 4; hex 95f12ab5; asc   * ;;

 

结合索引信息第二行 on_shelf_again 可以知道,这行锁的 action 字段是 on_shelf_again ;

 

事务二日志:

 

 *** (2) TRANSACTION:

TRANSACTION 6286508067, ACTIVE 0 sec updating or deleting, thread declared inside InnoDB 4980

mysql tables in use 1, locked 1

12 lock struct(s), heap size 1136, 22 row lock(s), undo log entries 3

MySQL thread id 189619144, OS thread handle 140620050204416, query id 1148803197 10.200.17.37 pt_user updating

UPDATE `user_feed_26` SET  `notification` = '1' , `mtime` = '2020-10-03 09:11:11'  WHERE `user_id` = '2000000126212250'  AND `action` in ( 'deal','price_changed','ting_shou','house_new_picture','house_new_vr','price_changed_rise','on_shelf_again')  AND `notification` = '0'

*** (2) HOLDS THE LOCK(S):

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508067 lock_mode X locks gap before rec

Record lock, heap no 83 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 4; hex 6465616c; asc deal;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313032363731333238; asc 104102671328;;

 4: len 4; hex 95e14632; asc   F2;;

 

Record lock, heap no 93 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 14; hex 6f6e5f7368656c665f616761696e; asc on_shelf_again;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313033373433363737; asc 104103743677;;

 4: len 4; hex 95f12ab5; asc   * ;;

 

*** 省略……

 

*** (2) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508067 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 87 PHYSICAL RECORD: n_fields 5; compact format; info bits 32

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 15; hex 64697374726963745f7765656b6c79; asc district_weekly;;

 2: len 1; hex 80; asc  ;;

 3: len 8; hex 3233303038373831; asc 23008781;;

 4: len 4; hex 95f63035; asc   05;;

 

事务二的日志,相比于事务一多了持有锁的信息:

 

 *** (2) HOLDS THE LOCK(S):

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508067 lock_mode X locks gap before rec

Record lock, heap no 83 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 4; hex 6465616c; asc deal;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313032363731333238; asc 104102671328;;

 4: len 4; hex 95e14632; asc   F2;;

 

Record lock, heap no 93 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 14; hex 6f6e5f7368656c665f616761696e; asc on_shelf_again;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313033373433363737; asc 104103743677;;

 4: len 4; hex 95f12ab5; asc   * ;;

 

*** 省略……

 

从日志看,事务二持有一个记录锁,RECORD LOCKS这是个记录锁,space id为2229,page no为263938 并且通过索引信息可以看出,事务二恰好持有事务一需要的那行记录锁,即:

 

Record lock, heap no 93 PHYSICAL RECORD: n_fields 5; compact format; info bits 0

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 14; hex 6f6e5f7368656c665f616761696e; asc on_shelf_again;;

 2: len 1; hex 81; asc  ;;

 3: len 12; hex 313034313033373433363737; asc 104103743677;;

 4: len 4; hex 95f12ab5; asc   * ;;

 


lock_mode X locks gap before rec 表示这是一个排他锁,并且是一个间隙锁。

 

 

*** (2) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508067 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 87 PHYSICAL RECORD: n_fields 5; compact format; info bits 32

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 15; hex 64697374726963745f7765656b6c79; asc district_weekly;;

 2: len 1; hex 80; asc  ;;

 3: len 8; hex 3233303038373831; asc 23008781;;

 4: len 4; hex 95f63035; asc   05;;


同样,这里显示的是事务二在等待什么锁。RECORD LOCKS 表示记录锁,并且可以看出要加锁的索引为idx_user_id,space id为2229,page no为263938 lock_mode X 标识该记录锁为排它锁,insert intention waiting 表示要加的锁为插入意向锁,并处于锁等待状态。虽然,事务一的日志中没有标明它持有了哪些锁,但是结合事务二等待的锁结构中 district_weekly 字段来看,事务一是持有该锁的,因此,两个事务形成了互相等待锁释放的场景,从而形成了死锁。

 

那么疑问来了,两个sql:

 

# sql1:

update `user_feed_26` set `notification` = 1, `mtime` = '2020-10-03 09:11:11' where `user_id` = 2000000126212250 and `action` in ('resblock_weekly', 'bizcircle_weekly', 'district_weekly') and `notification` = 0

# sql2:

UPDATE `user_feed_26` SET  `notification` = '1' , `mtime` = '2020-10-03 09:11:11'  WHERE `user_id` = '2000000126212250'  AND `action` in ( 'deal','price_changed','ting_shou','house_new_picture','house_new_vr','price_changed_rise','on_shelf_again')  AND `notification` = '0'

 

明明两个语句的where条件不一样,也不交叉,为什么会占用彼此的锁呢?

 

山穷水复
 

 

为了验证这种case,我们在线下尝试进行复现。表结构如下:

 

#CREATE TABLE `user_feed_26` (

  `feed_id` int(10) NOT NULL AUTO_INCREMENT,

  `user_id` bigint(20) NOT NULL,

 

……

  PRIMARY KEY (`feed_id`),

  KEY `idx_user_id` (`user_id`,`action`,`notification`,`feed_target`),

 

……

) ENGINE=InnoDB AUTO_INCREMENT=371826027 DEFAULT CHARSET=utf8 COMMENT='用户推送表';

 

但是无论如何,都是锁等待,而不会形成死锁。这是怎么回事呢?

 

图片

 

带着怀疑的态度,我们查看了一下语句的执行计划:

 

图片

 

通过执行计划我们发现,这里并没有走死锁日志里出现的那个idx_user_id索引,而是走的主键索引,因此并没有产生死锁。

 

大胆猜测:是因为模拟的数据量太小,导致并没有走复合索引。

 

于是,我们往线下模拟库里灌入了大概100w左右的随机数据,再次查看执行计划:

 

图片

 

果然,当数据量变大之后,就会走对应的复合索引了。再经过一次尝试,果然复现出了线上那种死锁场景,但是问题来了,为什么会出现这种情况呢?

 

柳暗花明
 

 

为了了解背后真实的原理,我们再次研读了MySQL锁相关的资料,也得知了事情的真相。

 

首先,简单说一下MySQL加锁的基本原则:

 

  • 原则 1:加锁的基本单位是 next-key lock。next-key lock 是前开后闭区间;

  • 原则 2:查找过程中访问到的对象才会加锁。

 

优化 1:唯一索引上的等值查询加锁时,next-key lock 退化为行锁。

 

优化 2:非唯一索引上的等值查询加锁时,对where条件中的值所在区间向右(后)遍历时,该区间的右边界不满足等值条件的时候,next-key lock 退化为间隙锁。这个比较难理解,举个例子:

 

若在表ta的列a上有非唯一索引:index_a,该索引中存在的值为:1,1,3,3,7,9:当你执行select a from ta where ta.a=5时,就会从3开始往右(后)遍历,此时对应的 是(3,7]但是由于该区间的最后一个值7不满足=5的条件,因此该next-key lock就退化为gap lock (3,7)。

 

由此可知,当我们执行的update语句,在查询的时候,给对应的索引idx_user_id加上了间隙锁,从而互相之间产生了死锁。举个简单的例子说明一下:

 

图片

 

  • 事务2执行了一个update, where 条件为3,因此获得了(1,3)的Gap锁;

  • 事务1也执行了一个update,where条件为5,因此获得了一个(5,+∞),同时等待(1,7)插入意向锁;

  • 事务2又执行了一个update,where条件为8,那么他将等待(5,+∞)。

 

于是乎,死锁就产生了。

 

那么,如何避免这种死锁再次发生呢?

 

通过唯一索引(一般主键都是)来更新,先通过select语句查出符合条件的记录的唯一索引,再通过唯一索引来更新。

 

select id from table where a=? and b=?;

update table set column=xxx where id= id;

 

避免在同一时间点运行多个对同一表进行读写的脚本,特别注意加锁且操作数据量比较大的语句;我们经常会有一些定时脚本,避免它们在同一时间点运行;如本次事件所示,Gap 锁往往是程序中导致死锁的真凶,由于默认情况下 MySQL 的隔离级别是 RR,所以如果能确定幻读和不可重复读对应用的影响不大,可以考虑将隔离级别改成 RC,可以避免 Gap 锁导致的死锁。

 

参考阅读:

https://www.cnblogs.com/suminem/p/13267828.html

 

作者丨钱森淼@贝壳找房
来源丨公众号:贝壳产品技术(ID:beikeTC)
dbaplus社群欢迎广大技术人员投稿,投稿邮箱:editor@dbaplus.cn

 

lock_mode X locks gap before rec 表示这是一个排他锁,并且是一个间隙锁

 

 

 

*** (2) WAITING FOR THIS LOCK TO BE GRANTED:

RECORD LOCKS space id 2229 page no 263938 n bits 264 index idx_user_id of table `lianjia_user_feed`.`user_feed_26` trx id 6286508067 lock_mode X locks gap before rec insert intention waiting

Record lock, heap no 87 PHYSICAL RECORD: n_fields 5; compact format; info bits 32

 0: len 8; hex 80071afd5112d89a; asc     Q   ;;

 1: len 15; hex 64697374726963745f7765656b6c79; asc district_weekly;;

 2: len 1; hex 80; asc  ;;

 3: len 8; hex 3233303038373831; asc 23008781;;

 4: len 4; hex 95f63035; asc   05;;

活动预告