Redis故障案例(一)-特定key批量丢失

作者：RogerZhuo

来源：DBACoder

TroubleShooting-排障是DBA一项重要技能，通过故障表现的症状，先让业务快速恢复止损，同时分析故障的根因(rootCause),给出解决方案并从根本上修复故障，最后总结从产品或流程上怎么规避同类型故障再次发生。

 DBA排障很像医生治病、刑警破案。

医生通过了解病人病情症状(故障症状），先让病人病情缓解(服务止损）类似止痛，同时分析病灶（故障根因），给出可行的治疗方案（故障解决方案），病人完全恢复；最后给出医疗建议如何预防病情或避免恶化(故障规避）；当然还有现多的类似急救(紧急故障-7位数级损失）、会诊、不治、AI医疗(AI故障根因分析）、医疗事故(背锅)；其实很多相通之处。

刑警通过真凶（故障根因）留下的犯罪现场(故障症状），根据罗卡定律，各种技术分析和寻找证据，最终找出真凶和证据。（段子很多，先回到主题）  

在Redis早期的运维过程中，也遇过不少Redis故障，现总结其中几个有意思的案例，希望对刚开始用Redis的DBA同学有所帮助。故障因与业务、故障场景结合较密切(脱敏)，笔者尽量提炼成技术和还原现场；故障系列文章包括以下几部分：

故障背景：主要交待技术和故障背景[可选]；

故障描述：故障的简单描述、根本原因和影响；

故障监控告警：故障相关的监控告警信息；

故障分析：文章核心 提供类似故障的分析思路、和技术点；

故障阶段性总结：文章核心 总结类似故障的通用性预防；

本文是Redis故障案例(一)关于一次Redis特定key丢失排查分析。

---

1 故障背景

A业务有一个3分片的Redis Cluster缓存集群,会定期生成数据写入Redis; 某一天，A业务的研发工程师(下文简称RD)突然找到DBA,很激动地说：“我们Redis集群突然掉很多key…” ,然后故事就开始了….

RD:  “我们Redis集群中，以“t_list:”前缀的90000多key今早发现都掉了，其他key还在，是不是DBA有清理操作啊？”
DBA:  “没有维护性操作(一脸懵B和无辜),先止损，把Key从Primary store中导入Redis；”
RD:  “已经从MySQL把key导入到Redis，现在业务功能恢复，影响很小。但请帮忙追查原因。“
DBA: “这部分key确认最近一次还在是什么时候? 然后最早发现丢失是在什么时候？” 备注:DBA开始和当事人了解案发时间，为排查问题提供依据。
RD: “昨晚20:30前key肯定还在，最早发现key不见是今早9:20同事发现新测试功能有异常” 备注：灰度功能
DBA: ”好的，我先分析一下原因，有结果了通知你；定位问题前，你也关注一下服务，避免问题二次发生”。

然后RD就下楼了，DBA扣上他的几十元买来的boss耳机，开始自言自语Troubleshooting.

2 故障描述

因RD1同学为重写t_list的90000多个KEY, 通过keys t_list*命令获取并删除，但未及时把key新内容重到redis中；使得RD2同学以为数据灵异丢失。但因为是灰度功能使用数据，服务影响范围较小。

3 故障告警

1 业务告警缺失；见故障总结
2 Redis侧无法监控此类告警

4 故障分析

通过RD提供的线索：

• 特定t_list:前缀90000个List元素丢失；

• 数据丢失时间范围前日20：30~9:20之间（案发时间段，分析各种监控范围）。
  

通过故障症状初步分析，故障可能的根因：

• 执行了flushall/flushdb命令删除所有key,其他key是后来写入的，造成了只丢失t_list的假象

•  这90000个List元素因执行LPOP/RPOP，导致key被删除的现象;(List中元素被全部pop完后，list相当于被删除了）

• 这部分key因设置了TTL，在此期间内全部过期，被redis自动删除;

• 这部分key因LRU淘汰，被redis全部驱逐淘汰； 

• 程序BUG或人为删除导致；

每个可能故障根因排查分析：   

• 排除flushall/flushdb导致；因此集群两个命令是被rename了，同时观察集群监控dbsize为了跌为0的区段； info Commandstats中没cmdstat_flushdb、cmdstat_flushall输出都可确认，不是flush造成的。

• 排队List pop操作导致的；通过分析案发时间段内的监控图，并未发现cmdstat_rpop和cmdstat_lpop输出；

• 排除过期删除导致； 分析监控，最近24小时expired_keys监控指标值基本为0
  

• 排除LRU淘汰导致；本集群实例未设置淘汰，maxmemory-policy为noeviction；分析监控，最近24小时evicted_keys监控指标值都是0。

• 确认是程序BUG或人为删除导致；最后定位是RD1同学，为重写这部分key，通过脚本keys t_list:*获取，并通过del命令删除。详细分析过程如下：

   通过分析redis监控单个分片key个数，发现22:00到22:40时间段内，key个数下降约30000个；此集群共3个数据分片,且每个分片slots分配均匀，三个分片同时段key个数下降约90000个；和故障丢失key个数相符。   

图1. 数据key个数监控图

再分析DEL的操作，22:00~22:40时间段内，每个Redis的每秒del操作12次，持续40min; 约30000个del操作； 3个分片，共执行约90000次DEL操作
 

图2. 删除操作DEL的每秒请求数监控图

查看slowlog监控，2015-12-03 22:01:01 时间点，执行KEYS “tlist*” 获取所有key的前缀， 目的应该是执行后面的DEL操作

图3. slowlog分析图

5 故障阶段性总结和预防

• 禁用keys命令(程序历史原因)，DBA提供删除特定key的自助化服务；尽量避免RD直接操作Redis集群数据，通过review的流程减少误操作的发生；

• 业务方加强监控告警，业务异常能及时发现。

非技术类总结：

• 数据是公司重要的资产和生命线，DBA除了本职工作做好数据的安全和可靠外；实际工作也有很多类似的“数据丢失”场景，怎么从技术层面不做背锅侠；

• 做好完善的监控，是精细化运营管理和自我保护的前提。

   -END-

---

推荐订阅原文作者公众号 DBACoder

▼