脏数据监控与治理

来源:互联网 发布:网络流行语用文言文 编辑:程序博客网 时间:2024/05/22 19:25

请教一个【脏数据监控与治理】问题看看大伙平时都如何实践


1、相关背景

(1)某次局部故障确认系统没做变更后来发现是一年多前代码没有【充分防御】当出现脏数据后会在一定范围内引起异常并冲击 MySQL,当时通过 DAL 临时拦截异常 SQL暂时解决

(2)某次局部抖动下游系统发现上游系统会有一定概率传不匹配值过来后来发现是上游系统产生了部分脏数据所致当时通过 hotfix 暂时解决。


2、可选方案

(1)充分防御大法就是在各种可能产生脏数据的地方提前设卡堵截例如产品约束、设计约束我们目前没有要求 MySQL 表间强制约束、开发检测、各种临时 DML检测、etc.,缺点是防得住一万防不住万一在业务交付节奏快、压力大场景下最有洁癖的工程师也可能守不住【充分防御大法】如果类似上面 #1 场景,bug 会潜伏相当长一段时间才可能被命中回滚也解决不了

(2)强制约束大法这个就不解释了优缺点都比较明显

(3)定时监控大法这个属于事后动作赌概率如果脏数据产生瞬间导致系统秒挂,hotfix也来不及。


原创粉丝点击