如何用消息系统避免分布式事务?
来源:互联网 发布:高性能并发网络框架 编辑:程序博客网 时间:2024/05/18 02:35
什么是分布式事务
传统的基于数据库本地事务的解决方案只能保障单个服务的一次处理具备原子性、隔离性、一致性与持久性,但无法保障多个分布服务间处理的一致性。因此,我们必须建立一套分布式服务处理之间的协调机制,保障分布式服务处理的原子性、隔离性、一致性与持久性。
支付宝为什么需要分布式事务
基于SOA架构,整个支付宝系统会拆分成一系列独立开发、自包含、自主运行的业务服务,并将这些服务通过各种机制灵活地组装成最终用户所需要的产品与解决方案。
在多个服务协同完成一次业务时,由于业务约束(如红包不符合使用条件、账户余额不足等)、系统故障(如网络或系统超时或中断、数据库约束不满足等),都可能造成服务处理过程在任何一步无法继续,使数据处于不一致的状态,产生严重的业务后果,所以我们需要一个分布式事务的解决方案,用来协调多个服务的业务一致性。
支付宝的分布式事务框架
支付宝开发的分布式事务是基于两阶段提交的理论(Two Phase Commit),首先给出两阶段提交的逻辑图:
为了能够有效的让框架进行分布式事务的提交、回滚等动作,框架需要在整个两阶段执行过程中记录下足够的信息,设计了两张表来记录相关信息:
分布式业务控制活动主表:记录了全局事务的活动状态;
原子业务活动表:记录了原子业务活动的状态;
我们用一个例子来说明:
看一个典型的分布式事务场景。
业务场景描述: 用户购买商品,使用支付宝余额支付;
测试方案
分析步骤
- 角色定位
- 各分支的业务活动记录状态
- 梳理业务各个场景
- 验证梳理场景
- 恢复&回查机制
角色定位
首先测试人员需要分析所测试的系统处于分布式事务中的哪一个环节中,是处于事务的发起者,还是事务的参与者,不同的角色的定位对于测试分析角度不同,主要有以下的区别:
发起者:
分为同库/异库模式,主要区分是控制全局事务状态的主事务记录是否持久化在自己系统的db中;
参与者:
分为本地/远程模式,主要区分是是否可以创建嵌套的分布式事务;
各分支的业务活动记录状态
主事务记录:
根据业务场景的不同,主事务记录状态也会相应改变,主要的状态机变化如图所示,测试人员需要模拟业务场景来验证状态机的迁转是否正确;
同库:初始状态:I;提交成功:C;提交失败:I
异库:初始状态:U;提交成功:U;提交失败:U
梳理&验证业务场景
• 分析维度
- 一阶段:预处理:成功/失败;
- 二阶段:提交/回滚;
- 预期结果
- 各个状态场景
恢复&回查
- 恢复:应用使用分布式事务,出现处理失败的业务活动,为了确保产生的影响不破坏业务一致性,我们必须对这些记录进行恢复处理
- 回查:对于异库模式,事务状态为U,若提交或回滚失败,分布式事务总控系统无法感知这笔分布式事务是否执行成功,需要业务系统提供相应的回查接口;
恢复及回查接口需要特别关注,对于分布式事务的正常二阶段提交或回滚,业务场景覆盖时多半都能check到,但是对于恢复及回查逻辑,很多时候都会遗漏,所以测试人员需要对这块特别做一个分析;
感谢侯伯薇对本文的审校。
给InfoQ中文站投稿或者参与内容翻译工作,请邮件至editors@cn.infoq.com。也欢迎大家通过新浪微博(@InfoQ)或者腾讯微博(@InfoQ)关注我们,并与我们的编辑和其他读者朋友交流。
【QCon北京2016】大会火热筹备中,腾讯社交网络质量部副总经理吴凯华、美团网技术总监王栋、奇虎360系统部总监肖康等专家将担任专题出品人,策划实践驱动的技术分享。另,100+位讲师积极邀约中,欢迎自荐或推荐。现在购票,可享8折优惠,5人之上团购优惠多多。
欢迎加入伯乐在线作者团队。
前阵子从支付宝转账1万块钱到余额宝,这是日常生活的一件普通小事,但作为互联网研发人员的职业病,我就思考支付宝扣除1万之后,如果系统挂掉怎么办,这时余额宝账户并没有增加1万,数据就会出现不一致状况了。
上述场景在各个类型的系统中都能找到相似影子,比如在电商系统中,当有用户下单后,除了在订单表插入一条记录外,对应商品表的这个商品数量必须减1吧,怎么保证?!在搜索广告系统中,当用户点击某广告后,除了在点击事件表中增加一条记录外,还得去商家账户表中找到这个商家并扣除广告费吧,怎么保证?!等等,相信大家或多或多少都能碰到相似情景。
本质上问题可以抽象为:当一个表数据更新后,怎么保证另一个表的数据也必须要更新成功。
1 本地事务
还是以支付宝转账余额宝为例,假设有
- 支付宝账户表:A(id,userId,amount)
- 余额宝账户表:B(id,userId,amount)
- 用户的userId=1;
从支付宝转账1万块钱到余额宝的动作分为两步:
- 1)支付宝表扣除1万:update A set amount=amount-10000 where userId=1;
- 2)余额宝表增加1万:update B set amount=amount+10000 where userId=1;
如何确保支付宝余额宝收支平衡呢?
有人说这个很简单嘛,可以用事务解决。
Begin transaction
update A
set
amount=amount-
10000
where userId=
1
;
update B
set
amount=amount+
10000
where userId=
1
;
End transaction
commit;
非常正确,如果你使用spring的话一个注解就能搞定上述事务功能。
@Transactional
(rollbackFor=Exception.
class
)
public
void
update() {
updateATable();
//更新A表
updateBTable();
//更新B表
}
如果系统规模较小,数据表都在一个数据库实例上,上述本地事务方式可以很好地运行,但是如果系统规模较大,比如支付宝账户表和余额宝账户表显然不会在同一个数据库实例上,他们往往分布在不同的物理节点上,这时本地事务已经失去用武之地。
既然本地事务失效,分布式事务自然就登上舞台。
2 分布式事务—两阶段提交协议
两阶段提交协议(Two-phase Commit,2PC)经常被用来实现分布式事务。一般分为协调器C和若干事务执行者Si两种角色,这里的事务执行者就是具体的数据库,协调器可以和事务执行器在一台机器上。
1) 我们的应用程序(client)发起一个开始请求到TC;
2) TC先将<prepare>消息写到本地日志,之后向所有的Si发起<prepare>消息。以支付宝转账到余额宝为例,TC给A的prepare消息是通知支付宝数据库相应账目扣款1万,TC给B的prepare消息是通知余额宝数据库相应账目增加1w。为什么在执行任务前需要先写本地日志,主要是为了故障后恢复用,本地日志起到现实生活中凭证 的效果,如果没有本地日志(凭证),出问题容易死无对证;
3) Si收到<prepare>消息后,执行具体本机事务,但不会进行commit,如果成功返回<yes>,不成功返回<no>。同理,返回前都应把要返回的消息写到日志里,当作凭证。
4) TC收集所有执行器返回的消息,如果所有执行器都返回yes,那么给所有执行器发生送commit消息,执行器收到commit后执行本地事务的commit操作;如果有任一个执行器返回no,那么给所有执行器发送abort消息,执行器收到abort消息后执行事务abort操作。
注:TC或Si把发送或接收到的消息先写到日志里,主要是为了故障后恢复用。如某一Si从故障中恢复后,先检查本机的日志,如果已收到<commit >,则提交,如果<abort >则回滚。如果是<yes>,则再向TC询问一下,确定下一步。如果什么都没有,则很可能在<prepare>阶段Si就崩溃了,因此需要回滚。
现如今实现基于两阶段提交的分布式事务也没那么困难了,如果使用java,那么可以使用开源软件atomikos(http://www.atomikos.com/)来快速实现。
不过但凡使用过的上述两阶段提交的同学都可以发现性能实在是太差,根本不适合高并发的系统。为什么?
- 1)两阶段提交涉及多次节点间的网络通信,通信时间太长!
- 2)事务时间相对于变长了,锁定的资源的时间也变长了,造成资源等待时间也增加好多!
正是由于分布式事务存在很严重的性能问题,大部分高并发服务都在避免使用,往往通过其他途径来解决数据一致性问题。
3 使用消息队列来避免分布式事务
如果仔细观察生活的话,生活的很多场景已经给了我们提示。
比如在北京很有名的姚记炒肝点了炒肝并付了钱后,他们并不会直接把你点的炒肝给你,而是给你一张小票,然后让你拿着小票到出货区排队去取。为什么他们要将付钱和取货两个动作分开呢?原因很多,其中一个很重要的原因是为了使他们接待能力增强(并发量更高)。
还是回到我们的问题,只要这张小票在,你最终是能拿到炒肝的。同理转账服务也是如此,当支付宝账户扣除1万后,我们只要生成一个凭证(消息)即可,这个凭证(消息)上写着“让余额宝账户增加 1万”,只要这个凭证(消息)能可靠保存,我们最终是可以拿着这个凭证(消息)让余额宝账户增加1万的,即我们能依靠这个凭证(消息)完成最终一致性。
3.1 如何可靠保存凭证(消息)
有两种方法:
3.1.1 业务与消息耦合的方式
支付宝在完成扣款的同时,同时记录消息数据,这个消息数据与业务数据保存在同一数据库实例里(消息记录表表名为message)。
Begin transaction
update A
set
amount=amount-
10000
where userId=
1
;
insert into message(userId, amount,status) values(
1
,
10000
,
1
);
End transaction
commit;
上述事务能保证只要支付宝账户里被扣了钱,消息一定能保存下来。
当上述事务提交成功后,我们通过实时消息服务将此消息通知余额宝,余额宝处理成功后发送回复成功消息,支付宝收到回复后删除该条消息数据。
3.1.2 业务与消息解耦方式
上述保存消息的方式使得消息数据和业务数据紧耦合在一起,从架构上看不够优雅,而且容易诱发其他问题。为了解耦,可以采用以下方式。
1)支付宝在扣款事务提交之前,向实时消息服务请求发送消息,实时消息服务只记录消息数据,而不真正发送,只有消息发送成功后才会提交事务;
2)当支付宝扣款事务被提交成功后,向实时消息服务确认发送。只有在得到确认发送指令后,实时消息服务才真正发送该消息;
3)当支付宝扣款事务提交失败回滚后,向实时消息服务取消发送。在得到取消发送指令后,该消息将不会被发送;
4)对于那些未确认的消息或者取消的消息,需要有一个消息状态确认系统定时去支付宝系统查询这个消息的状态并进行更新。为什么需要这一步骤,举个例子:假设在第2步支付宝扣款事务被成功提交后,系统挂了,此时消息状态并未被更新为“确认发送”,从而导致消息不能被发送。
优点:消息数据独立存储,降低业务系统与消息系统间的耦合;
缺点:一次消息发送需要两次请求;业务处理服务需要实现消息状态回查接口。
3.2 如何解决消息重复投递的问题
还有一个很严重的问题就是消息重复投递,以我们支付宝转账到余额宝为例,如果相同的消息被重复投递两次,那么我们余额宝账户将会增加2万而不是1万了。
为什么相同的消息会被重复投递?比如余额宝处理完消息msg后,发送了处理成功的消息给支付宝,正常情况下支付宝应该要删除消息msg,但如果支付宝这时候悲剧的挂了,重启后一看消息msg还在,就会继续发送消息msg。
解决方法很简单,在余额宝这边增加消息应用状态表(message_apply),通俗来说就是个账本,用于记录消息的消费情况,每次来一个消息,在真正执行之前,先去消息应用状态表中查询一遍,如果找到说明是重复消息,丢弃即可,如果没找到才执行,同时插入到消息应用状态表(同一事务)。
for
each
msg
in
queue
Begin transaction
select count(*)
as
cnt from message_apply where msg_id=msg.msg_id;
if
cnt==
0
then
update B
set
amount=amount+
10000
where userId=
1
;
insert into message_apply(msg_id) values(msg.msg_id);
End transaction
commit;
ebay的研发人员其实在2008年就提出了应用消息状态确认表来解决消息重复投递的问题:http://queue.acm.org/detail.cfm?id=1394128。
- 如何用消息系统避免分布式事务
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- 如何用消息系统避免分布式事务?
- iOS---In-App Purchase 常见问题解答
- 蓝牙学习之旅——专业术语简述
- Socket编程
- C# 程序员最常犯的 10 个错误
- 使用Struts2验证框架实现输入校验
- 如何用消息系统避免分布式事务?
- Java虚拟机参数设置问题
- jquery.cookie.js用法实例详解
- tomcat中catalina是什么
- 19Java语法回顾之反射
- Redis 横向扩展案例
- Hadoop YARN学习监控JVM和实时监控Ganglia、Ambari(5)
- 《剑指offer》——两个链表的第一个公共结点
- unity 中抗锯齿设置