高效分布式操作解决方案
来源:互联网 发布:淘宝店推荐知乎 编辑:程序博客网 时间:2024/05/18 01:15
为什么要替代分布式事务?
里的数据,为了保证数据准确性和一致性,我们大都使用分布式事务来实现(非常经典的两阶段提交协议)。
分布式事务最大的优点就是简化应用开发,对于时间紧迫并且性能要求不高的系统可以大大的提高开发效率,这也是大多开发者沉醉于
其中的主要原因。但没有十全十美的,有利必有弊,虽然开发便捷了,但是也严重的损害了系统的可用性,高性能和可扩展性,尤其对于
海量数据复杂的系统体现就更明显。
系统的可用性
系统的可用性就相当于参加分布式事务的各个数据库实例的可用性之积,数据库实例越多,可用性下降的越明显;因为参加分布式事务
的所有数据库实例都可以正常工作下,这个分布式事务才算完成,如果有一个数据库实例有故障,那这个分布式事务都会失败。
高效能和可伸缩性
对于一个分布式事务总的持续时间是操作各个数据库实例的时间之和,因为在分布式事务中每个操作是顺序执行的,这样每个事务的响
应时间就会很长;还有对于一个OLTP系统,事务都很小,一般几毫秒,当涉及到分布式事务时,节点间的网络通信时间占事务总响应时
间的比例也是不容忽视的。还有由于事务时间相对于变长了,锁定的资源的时间也就变长了。从而严重影响系统的并发性,吞吐率和可
伸缩性。
根据以上描述可以了解到分布式事务的弊端,那怎么避免呢?
假设有三个数据库实例,每个实例上有一个user(id,username,account,routedb)表,其中一个数据库实例是读写的,
另外两个user是只读的(实现读写分离)。
Primay db:user1Standby db:user2Standby db: user3
假如我要更新user表时,对于分布式事务,伪代码如下:
BeginUpdate user1 set account=account+$b;Update user2 set account=account+$b;Update user3 set account=account+$b;Commit;End;
这里为了消除分布式事务,引入消息队列和状态表
事务1:
BeginUpdate user1 set account=account+$b;Put_queue user2;Put_queue user3;Commit;
事务2:
For each message in queuebeginIf(routedb=’db2’) thenBeginSelect count(1) cnt from message_state where meg_id=$messageid;If (cnt=0) thenUpdate user2 set account=account+$b;End;Insert into message_state values($messageid);End;Elseif(routedb=’db3’) thenBeginSelect count(1) cnt from message_state where meg_id=$messageid;If (cnt=0) thenUpdate user3 set account=account+$b;End;Insert into message_state values($messageid);End;End;Commit
If事务2成功;
Dequeue message;Delete from message_state where meg_id=$messageid;End;
可以用图表示如上过程:
描叙过程
1. 在第一步里,消息队列和表user1在同一个数据库实例里,不存在分布式操作;在这一步把对其他每个数据库实例的操作
都作为一条消息进行入队列操作。
2. 每个数据库实例都对应一个状态表message_state,用于实现消息的幂等性,也就是用于记录消息是否成功被应用(避
免多次更新),在这一步里也不存在分布式操作,所以也能保证数据一致性。
3. 在第二个事务成功,也就是第2,3步成功后,已经从消息队列中删除的消息从message_state表中删除,这样可以将
message_state表保证在很小的状态(不清除也是可以的,不影响系统正确性)。由于消息队列与message_state在
不同实例(服务器)上,dequeue message(消息出队列)之后,将对应message_state记录删除之前也可能出故障。
一旦这时出现故障,message_state表中会留下一些垃圾内容,但不影响系统正确性;
但是如果在第二个事务结束后和dequeue message(出队列)之间出现故障,故障后系统会重新从消息队列中取出这一
消息,但通过message_applied表可以检查出来这一消息已经被应用过,跳过这一消息实现正确的行为;
总结:使用如上方案不能保证数据时刻一致性,在发生故障时,系统将在短时间内不能保证数据一致性,但基于消息队列和状态表,
最终是可以保证系统恢复重一致性的,使用这个方案,解除了数据库实例之间的紧密耦合,其性能和可伸缩性是分布式事务不
可比拟的。
消息队列-状态表方案和分布式事务的对比
应考虑使用消息队列方案。所以时间与便捷,性能与扩展是需要仔细衡量的,找好中间的平衡点;对于原来使用分布式事务,
且系统已趋于稳定,性能要求高的系统,则可以使用消息队列-状态表方案进行重构来优化性能。
该博文转载自http://blog.csdn.net/wyzxg/article/details/6181574
0 0
- 高效分布式操作解决方案
- 高效分布式操作解决方案
- 高效分布式操作解决方案
- 高效分布式数据库缓存经典解决方案
- 高效分布式数据库缓存经典解决方案
- 高效分布式数据库缓存经典解决方案
- 高效分布式数据库缓存经典解决方案,单应用服务器可撑1亿pv/天
- 分布式高效ID生产
- 高效分布式计算系统:Spark
- sqlserver分布式事务解决方案
- 分布式数据库访问解决方案
- 分布式平台解决方案
- 分布式云数据中心解决方案
- PostgreSQL分布式解决方案
- 分布式数据处理解决方案
- 分布式Redis集群解决方案
- 分布式Redis集群解决方案
- UEditor-分布式部署解决方案
- leetcode--Letter Combinations of a Phone Number
- 黑马程序员——Java学习笔记 String类和基本数据类型对象包装类
- TalkingData Ad Tracking开启反作弊模式
- fgdfgfgsfgsgsfgs
- 小知识点日志(2014-10-22~2015-4-7)
- 高效分布式操作解决方案
- 第35课第三题
- Linux安装Nginx
- 数据挖掘之模糊聚类算法学习和java实现
- 向天草学习之路(一)
- 用Mahout构建职位推荐引擎
- JMeter入门:Java Request实例
- soj 3366 复习最小生成树kruskal
- Android Volley完全解析(一),初识Volley的基本用法