分布式系统基本概念（一致性、数据分布、复制策略、分布式协议）

分布式系统基本概念

异常类型

1 服务器down机（随时发生、内存数据丢失（因此需要考虑数据持久化）、down机重启之后要恢复内存信息）

2 网络异常（消息丢失、消息乱序（UDP）或者网络包数据错误、区域内可通信区域间不可通信）

3 磁盘故障（磁盘损坏（备份）、磁盘数据错误（校验和解决））

超时？不能简单的当做失败（分布式存储的3态成功、失败、超时）

一致性

副本是分布式存储系统容错技术的唯一手段

保证副本之间的一致性是整个分布式系统的理论核心

两个角度理解：

1 用户角度：

（1）强一致性：A写完，A、B、C后续都读到最新

（2）弱一致性：不能保证

（3）最终一致性：弱一致性的特例。A写入，保证后续如果没有写操作更新同样的值，A、B、C的读取“最终”都会是新值。

最终一致性：

（1）因果一致性：A通知B已经更新了一个数据项，B后续访问返回更新后的值。一次写入 将保证取代前一次写入。

（2）读写一致性：A写了新值，A的后续操作都会读取新值。（但是B、C不一定）（因果的特例）

（3）会话一致性：会话期间一致性。现有会话和原有会话之间一致性不保证。

（4）单调读一致性：A读取了某个值，后续操作不会读到更早的值。

（5）单调写一致性：多个副本的写操作的顺序与A的写顺序一样。

2 存储系统：

副本一致性：多个副本是否一致。（不一致的时间窗口）

更新顺序一致性：副本之间是否按照相同的顺序执行更新操作。

衡量指标

（1）性能：吞吐能力（QPS TPS）、响应延迟、两个要权衡不能同时满足

（2）可用性：面对异常的时候提供正常服务的能力。

（3）一致性：

（4）可扩展性：存储容量、计算量、性能。

数据分布

顺序分布、哈希分布

哈希：找出好的散列函数很难

原因

（1）如果按照值key散列，同一个用户的数据分布在多台服务器上。

（2）按照用户id散列，会出现数据倾斜（某些用户的数据量很大）

对于大用户问题：

（1）手动拆分

（2）自动拆分：对哈希作调整以达到此目的

传统哈希的问题：

（1）服务器上下线，N值变化，映射被打乱，数据重新分布（将会带来数据迁移）

（2）不迁移数据的话命中率急剧下降

解决办法：

（1）将哈希值与服务器的对应关系作为元数据，交给元数据服务器管理。先计算哈希值，查询元数据服务器，获得对应服务器。

（2）一致性哈希：随机分配token构成环，先计算key的哈希值，然后存放到顺时针方向第一个大于或者等于该哈希值的token所在结点。（服务器上下线只会影响环中相邻结点）

负载均衡

心跳包传输负载信息

CAP原理(CAP Theorem)

一致性(C onsistency)、可用性(A vailability)、分区容忍性(P artition tolerance)

CAP原理指的是，这三个要素最多只能同时实现两点，不可能三者兼顾。因此在进行分布式架构设计时，必须做出取舍。而对于分布式数 据系统，分区容忍性是基本要求 ，否则就失去了价值。因此设计分布式数据系统，就是在一致性和可用性之间取一个平衡。

复制策略

强同步复制 异步复制

二者的区别在于用户的写请求是否需要同步到备副本才可以返回成功

一致性与可用性是矛盾的，强同步保证副本间的一致性，但是如果备副本出现故障，也可能阻塞存储系统的正常写服务，可用性受影响。

异步不保证一致性，主副本出现故障有可能丢失数据。

容错

故障检测 通过租约协议实现

1 心跳 （1）有可能A、B之间发生网络问题 （2）机器B过于繁忙无法响应

2 租约机制 就是带有时间限制的授权 B在租约有效期内允许提供服务，快到期时重新申请，过期认为是发生故障

故障恢复迁移服务

分布式协议

两阶段提交协议

（1）请求阶段 协调者通知参与者准备提交或者取消事务 同意或者取消

（2）提交阶段 提交或者取消 所有的参与者都同意才执行

问题：

（1）事务参与者发生故障

设置超时时间 超时不响应就失败

（2）协调者发生故障

协调者将相关操作记录信息同步到备用协调者 发生故障后切换

paxos协议

在paxos算法中，分为4种角色：

  Proposer ：提议者

  Acceptor：决策者

  Client：产生议题者

  Learner：最终决策学习者

上面4种角色中，提议者和决策者是很重要的，其他的2个角色在整个算法中应该算做打酱油的，Proposer就像Client的使者，由Proposer使者拿着Client的议题去向Acceptor提议，让Acceptor来决策。这里上面出现了个新名词：最终决策。现在来系统的介绍一下paxos算法中所有的行为：

1. Proposer提出议题
2. Acceptor初步接受 或者 Acceptor初步不接受
3. 如果上一步Acceptor初步接受则Proposer再次向Acceptor确认是否最终接受
4. Acceptor 最终接受 或者Acceptor 最终不接受

上面Learner最终学习的目标是Acceptor们最终接受了什么议题？注意，这里是向所有Acceptor学习，如果有多数派个Acceptor最终接受了某提议，那就得到了最终的结果，算法的目的就达到了。画一幅图来更加直观：

 

为什么需要3个Acceptor？因为Acceptor必须是最少大于等于3个，并且必须是奇数个，因为要形成多数派嘛，如果是偶数个，比如4个，2个接受2个不接受，各执己见，没法搞下去了。

为什么是3个Proposer？ 其实无所谓是多少个了，1~n 都可以的；如果是1个proposer，毫无竞争压力，很顺利的完成2阶段提交，Acceptor们最终批准了事。如果是多个proposer就比较复杂了，请继续看。

上面的图中是画了很多节点的，每个节点需要一台机器么？答案是不需要的，上面的图是逻辑图，物理中，可以将Acceptor和Proposer以及Client放到一台机器上，只是使用了不同的端口号罢了，Acceptor们启动不同端口的TCP监听，Proposer来主动连接即可；完全可以将Client、Proposer、Acceptor、Learner合并到一个程序里面；这里举一个例子：比如开发一个JOB程序，JOB程序部署在多台服务器上(数量为奇数)，这些JOB有可能同时处理一项任务，现在使用paxos算法让这些JOB自己来商量由谁(哪台机器)来处理这项任务，这样JOB程序里就需要包含Client、Proposer、Acceptor、Learner这4大功能，并且需要配置其他JOB服务器的IP地址。

再举一个例子，zookeeper常常用来做分布式事务锁。Zookeeper所使用的zad协议也是类似paxos协议的。所有分布式自协商一致性算法都是paxos算法的简化或者变种。Client是使用zookeeper服务的机器，Zookeeper自身包含了Acceptor, Proposer, Learner。Zookeeper领导选举就是paxos过程，还有Client对Zookeeper写Znode时，也是要进行Paxos过程的，因为不同Client可能连接不同的Zookeeper服务器来写Znode，到底哪个Client才能写成功？需要依靠Zookeeper的paxos保证一致性，写成功Znode的Client自然就是被最终接受了，Znode包含了写入Client的IP与端口，其他的Client也可以读取到这个Znode来进行Learner。也就是说在Zookeeper自身包含了Learner(因为Zookeeper为了保证自身的一致性而会进行领导选举，所以需要有Learner的内部机制，多个Zookeeper服务器之间需要知道现在谁是领导了)，Client端也可以Learner，Learner是广义的。

现在通过一则故事来学习paxos的算法的流程(2阶段提交)，有2个Client(老板，老板之间是竞争关系)和3个Acceptor(政府官员)：

1. 现在需要对一项议题来进行paxos过程，议题是“A项目我要中标！”，这里的“我”指每个带着他的秘书Proposer的Client老板。
2. Proposer当然听老板的话了，赶紧带着议题和现金去找Acceptor政府官员。
3. 作为政府官员，当然想谁给的钱多就把项目给谁。
4. Proposer-1小姐带着现金同时找到了Acceptor-1~Acceptor-3官员，1与2号官员分别收取了10比特币，找到第3号官员时，没想到遭到了3号官员的鄙视，3号官员告诉她，Proposer-2给了11比特币。不过没关系，Proposer-1已经得到了1,2两个官员的认可，形成了多数派(如果没有形成多数派，Proposer-1会去银行提款在来找官员们给每人20比特币，这个过程一直重复每次+10比特币，直到多数派的形成)，满意的找老板复命去了，但是此时Proposer-2保镖找到了1,2号官员，分别给了他们11比特币，1,2号官员的态度立刻转变，都说Proposer-2的老板懂事，这下子Proposer-2放心了，搞定了3个官员，找老板复命去了，当然这个过程是第一阶段提交，只是官员们初步接受贿赂而已。故事中的比特币是编号，议题是value。

　　　　这个过程保证了在某一时刻，某一个proposer的议题会形成一个多数派进行初步支持；

　　5.　现在进入第二阶段提交，现在proposer-1小姐使用分身术(多线程并发)分了3个自己分别去找3位官员，最先找到了1号官员签合同，遭到了1号官员的鄙视，1号官员告诉他proposer-2先生给了他11比特币，因为上一条规则的性质proposer-1小姐知道proposer-2第一阶段在她之后又形成了多数派(至少有2位官员的赃款被更新了);此时她赶紧去提款准备重新贿赂这3个官员(重新进入第一阶段)，每人20比特币。刚给1号官员20比特币， 1号官员很高兴初步接受了议题，还没来得及见到2,3号官员的时候

这时proposer-2先生也使用分身术分别找3位官员(注意这里是proposer-2的第二阶段)，被第1号官员拒绝了告诉他收到了20比特币，第2,3号官员顺利签了合同，这时2，3号官员记录client-2老板用了11比特币中标，因为形成了多数派，所以最终接受了Client2老板中标这个议题，对于proposer-2先生已经出色的完成了工作；

这时proposer-1小姐找到了2号官员，官员告诉她合同已经签了，将合同给她看，proposer-1小姐是一个没有什么职业操守的聪明人，觉得跟Client1老板混没什么前途，所以将自己的议题修改为“Client2老板中标”，并且给了2号官员20比特币，这样形成了一个多数派。顺利的再次进入第二阶段。由于此时没有人竞争了，顺利的找3位官员签合同，3位官员看到议题与上次一次的合同是一致的，所以最终接受了，形成了多数派，proposer-1小姐跳槽到Client2老板的公司去了。

　　Paxos过程结束了，这样，一致性得到了保证，算法运行到最后所有的proposer都投“client2中标”所有的acceptor都接受这个议题，也就是说在最初的第二阶段，议题是先入为主的，谁先占了先机，后面的proposer在第一阶段就会学习到这个议题而修改自己本身的议题，因为这样没职业操守，才能让一致性得到保证，这就是paxos算法的一个过程。原来paxos算法里的角色都是这样的不靠谱，不过没关系，结果靠谱就可以了。该算法就是为了追求结果的一致性。