分布式系统设计之基础设施（一）

一个大型，稳健，成熟的分布式系统背后，是由很多系统共同支撑的，我们将这些支撑系统成为分布式系统的基础设施。

分布式缓存

简介
分布式缓存主要用于高并发环境下，减轻数据库的压力，提高系统的响应速度和并发吞吐能力。在请求到数据库前，优先进行缓存读取数据，降低对数据库的访问。

1. memcache

   • 安装(略)

   • memcacheAPI与分布式
     采用memcache协议进行通信，这两种数据分别为文本行和非结构化数据。非结构化数据采用字节流的方式在客户端和服务端进行传输和存储
     常用的指令：

     • set 将数据存储到服务器，如果有相同的key 替换之
     • add 将数据新增到缓存服务器，如果有相同的key ,新增失败
     • replace 将数据替换成缓存服务器相同的key, 如果不存在， 替换失败
     • append 将数据追加到已经存在的数据后面
     • prepend 将数据追加到已经存在的数据前面
     • cas 提供对变量的cas操作，保证数据更新之前，未被其他人更改
     • get 获取数据
     • incr 缓存增量
     • decr 缓存减量
     • delete 删除
       php 代码演示添加
       

       <?php $memcache_obj = memcache_connect(”localhost”, 11211); memcache_add($memcache_obj, 'var_key', 'test variable', false, 30); $memcache_obj->add('var_key', 'test variable', false, 30); ?>

     java 代码演示添加

         MemcachedClient mem = new MemcachedClient();    mem.add("var_key", "test variable");    mem.set("var_key", "test variable 2");    mem.replace("var_key", "test variable3");

   • 映射算法

     • 哈希算法

       hash(key) % N
       普通的hash算法会导致 单点故障或者新增机器带来的key值大量重分布

     • consistent Hash
       原理：按照常用的hash算法来将对应的key哈希到一个具有2^32次方个桶的空间中，即0~(2^32)-1的数字空间中。现在我们可以将这些数字头尾相连，想象成一个闭合的环形，把数据通过一定的hash算法处理后映射到环上。现在我们将object1、object2、object3、object4四个对象通过特定的Hash函数计算出对应的key值，然后散列到Hash环上。
       
       Hash(object1) = key1；
       Hash(object2) = key2；
       Hash(object3) = key3；
       Hash(object4) = key4；
       
       删除 如果NODE2出现故障被删除了，那么按照顺时针迁移的方法，object3将会被迁移到NODE3中，这样仅仅是object3的映射位置发生了变化，其它的对象没有任何的改动
       新增 如果往集群中添加一个新的节点NODE4，通过对应的哈希算法得到KEY4，并映射到环中, 通过按顺时针迁移的规则，那么object2被迁移到了NODE4中，其它对象还保持这原有的存储位置。通过对节点的添加和删除的分析，一致性哈希算法在保持了单调性的同时，还是数据的迁移达到了最小，这样的算法对分布式集群来说是非常合适的，避免了大量数据迁移，减小了服务器的的压力
       虚拟节点保障平衡性 如上面只部署了NODE1和NODE3的情况（NODE2被删除的图），object1存储到了NODE1中，而object2、object3、object4都存储到了NODE3中，这样就照成了非常不平衡的状态。在一致性哈希算法中，为了尽可能的满足平衡性，其引入了虚拟节点。
       “虚拟节点”的hash计算可以采用对应节点的IP地址加数字后缀的方式。例如假设NODE1的IP地址为192.168.1.100。引入“虚拟节点”前，计算 cache A 的 hash 值：
       Hash(“192.168.1.100”);
       引入“虚拟节点”后，计算“虚拟节”点NODE1-1和NODE1-2的hash值：
       Hash(“192.168.1.100#1”); // NODE1-1
       Hash(“192.168.1.100#2”); // NODE1-2

     • 分布式session
       大型分布式系统，请求将会在多个服务器之间跳转，需要保障各个服务器的session一致。目前一种解决方案是通过引入缓存，也就是前端经过nginx等分发之后到达webServer,然后将session以sessionid作为key，保存到后端的缓存集群中，一旦该webServer宕机, 也不会影响其他webServer通过sessionid进行同步。