Redis集群搭建最佳实践
来源:互联网 发布:知乎 小米笔记本ro 编辑:程序博客网 时间:2024/05/22 13:57
要搭建Redis集群,首先得考虑下面的几个问题;
Redis集群搭建的目的是什么?或者说为什么要搭建Redis集群?
Redis集群搭建的目的其实也就是集群搭建的目的,所有的集群主要都是为了解决一个问题,横向扩展。
在集群的概念出现之前,我们使用的硬件资源都是纵向扩展的,但是纵向扩展很快就会达到一个极限,单台机器的Cpu的处理速度,内存大小,硬盘大小没办法一直满足需求,而且机器纵向扩展的成本是相当高的。集群的出现就是能够让多台机器像一台机器一样工作,实现了资源的横向扩展。
Redis是内存型数据库,当我们要存储的数据达到一定程度时,单台机器的内存满足不了我们的需求,搭建集群则是一种很好的解决方案。
那么如何能够让多台机器上的Redis能够像一台机器上的Redis一样工作呢?
需要解决以下三个问题;
1.对外暴露一个访问节点
2.请求分片(sharding)
3.分片要合理(分片均匀,相同的请求要分配到同样的redis节点)
首先,要对外暴露一个访问节点,后面可能有多台redis再工作;我们很容易想到的就是代理(Proxy),对于客户端只需要知道代理,通过代理来和后台的多台redis交互。
第二个问题可以使用hash算法解决,将请求的某个key取hash值,对redis个数取余,来分配的不同的redis上;然而这么做不能满足第三点中的相同的请求要分配到同样的redis中。在这种情况下一致性哈希能够完美的解决这个问题,一致性哈希可以将redis的节点通过hash算法分布再一个232 个节点的圆环上,将请求的key用同样的hash算法映射到这个圆环上,然后在key值的节点顺时针寻找最近的redis节点,这样就保证了一致性;详细介绍可以参考:http://blog.csdn.net/sparkliang/article/details/5279393 。
如果让我来实现redis集群的话,我会采用zookeeper加上一个redis守护程序加上一致性hash算法来实现。不过twicer的大神们已经实现并开源了一个redis集群方案,我就不重复制造轮子了;来看看这个全球最大的redis集群使用者之一的大神们实现的 twemproxy (nutcracker)有哪些特性。
Twemproxy除了可以作为redis的代理,它同样支持memerycached的ASCII协议。我这里主要了解Twemproxy在redis集群上的解决方案。Twemproxy除了完美的解决了上面的三个问题(同样采用了一致性hash算法),还有一个重要的特点;它支持
node ejection,如果使用redis当缓存,不是很注重数据的一致性的话,开启node ejection可以在集群中某一台redis挂掉的时候将其送集群列表中移除,达到高可用性。如果redis集群做为数据存储的话,或者很注重数据的一致性,则可以禁用node jection,但此时需要使用其他方法实现高可用性,比如redis sentiel。Twemproxy的详细介绍可以看看这篇文章:http://antirez.com/news/44 ;Twemproxy项目Github地址:https://github.com/twitter/twemproxy 。
废话说了这么多,来看看怎么安装twemproxy,搭建redis集群吧
首先按照github提示的步骤安装twemproxy:
To build nutcracker from source with debug logs enabled and assertions disabled:
$ git clone git@github.com:twitter/twemproxy.git$ cd twemproxy$ autoreconf -fvi$ ./configure --enable-debug=log$ make依次输入上面的命令,然后输入:$ src/nutcracker -h
如果显示帮助信息,则表示安装成功;接下来编辑配置信息,找一个自己喜欢的目录,创建配置文件,后缀为yml,如twemproxy.test.yml;填入如下信息:
alpha: listen: 127.0.0.1:55555 hash: fnv1a_64 distribution: ketama auto_eject_hosts: true redis: true server_retry_timeout: 30000 server_failure_limit: 1 servers: - 192.168.1.10:6379:1 - 192.168.1.7:6379:1
注意缩进,否则将无法启动twenproxy。其中listen:表示代理的ip以及端口号,是暴露给客户端使用的;hash: 表示使用哪种hash方法,twemproxy提供了多种方式,具体可以看github介绍;distribution表示分配模式,有三种选择:ketama, modula,random;auto_reject_hosts: 就是上面所说的,自动移除失败的节点;redis: 表示使用的是redis集群,剩下的配置很简单就不一一介绍了......通过如此简单的配置之后,执行./src/nutcracker -c ./conf/nutcracker.test.yml(这里使用自己的安装路径和配置文件路径) 就启动了twemproxy, 客户端只需要通过redis-cli就能连接上proxy,使用方法和redis完全一样(但不是所有命令都支持)。这样redis的集群就搭好了,是不是简单到爆?不过不要开心得太早,twemproxy也有它的不足之处。1.不支持事务以及批量操作;2.相较于直接访问redis性能有所损耗;
虽然twemproxy有上述缺点,单相较于起带来的好处简直不值一提!但也说明它不适用于所有情况。Redis集群还有很多种搭建方式,其官方的cluster一直处于beta状态,相信了解了twemproxy后,大家会发现它是现在最好的选择!
19 0
- Redis集群搭建最佳实践
- Redis集群搭建最佳实践
- Redis 集群高可用最佳实践
- Redis集群搭建之Redis Cluster实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- Redis Cluster集群的搭建与实践
- 阿里云上搭建Docker Swarm模式集群最佳实践
- 高效运维最佳实践(03):Redis集群技术及Codis实践
- 高效运维最佳实践:Redis集群技术及Codis实践
- redis 3.2+ 集群实践
- 为外发邮件的地址加入中文等价名信息
- linux应用线程和信号处理
- [水]ZOJ1074
- POJ 1915 Knight Moves
- JAVA学习笔记 -- 多线程之共享资源
- Redis集群搭建最佳实践
- 50道Java习题之05
- 十个利用矩阵乘法解决的经典题目
- svn revert
- axis2的wsdl无法使用eclipse axis1插件来生成客户端--解决方法
- 生产环境使用elasticsearch遇到的一些问题以及解决方法(不断更新)
- ETL工具kettle与java结合使用程序生成一个简单的转化文件
- 生存静态页面。
- Oracle删除表中重复数据