深入理解Redis:底层数据结构
来源:互联网 发布:淘宝可以用花呗付款吗 编辑:程序博客网 时间:2024/06/09 15:56
前两天网易杭州研究院的实习面试就问到了这道题:
本文转载自:http://blog.csdn.net/caishenfans/article/details/44784131
Redis对象类型简介
Redis是一种key/value型数据库,其中,每个key和value都是使用对象表示的。比如,我们执行以下代码:
其中的key是message,是一个包含了字符串"message"的对象。而value是一个包含了"hello redis"的对象。
Redis共有五种对象的类型,分别是:
REDIS_STRING
字符串对象REDIS_LIST
列表对象REDIS_HASH
哈希对象REDIS_SET
集合对象REDIS_ZSET
有序集合对象Redis中的一个对象的结构体表示如下:
type表示了该对象的对象类型,即上面五个中的一个。但为了提高存储效率与程序执行效率,每种对象的底层数据结构实现都可能不止一种。encoding就表示了对象底层所使用的编码。下面先介绍每种底层数据结构的实现,再介绍每种对象类型都用了什么底层结构并分析他们之间的关系。
Redis对象底层数据结构
底层数据结构共有八种,如下表所示:
REDIS_ENCODING_INT
long
类型的整数REDIS_ENCODING_EMBSTR
embstr
编码的简单动态字符串REDIS_ENCODING_RAW
简单动态字符串REDIS_ENCODING_HT
字典REDIS_ENCODING_LINKEDLIST
双端链表REDIS_ENCODING_ZIPLIST
压缩列表REDIS_ENCODING_INTSET
整数集合REDIS_ENCODING_SKIPLIST
跳跃表和字典字符串对象
字符串对象的编码可以是int、raw或者embstr。
如果一个字符串的内容可以转换为long,那么该字符串就会被转换成为long类型,对象的ptr就会指向该long,并且对象类型也用int类型表示。
普通的字符串有两种,embstr和raw。embstr应该是Redis 3.0新增的数据结构,在2.8中是没有的。如果字符串对象的长度小于39字节,就用embstr对象。否则用传统的raw对象。可以从下面这段代码看出:
embstr的好处有如下几点:- embstr的创建只需分配一次内存,而raw为两次(一次为sds分配对象,另一次为objet分配对象,embstr省去了第一次)。
- 相对地,释放内存的次数也由两次变为一次。
- embstr的objet和sds放在一起,更好地利用缓存带来的优势。
需要注意的是,redis并未提供任何修改embstr的方式,即embstr是只读的形式。对embstr的修改实际上是先转换为raw再进行修改。
raw和embstr的区别可以用下面两幅图所示:
列表对象
列表对象的编码可以是ziplist或者linkedlist。
ziplist是一种压缩链表,它的好处是更能节省内存空间,因为它所存储的内容都是在连续的内存区域当中的。当列表对象元素不大,每个元素也不大的时候,就采用ziplist存储。但当数据量过大时就ziplist就不是那么好用了。因为为了保证他存储内容在内存中的连续性,插入的复杂度是O(N),即每次插入都会重新进行realloc。如下图所示,对象结构中ptr所指向的就是一个ziplist。整个ziplist只需要malloc一次,它们在内存中是一块连续的区域。
linkedlist是一种双向链表。它的结构比较简单,节点中存放pre和next两个指针,还有节点相关的信息。当每增加一个node的时候,就需要重新malloc一块内存。
哈希对象
哈希对象的底层实现可以是ziplist或者hashtable。
ziplist中的哈希对象是按照key1,value1,key2,value2这样的顺序存放来存储的。当对象数目不多且内容不大时,这种方式效率是很高的。
hashtable的是由dict这个结构来实现的
dict是一个字典,其中的指针dicht ht[2] 指向了两个哈希表dicht[0] 是用于真正存放数据,dicht[1]一般在哈希表元素过多进行rehash的时候用于中转数据。
dictht中的table用语真正存放元素了,每个key/value对用一个dictEntry表示,放在dictEntry数组中。
集合对象
集合对象的编码可以是intset或者hashtable。
intset是一个整数集合,里面存的为某种同一类型的整数,支持如下三种长度的整数:
intset是一个有序集合,查找元素的复杂度为O(logN),但插入时不一定为O(logN),因为有可能涉及到升级操作。比如当集合里全是int16_t型的整数,这时要插入一个int32_t,那么为了维持集合中数据类型的一致,那么所有的数据都会被转换成int32_t类型,涉及到内存的重新分配,这时插入的复杂度就为O(N)了。是intset不支持降级操作。有序集合对象
有序集合的编码可能两种,一种是ziplist,另一种是skiplist与dict的结合。
ziplist作为集合和作为哈希对象是一样的,member和score顺序存放。按照score从小到大顺序排列。它的结构不再复述。
skiplist是一种跳跃表,它实现了有序集合中的快速查找,在大多数情况下它的速度都可以和平衡树差不多。但它的实现比较简单,可以作为平衡树的替代品。它的结构比较特殊。下面分别是跳跃表skiplist和它内部的节点skiplistNode的结构体:
head和tail分别指向头节点和尾节点,然后每个skiplistNode里面的结构又是分层的(即level数组)
用图表示,大概是下面这个样子:
每一列都代表一个节点,保存了member和score,按score从小到大排序。每个节点有不同的层数,这个层数是在生成节点的时候随机生成的数值。每一层都是一个指向后面某个节点的指针。这种结构使得跳跃表可以跨越很多节点来快速访问。
前面说到了,有序集合ZSET是有跳跃表和hashtable共同形成的。
为什么要用这种结构呢。试想如果单一用hashtable,那可以快速查找、添加和删除元素,但没法保持集合的有序性。如果单一用skiplist,有序性可以得到保障,但查找的速度太慢O(logN)。结尾
简单介绍了Redis的五种对象类型和它们的底层实现。事实上,Redis的高效性和灵活性正是得益于对于同一个对象类型采取不同的底层结构,并在必要的时候对二者进行转换;以及各种底层结构对内存的合理利用。
- 深入理解Redis:底层数据结构
- 深入理解Redis:底层数据结构
- 深入理解Redis(一)—基本数据结构
- Redis底层数据结构总结
- Redis底层数据结构之字典
- Redis数据结构底层知识总结
- REDIS系列之底层数据结构
- 深入理解 MySQL 底层实现
- Redis深入之数据结构
- Redis底层数据结构之简单动态字符串
- Redis底层数据结构之链表
- Redis学习总结_1_底层数据结构
- Redis底层数据结构之跳跃表
- redis数据结构底层(个人记忆使用)
- 深入理解php底层:php生命周期
- 深入理解php底层:php生命周期
- 深入理解php底层:php生命周期
- 深入理解java集合的底层操作
- 用 Keras 编写你的第一个人工神经网络(Python)
- springmvc
- 11周 项目3
- 数据结构--单向链表1
- adb shell后执行su文件,无反应。。。不能获取权限 的 解决办法
- 深入理解Redis:底层数据结构
- 单例模式之饿汉式
- oracle数据库(序列和存储过程)
- svn: Working copy "E:/workspace/*****" locked.
- zookeeper工作原理
- thinkphp3.2 实现 Phpmailer 发送邮件 配置
- Java实现有序Map的方法——
- android 属性动画用到的属性常量(方便使用
- WSDL:是用于描述WS是什么