字典,java
中的map
,是一种用于保存键值对(key-value pair)
的抽象数据结构。
字典中,一个键(key)
可以和一个值(value)
进行关联,这些关联的键和值就成为键值对。
字典中的每个键都是独一无二的,程序可以在字典中根据键查找与之关联的值,或者通过键来更新值,又或者根据键值对来删除整个键值对。
Redis的数据库就是使用字典来作为底层实现的。
4.1 字典的实现
Redis的字典使用哈希表作为底层实现,一个哈希表里面可以有多个哈希表节点,而每个哈希表节点就保存了字典中的一个键值对。
4.1.1 哈希表
Redis字典所使用的哈希表有dict.h/hictht
结构定义
typedef struct dictht{
//哈希表数组
dictEntry **table;
//哈希表大小
unsigned long size;
//哈希表大小掩码,用于计算索引值
//总是等于size-1
unsigned long sizemask;
//哈希表已有节点的数量
unsigned long used;
}dictht;
table属性是一个数组,数组中的每个元素都是一个指向dict.h/dictEntry
结构的指针,每个dictEntry
结构保存着一个键值对。
4.1.2 哈希表节点
哈希表节点使用dictEntry
结构表示
typedef struct dictEntry{
//键
void *key;
//值
union{
void *val;
unit64_tu64;
int64_ts64;
}v;
//struct dictEntry *next;
}dictEntry;
key
属性保存着键值对中的键,v
属性保存着键值对中的值,其中值可以是一个指针,或者是一个unit64_t
整数,又或者是一个int64_t
整数。
next
属性用来解决键冲突问题。
4.1.3字典
Redis
中的字典由dict.h/dict
结构表示:
typedef struct dict{
//特定类型函数
dictType *type;
//私有数据
void *privdata;
//哈希表
dictht ht[2];
//rehash索引
//当rehash不在进行时,值为-1
int trehashidx;
}dict;
type
属性和privdata
属性是针对不同类型的键值对,为创建多态字典而设置的。
-
type
属性是一个执行dictType
结构的指针
,每个dictType
结构保存了一簇用于操作特定类型键值对的函数,Redis
根据字典类型不同设置不同的函数。 -
privdata
属性则保存了需要传给那些类型特定函数的可选参数
ht
属性是一个包含两个项的数组,数组中的每个项都是一个dictht
哈希表,一般情况下,字典只是用ht[0]
哈希表,ht[1]
在rehash
时使用。
rehashidx
记录了rehash
目前的进度,如果目前没有在进行rehash
,那么它的值为-1
.
4.2 哈希算法
当要讲一个新的键值对添加到字典里面,根据键计算出哈希值和索引值,然后根据索引值,将包含新键值对的哈希表节点放到哈希表数组的指定索引上面。
字典被用作数据库的底层实现,或者哈希键的底层实现时,Redis
使用MurmurHash2
算法来计算键的哈希值。
MurmurHash
的优点在于,即使输入的键是有规律的,算法仍能给出一个很好的随机分布性,并且算法的计算速度非常快。
4.3解决冲突
当有两个或以上数量的键被分配到了哈希表数组的同一个索引上面时,我们称这些键发生了冲突。
Redis
的哈希表使用链表地址法来解决键冲突,每个哈希表节点都有一个next
指针。多个哈希表节点可以用next
指针构成一个单向链表,被分配到同一个索引上的多个及诶单可以用这个单项链表连接起来。
因为dictEntry
节点组成的链表没有指向链表表尾的指针,所以为了速度考虑,程序总是将新节点添加到链表的表头位置(复杂度为O(1)
),排在其他已有节点的前面。
4.4 rehash
随着操作的不断进行,哈希表保存的键值对会逐渐的增多或者减少,为了让哈希表的负载因子维持在一个合理的范围之内,当哈希表保存的键值对数量太多或者太少时,程序需要对哈希表的大小进行相应的扩容或者搜索。
扩展和搜索哈希表的工作可以通过执行rehash
操作来完成:
1) 为字典的ht[1]
哈希表分配空间,取决于哈希表要执行的操作是扩容还是搜索,以及ht[0]
当前的容量。
2) 将保存在ht[0]
中的所有键值对rehash
到ht[1]
上面:rehash
指的是重新计算键的哈希值和索引值,然后将键值对放置到ht[1]
哈希表的指定位置上。
3) 当ht[0]
包含的所有键值对都迁移到了ht[1]
之后,释放ht[0]
,将ht[1]
设置为ht[0]
,并在ht[1]
新建一个空白的哈希表,为下一次rehash
做准备。
哈希表的扩展与收缩
当一下条件中的任意一个被满足时,程序会自动开始对哈希表执行扩展操作:
1) 服务器目前没有在执行BGSAVE
命令或者BGREWRITEAOF
命令,并且哈希表的负载因子大于等于1
2) 服务器目前正在执行BGSAVE
命令或者GBREWRITEAOF
命令,并且哈希表的负载因子大于等于5
# 负载因子 = 哈希表已保存节点数量/哈希表大小
load_factor = ht[0].used/ht[0].size
在执行BGSAVE
命令或者BGREWRITEAOF
命令时,提高负载因子可以避免不必要的内存写入操作,最大限度的节约内存
另外一方面,当哈希表的负载因子小于0.1时,程序自动开始对哈希表执行收缩操作。
4.5 渐进式rehash
rehash
动作并不是一次性、集中式的完成的,而是分多次、渐进式的完成的。
这样做的目的是避免庞大的计算量导致服务器在一段时间时间内停止服务。
为了避免rehash
对服务器性能造成影响,服务器不是一次性将h[0]
里面所有的键值对全部rehash
到ht[1]
,而是分多次、渐进式的将ht[0]
里面的键值对慢慢的rehash
到ht[1]
。
详细步骤:
1) 为ht[1]
分配空间,让字典同时持有ht[0]
和ht[1]
两个哈希表
2) 在字典中位置一个索引计数器变量rehashidx
,并将它的值设置为0,表示rehash
工作正式开始
3) 在rehash
进行期间,每次对字典执行添加、删除、查找或者更新操作时,程序除了指定的操作以外,还会顺带将ht[0]
哈希表在rehashidx
索引上的所有键值对rehash
到ht[1]
,当rehash
工作完成之后,程序将rehashidx
属性的值增一。
4) 随着字典操作的不断执行,最终在某个时间点上,ht[0]
的所有键值对都会被rehash
至ht[1]
,这时程序将rehashidx
属性的值设为-1
,表示rehash
操作已完成。
渐进式rehash
的好处在于它采取分而治之的方式,将rehash
键值对所需要的计算工作均摊到字典的每个添加、删除、查找和更新操作上,从而避免了集中式rehash
带来的庞大计算量。
渐进式rehash
执行期间的哈希表操作
进行渐进式rehash
的过程中,字典会同时使用ht[0]
和ht[1]
两个哈希表,所以在渐进式rehash
进行期间,字典的删除,查找,更新等操作会在两个哈希表上进行。
在渐进式rehash
执行期间,新添加到字典的键值对一律会被保存到ht[1]
里面,而ht[0]
则不再进行任何添加操作。