redis-1

Redis: Remote Dictionary Server
五种基础数据结构:string, list, hash, set, zset

1.基础数据结构

string

内部表示就是一个字符数组。动态的字符串,可修改,采用预分配冗余空间的方式来减少内存的频繁分配;扩容都是加倍的,最大长度是512M

//批量kv:
mset name1 boy name2 girl name3 unkown
mget name1 name2 name3

value为整数时可以incr,范围在signed long最小值和最大值之间,超过会报错。

bitmap(位图):字符串有多个字节组成,每个字节由8bit组成,所以可以将一个字符串看作是多个bit组合

list

类似于java里的linkedlist(插入删除O(1),查找O(n))

  • lindex:相当于java链表的get(index),O(n)查找,性能低
  • ltrim:start_index, end_index,截取一个区间
    上述两个都是O(n)操作,性能低,慎用。

quickList:首先在列表元素特别少的情况下,会使用一块连续的内存存储:zipList(压缩列表),当数据多时才改成quickList,将多个ziplist串起来用:
ziplist <-> ziplist <-> ziplist ....

hash

相当于java里的hashmap,数组+链表
redis为了追求高性能,采用了渐进式rehash策略:在rehash时会保留两个hash结构,查询时会同时查询两个hash,然后在后续的定时任务及hash操作指令中循序渐进地将旧hash内容一点点迁移,迁移完了就用新hash。

  • hset k k1 v1
  • hincrby k k1 1

set

相当于java里的hashset
sadd, smembers, sismembers, scard

zset

相当于java sorted map和hashmap的结合体
可以存储粉丝列表,value用用户ID,score是关注时间

  • zadd zrange books 0 -1 zscard
  • zscore books 'java' //获取指定value的score
    容器指型数据结构的通用规则:create时没有就创建,drop时没有就销毁
    过期时间 key,当重新set后过期时间会失效

2.分布式锁

redis2.8版本中作者加入了set指令扩展参数setnx和expire可以在一起执行:set lock:key true ex5 nx
分布式锁不能解决超时问题
释放:

if(redis.call("get", KEYS[1]) == AVG[1]) then
    return redis.call("del", KEYS[1])
else
    return 0
end 

可以实现可重入性锁:Map<key, count> ... threadlocal

3.延时队列

blpop/brpop:阻塞读,队列无数据时会进入休眠
实现:可以用zset:消息体序列化成一个字符串作为value,消息的到期处理时间作为score,用多个线程轮询获取到期时间的任务进行处理(多线程保证可用性)

4.位图

0 1 0 1 0 1
零存整取:

  • setbit s 1 1
  • setbit s 2 1
  • setbit s 4 1

零取:

  • getbit s 1

bitcount:指定范围内1的个数 ---- 可以统计用户签到多少天
bitpos:指定范围内出现的第一个0或者1 ---- 哪一天开始签到

bitfield:redis3.2以后支持

  • bitfield key get u4 0 //从第1个位开始读取4位无符号
  • bitfield key get i3 2 //从第3位开始读3位有符号
  • bitfield key set u8 8 97 //从第9位开始将接下来的8个位用无符号97代替
  • incrby 对指定范围的位进行自增操作,提供了溢出策略指令overflow,只影响接下来的第一条指令:
    1. wrap(折返)
    2. fail(报错不执行)
    3. sat(饱和截断):超过范围就停留在最大/最小

5.HyperLogLog

非精确的去重计数方案,标准误差0.81%

  • pfadd:增加计数
  • pfcount:统计计数
  • pfmerge:多个pf累加形成一个ps
    它需要占据12KB的存储空间(不适合单用户数据去重)
    原理???为啥需要12KB??

6.Bloom Filter

非精确的set,contains可能会误判
说某个值存在时 -> 不一定存在
说某个值不存在时 -> 一定不存在
redis4.0作为一个插件:bf.add,bf.exists,bf,madd,bf.mexists
size过大会浪费空间,过小误判率会提高
应用:

  • 爬虫系统中对url进行去重,已经爬过的就不需要再爬了
  • NoSql中降低IO请求
  • 邮箱,垃圾邮件

7.限流

可以用redis进行简单限流:系统限定某个行为用户指定时间内只能发生N次
demo???

8.GeoHash

redis3.2增加了地理位置Geo模块
地图元素的位置数据使用二维经纬度表示,经度[-180, 180],纬度[-90,90]

附近人:一般是通过矩形区域来限定元素数量,再排序:

select id from positions where x0 - r < x < x0 + r and y0 - r < y < y0 + r

但这种不适合高并发
业界较为通用的地理位置距离排序算法是Geohash(redis也是):
二刀法:
00 | 01
————
10 | 11

redis里经纬度使用52位的整数进行编码放入zset中,zset的score是Geohash的52位整数,value是元素的key:

  • 通过zset的score排序就可以获得坐标附近的其他元素;
  • 通过score还原坐标值就可以得到元素的原始坐标。

使用???

9.SCAN

redis2.8以上版本支持
scan 0 match key* count 100
scan采用高位进位加法避免扩容/缩容时重复遍历或遗漏

  • 普通加法:0000 -> 0001 -> 0010 -> 0011
  • 高位进位加法:0000 -> 1000 -> 0100 -> 1100
    tips:
    a mod 8 == a & (8 - 1) == a & 7
    a mod 16 == a & (16 - 1) == a & 15
    a mod 32 == a & (32 - 1) == a & 31

10.字典扩容

采用渐进式rehash的方式
如何定位大Key:

  • 使用scan对扫描出的每个key,使用type获取其类型,然后用对应数据结构的len或者size获得大小,将排名前n的返回
  • redis-cli -h 127.0.0.1 -p 3679 --bigkeys -i 0.1 每隔100条scan指令就会休眠0.1秒

11.线程I/O模型

  1. 非阻塞I/O在套接字对象上提供了选项Non_Bloking
  2. 事件轮询(多路复用)
  3. 指令队列:redis将每个client socket都关联了一个指令队列,先到先服务
  4. 响应队列:。。。关联一个响应队列。。。
  5. 定时任务:被记录在一个最小堆中,最快要执行的在顶端。

12.通信协议

RESP:Redis Serialization Protocol
redis作者认为数据库的瓶颈在于自身逻辑而不在网络流量,单节点在跑满一个CPU核心下可达10w/s的qps

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,937评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,503评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,712评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,668评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,677评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,601评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,975评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,637评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,881评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,621评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,710评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,387评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,971评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,947评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,189评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,805评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,449评论 2 342

推荐阅读更多精彩内容