redis2018-07-02

数据库(DB)

RDBMS -- MySQL

nosql -- mongodb

redis 典型nosql数据库

========================================================================

redis   安装:

Linux:

        redis-stable.tar.gz (源代码包):

        tar -zxvf

        make

        cd src

        make install

        sudo apt-get/apt install redis-server(不推荐)

window:

        exe:

                    下一步

        zip:

                1、解压zip包

                2、将主目录配置到path

                3、cmd redis-server

                4、cmd redis-cli

 将redis-server注册为window的服务或者Linux的守护进程

window:

        redis-server 配置文件的绝对路径 --service-install

        net start redis  # 启动redis服务

        redis-cli

linux:

        修改配置文件:137行 daemonize yes 表示以守护进程运行redis

        redis-service 配置文件的绝对路径

        redis-cli

        redis的配置文件:

redis有五种数据类型:

        String:

        hash:

        list

        set

        sorted set  zset

==String类型的操作==

set key value # 表示将key对应的字符串存储起来

eg:set    name    zhangsan

get key # 获取key对应的值

eg:get    name

mset key1 v1 key1 v2 key3 v3 # 多个键值对保存

eg:mset    age    18    gender    nan    nickname    xiaozhang   

mget key1 key2 key3 # 获取多个key对应的值

eg:mset    name    age    gender    nickname  

setex key seconds value # 设置一个key,seconds秒后失效

eg:setex    address    10    zz

incr key # 将key对应的值加一,注意:只能是数字字符串

eg:incr    age

incrby key number # 将key对应的值加number

eg:incrby    age    10

decr key # 将key对应的值减一

eg:decr    age

decrby key number # 将key对应的值减number

eg:decrby    age    5

strlen key # 求key对应的长度

eg:strlen     name/age/gender/nickname

append key value # 对key的值末尾进行追加

eg:append    nickname    laozhang

setrange key offset value # 将key对应的值的offset位置开始替换为value

eg:setrange    nickname    3     today

getrange key start end # 获取key对应的值的区间值

eg:getrange    nickname    0    -1

getrange    nickname    3    6

setnx key value # 判断是否存在key,如果不存在,则增加

eg:  setnx    name    zhangsan

          setnx    name    lisi  

==key的操作==

keys * # 查询当前数据库下的所有key

exists key # 判断key是否存在

eg:exists    name    

exists    valuex

type key # 判断key对应的值的类型

eg:  type     name/age/gender/nickname

del key # 删除key

eg:del    address


expire key seconds # 为一个存在的key设置失效时间

eg:expire    nickname    50

# set + expire  <====> setex

ttl key(Time To Live) # 查看某个key的失效时间 -1 永久有效 -2 失效 正数表示正在失效的时间秒数

eg: ttl    name

        ttl     address

        ttl    nickname

persist key # 取消key的失效,让它永久有效

eg:persist    nickname


select index # 切换数据库

eg:select    1

move key index # 将当前数据库的key移动到对应数据库下

eg:move     nickname     1

dbsize # 返回当前数据库下key的数量

Info # 查询当前数据的信息

flushdb # 清空当前数据库  (慎用)

flushall # 清空所有的数据库(慎用)


==hash的操作==

hset key field value # 保存一个对象的属性和值

eg:hset    u1    name    zhangsan

hget key field # 通过对象的属性获取值

eg:hget    u1    name

hmset key f1 v1 f2 v2…… # 保存一个对象的多个属性和值

eg:hmset    u1    age    18    gender    nan    nickname    xiaozhang

hmget key f1 f2 # 通过对象的多个属性获取值

eg:hmget    u1    name    age    gender    nickname

hgetall key # 获取对象的所有属性和值

eg:hgetall    u1


hkeys key # 获取对象的所有属性名称

eg:hkeys    u1

hvals key # 获取对象的所有属性的值

eg:hvals    u1

hlen key # 获取对象的属性个数

eg:hlen    u1

hexists key field # 查询对象是否存在某个属性

eg:hexists    u1    name/address

hdel key field # 删除对象的某个属性

eg:hdel    u1    nickname

hstrlen key field # 查询对象的属性的值的长度

eg:hstrlen    u1    age/name.....

==list的操作==

redis的list是一个队列和栈 字符串 的实现

lpush key value1 value2…… # 从左侧压入数据到list中

eg:  lpush    list1    zhangsan

          lpush    today     is    good

rpush key value1 value2…… # 从右侧压入数据到list中

eg:    rpush    list1    lisi    wangwu    zhaoliu

lrange key start end # 从左侧start位置开始循环展示数据,到end结束

eg:lrange     list1    0     -1

linsert key before|after pivot value: # 在一个元素前/后插入数据

eg:  linsert    list1    before    zhangsan     xiaozhang    

         linsert    list1    after    wangwu    xiaowang

lpop key # 移除第一个元素

eg:lpop    list1

rpop key # 移除最后一个元素

eg:rpop    list1

llen key # 获取list的元素个数

eg:llen     list1

lindex key index # 获取索引对应的值

eg:lindex     list1     3

ltrim key start end # 截取list,从start位置开始,到end结束(组成新的列表,代替原来的)

eg:ltrim    list1    0    -1


lrem key count value # 删除value元素,count个(有重复或者删一个或0)

eg:lrem    list1    2    is

==set的操作==

sadd key value1 value2…… # 将v1,v2……添加到set中

eg:sadd     set1    today    is    good

        sadd    set2    happy    new    year    very    good

smembers key # 展示set中所有元素

eg:smembers    set1

sismember key value # 判断value在不在key中

eg:sismember    set1    very

scard key # 返回set的元素个数

eg:scard    set1

sinter key [key]: # 获取多个集合 交集

eg:  sinter    set1    set2

sdiff key [key]: # 获取多个集合的差集

eg:sdiff    set1    set2

        sdiff    set2    set1

sunion key [key]: # 获取多个集合的并集

eg:sunion    set1    set2

srem key member # 移除元素

eg:srem    set1    good

spop key [count] # 随机移除元素

eg:spop    set1    [2]

sdiffstore newkey key1 key2 # 将差集保存成一个新的set

eg:sdiffstore    set3    set1    set2

srandmember key # 随机获取一个元素

eg:srandmember    set1

==zset的操作==

zadd key score value2 [score value2] # 将值添加到zset中

eg:zadd     z1    13     liuzhijuan

zrange key start end # 遍历展示数据

eg:zrange     z1    0    -1

zcard key     # 返回set的元素个数

eg:zcard    z1

zcount    key     min    max    返回score值在min和max之间的数据个数

eg:zcount    z1    3    20

zscore    key    value    返回集合中元素的score(权重值)

eg:zscore    z1    juan


面试题:

缓存:

    缓存的英文是cache,一般是用于RAM存储器,用于存储临时数据,断电后存储的内容会消失。缓存是临时文件交换区,电脑把最常用的文件从存储器里提出来临时放在缓存里,就像把工具和材料搬上工作台一样,这样会比用时现去仓库取更方便。因为缓存往往使用的是RAM(断电即掉的非永久储存),所以在忙完后还是会把文件送到硬盘等存储器里永久存储。电脑里最大的缓存就是内存条了,最快的是CPU上镶的L1和L2缓存,显卡的显存是给GPU用的缓存,硬盘上也有16M或者32M的缓存。千万不能把缓存理解成一个东西,它是一种处理方式的统称。

什么是redis、什么是memcache,两者有什么区别?

>>Memcached

Memcached的优点:

Memcached可以利用多核优势,单实例吞吐量极高,可以达到几十万QPS(取决于key、value的字节大小以及服务器硬件性能,日常环境中QPS高峰大约在4-6w左右)。适用于最大程度扛量。

支持直接配置为session handle。

Memcached的局限性:

只支持简单的key/value数据结构,不像Redis可以支持丰富的数据类型。

无法进行持久化,数据不能备份,只能用于缓存使用,且重启后数据全部丢失。

无法进行数据同步,不能将MC中的数据迁移到其他MC实例中。

Memcached内存分配采用Slab Allocation机制管理内存,value大小分布差异较大时会造成内存利用率降低,并引发低利用率时依然出现踢出等问题。需要用户注重value设计。

>>Redis

Redis的优点:

支持多种数据结构,如 string(字符串)、 list(双向链表)、dict(hash表)、set(集合)、zset(排序set)、hyperloglog(基数估算)

支持持久化操作,可以进行aof及rdb数据持久化到磁盘,从而进行数据备份或数据恢复等操作,较好的防止数据丢失的手段。

支持通过Replication进行数据复制,通过master-slave机制,可以实时进行数据的同步复制,支持多级复制和增量复制,master-slave机制是Redis进行HA的重要手段。

单线程请求,所有命令串行执行,并发情况下不需要考虑数据一致性问题。

支持pub/sub消息订阅机制,可以用来进行消息订阅与通知。

支持简单的事务需求,但业界使用场景很少,并不成熟。

Redis的局限性:

Redis只能使用单线程,性能受限于CPU性能,故单实例CPU最高才可能达到5-6wQPS每秒(取决于数据结构,数据大小以及服务器硬件性能,日常环境中QPS高峰大约在1-2w左右)。

支持简单的事务需求,但业界使用场景很少,并不成熟,既是优点也是缺点。

Redis在string类型上会消耗较多内存,可以使用dict(hash表)压缩存储以降低内存耗用。

Mc和Redis都是Key-Value类型,不适合在不同数据集之间建立关系,也不适合进行查询搜索。比如redis的keys pattern这种匹配操作,对redis的性能是灾难。

>>mongoDB 

mongoDB 是一种文档性的数据库。先解释一下文档的数据库,即可以存放xml、json、bson类型系那个的数据。

这些数据具备自述性(self-describing),呈现分层的树状数据结构。redis可以用hash存放简单关系型数据。

mongoDB 存放json格式数据。

适合场景:事件记录、内容管理或者博客平台,比如评论系统。

1.mongodb持久化原理

mongodb与mysql不同,mysql的每一次更新操作都会直接写入硬盘,但是mongo不会,做为内存型数据库,数据操作会先写入内存,然后再会持久化到硬盘中去,那么mongo是如何持久化的呢

mongodb在启动时,专门初始化一个线程不断循环(除非应用crash掉),用于在一定时间周期内来从defer队列中获取要持久化的数据并写入到磁盘的journal(日志)和mongofile(数据)处,当然因为它不是在用户添加记录时就写到磁盘上,所以按mongodb开发者说,它不会造成性能上的损耗,因为看过代码发现,当进行CUD操作时,记录(Record类型)都被放入到defer队列中以供延时批量(groupcommit)提交写入,但相信其中时间周期参数是个要认真考量的参数,系统为90毫秒,如果该值更低的话,可能会造成频繁磁盘操作,过高又会造成系统宕机时数据丢失过。

2.什么是NoSQL数据库?NoSQL和RDBMS有什么区别?在哪些情况下使用和不使用NoSQL数据库?

NoSQL是非关系型数据库,NoSQL = Not Only SQL。

关系型数据库采用的结构化的数据,NoSQL采用的是键值对的方式存储数据。

在处理非结构化/半结构化的大数据时;在水平方向上进行扩展时;随时应对动态增加的数据项时可以优先考虑使用NoSQL数据库。

在考虑数据库的成熟度;支持;分析和商业智能;管理及专业性等问题时,应优先考虑关系型数据库。

3.MySQL和MongoDB之间最基本的区别是什么?

关系型数据库与非关系型数据库的区别,即数据存储结构的不同。

4.MongoDB的特点是什么?

(1)面向文档(2)高性能(3)高可用(4)易扩展(5)丰富的查询语言

5.MongoDB支持存储过程吗?如果支持的话,怎么用?

MongoDB支持存储过程,它是javascript写的,保存在db.system.js表中。

6.如何理解MongoDB中的GridFS机制,MongoDB为何使用GridFS来存储文件?

GridFS是一种将大型文件存储在MongoDB中的文件规范。使用GridFS可以将大文件分隔成多个小文档存放,这样我们能够有效的保存大文档,而且解决了BSON对象有限制的问题。

7.为什么MongoDB的数据文件很大?

MongoDB采用的预分配空间的方式来防止文件碎片。

8.当更新一个正在被迁移的块(Chunk)上的文档时会发生什么?

更新操作会立即发生在旧的块(Chunk)上,然后更改才会在所有权转移前复制到新的分片上。

9.MongoDB在A:{B,C}上建立索引,查询A:{B,C}和A:{C,B}都会使用索引吗?

不会,只会在A:{B,C}上使用索引。

10.如果一个分片(Shard)停止或很慢的时候,发起一个查询会怎样?

如果一个分片停止了,除非查询设置了“Partial”选项,否则查询会返回一个错误。如果一个分片响应很慢,MongoDB会等待它的响应。


>>Redis、Memcache和MongoDB的区别

从以下几个维度,对redis、memcache、mongoDB 做了对比,

1、性能

都比较高,性能对我们来说应该都不是瓶颈

总体来讲,TPS方面redis和memcache差不多,要大于mongodb

2、操作的便利性

memcache数据结构单一

redis丰富一些,数据操作方面,redis更好一些,较少的网络IO次数

mongodb支持丰富的数据表达,索引,最类似关系型数据库,支持的查询语言非常丰富

3、内存空间的大小和数据量的大小

redis在2.0版本后增加了自己的VM特性,突破物理内存的限制;可以对key value设置过期时间(类似memcache)

memcache可以修改最大可用内存,采用LRU算法

mongoDB适合大数据量的存储,依赖操作系统VM做内存管理,吃内存也比较厉害,服务不要和别的服务在一起

4、可用性(单点问题)

对于单点问题,

redis,依赖客户端来实现分布式读写;主从复制时,每次从节点重新连接主节点都要依赖整个快照,无增量复制,因性能和效率问题,

所以单点问题比较复杂;不支持自动sharding,需要依赖程序设定一致hash 机制。

一种替代方案是,不用redis本身的复制机制,采用自己做主动复制(多份存储),或者改成增量复制的方式(需要自己实现),一致性问题和性能的权衡

Memcache本身没有数据冗余机制,也没必要;对于故障预防,采用依赖成熟的hash或者环状的算法,解决单点故障引起的抖动问题。

mongoDB支持master-slave,replicaset(内部采用paxos选举算法,自动故障恢复),auto sharding机制,对客户端屏蔽了故障转移和切分机制。

5、可靠性(持久化)

对于数据持久化和数据恢复,

redis支持(快照、AOF):依赖快照进行持久化,aof增强了可靠性的同时,对性能有所影响

memcache不支持,通常用在做缓存,提升性能;

MongoDB从1.8版本开始采用binlog方式支持持久化的可靠性

6、数据一致性(事务支持)

Memcache 在并发场景下,用cas保证一致性

redis事务支持比较弱,只能保证事务中的每个操作连续执行

mongoDB不支持事务

7、数据分析

mongoDB内置了数据分析的功能(mapreduce),其他不支持

8、应用场景

redis:数据量较小的更性能操作和运算上

memcache:用于在动态系统中减少数据库负载,提升性能;做缓存,提高性能(适合读多写少,对于数据量比较大,可以采用sharding)

MongoDB:主要解决海量数据的访问效率问题

redis有哪些持久化方案?

redis支持(快照、AOF):依赖快照进行持久化,aof增强了可靠性的同时,对性能有所影响

什么是缓存击穿、什么缓存穿透

缓存雪崩

缓存雪崩是指在我们设置缓存时采用了相同的过期时间,导致缓存在某一时刻同时失效,请求全部转发到DB,DB瞬时压力过重雪崩。

解决方案

缓存失效时的雪崩效应对底层系统的冲击非常可怕。大多数系统设计者考虑用加锁或者队列的方式保证缓存的单线 程(进程)写,从而避免失效时大量的并发请求落到底层存储系统上。这里分享一个简单方案就时讲缓存失效时间分散开,比如我们可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。

缓存穿透

缓存穿透是指查询一个一定不存在的数据,由于缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了缓存的意义。在流量大时,可能DB就挂掉了,要是有人利用不存在的key频繁攻击我们的应用,这就是漏洞。

解决方案

有很多种方法可以有效地解决缓存穿透问题,最常见的则是采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的bitmap中,一个一定不存在的数据会被 这个bitmap拦截掉,从而避免了对底层存储系统的查询压力。另外也有一个更为简单粗暴的方法(我们采用的就是这种),如果一个查询返回的数据为空(不管是数 据不存在,还是系统故障),我们仍然把这个空结果进行缓存,但它的过期时间会很短,最长不超过五分钟。

缓存击穿

对于一些设置了过期时间的key,如果这些key可能会在某些时间点被超高并发地访问,是一种非常“热点”的数据。这个时候,需要考虑一个问题:缓存被“击穿”的问题,这个和缓存雪崩的区别在于这里针对某一key缓存,前者则是很多key。

缓存在某个时间点过期的时候,恰好在这个时间点对这个Key有大量的并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端DB压垮。

解决方案

使用互斥锁(mutex key)

业界比较常用的做法,是使用mutex。简单地来说,就是在缓存失效的时候(判断拿出来的值为空),不是立即去load db,而是先使用缓存工具的某些带成功操作返回值的操作(比如Redis的SETNX或者Memcache的ADD)去set一个mutex key,当操作返回成功时,再进行load db的操作并回设缓存;否则,就重试整个get缓存的方法。 

SETNX,是「SET if Not eXists」的缩写,也就是只有不存在的时候才设置,可以利用它来实现锁的效果。在redis2.6.1之前版本未实现setnx的过期时间,

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,294评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,493评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,790评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,595评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,718评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,906评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,053评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,797评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,250评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,570评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,711评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,388评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,018评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,796评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,023评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,461评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,595评论 2 350

推荐阅读更多精彩内容

  • -----------------------------------字符串类型-----------------...
    时光清浅03阅读 168评论 0 0
  • pyspark.sql模块 模块上下文 Spark SQL和DataFrames的重要类: pyspark.sql...
    mpro阅读 9,448评论 0 13
  • NOSQL类型简介键值对:会使用到一个哈希表,表中有一个特定的键和一个指针指向特定的数据,如redis,volde...
    MicoCube阅读 3,961评论 2 27
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,637评论 18 139
  • 雪 是廓天的使者 雪 是旷野的精灵 雪 是一树一树的梨花 雪 是一行一行的脚印 雪 是火炉边的酒漪 雪 ...
    万佛子阅读 185评论 0 0