Redis学习

记录一下Redis的学习笔记。

一、Redis是什么?

  Redis 是一个开源(BSD许可)的,内存中的数据结构存储系统,它可以用作数据库、缓存和消息中间件。 它支持多种类型的数据结构,如 字符串(strings),散列(hashes),列表(lists),集合(sets),有序集合(sorted sets)与范围查询,bitmaps,hyperloglogs和地理空间(geospatial)索引半径查询。Redis 内置了复制(replication),LUA脚本(Lua scripting),LRU驱动事件(LRU eviction),事务(transactions)和不同级别的磁盘持久化(persistence),并通过Redis哨兵(Sentinel)和自动分区(Cluster)提供高可用性(highavailability)。

  性能

  下面是官方的bench-mark数据:
  测试完成了50个并发执行100000个请求。
  设置和获取的值是一个256字节字符串。
  结果:读的速度是110000次/s,写的速度是81000次/s

  Redis历史简介

  2008年,意大利一家创业公司Merzia的创始人Salvatore Sanfilippo为了避免MySQL的低性能,亲自定做一个数据库,并于2009年开发完成,这个就是Redis。
  从2010年3月15日起,Redis的开发工作由VMware主持。
  从2013年5月开始,Redis的开发由Pivotal赞助。
  说明:Pivotal公司是由EMC和VMware联合成立的一家新公司。Pivotal希望为新一代的应用提供一个原生的基础,建立在具有领导力的云和网络公司不断转型的IT特性之上。Pivotal的使命是推行这些创新,提供给企业IT架构师和独立软件提供商。

  支持语言

  支持的数据类型

  string 、hash 、 list 、set 、sorted set

二、关系型数据库与非关系型数据库

  关系型数据库

  采用关系模型来组织数据的数据库,关系模型就是二维表格模型。一张二维表的表名就是关系,二维表中的一行就是一条记录,二维表中的一列就是一个字段。

优点

  • 容易理解
  • 方便使用,通用的sql语言
  • 易于维护,丰富的完整性(实体完整性、参照完整性和用户定义的完整性)大大降低了数据冗余和数据不一致的概率

缺点

  • 磁盘I/O是并发的瓶颈
  • 海量数据查询效率低
  • 横向扩展困难,无法简单的通过添加硬件和服务节点来扩展性能和负载能力,当需要对数据库进行升级和扩展时,需要停机维护和数据迁移
  • 多表的关联查询以及复杂的数据分析类型的复杂sql查询,性能欠佳。因为要保证acid,必须按照三范式设计

数据库

  Orcale,Sql Server,MySql,DB2

  非关系型数据库

  非关系型,分布式,一般不保证遵循ACID原则的数据存储系统。键值对存储,结构不固定。

优点

  • 根据需要添加字段,不需要多表联查。仅需id取出对应的value
  • 适用于SNS(社会化网络服务软件。比如facebook,微博)
  • 严格上讲不是一种数据库,而是一种数据结构化存储方法的集合

缺点

  • 只适合存储一些较为简单的数据
  • 不适合复杂查询的数据
  • 不适合持久存储海量数据

数据库

  • K-V:Redis,Memcache
  • 文档:MongoDB
  • 搜索:Elasticsearch,Solr
  • 可扩展性分布式:HBase

  比较

内容 关系型数据库 非关系型数据库
成本 有些需要收费(Orcale) 基本都是开源
查询数据 存储存于硬盘中,速度慢 数据存于缓存中,速度快
存储格式 只支持基础类型 K-V,文档,图片等
扩展性 有多表查询机制,扩展困难 数据之间没有耦合,容易扩展
持久性 适用持久存储,海量存储 不适用持久存储,海量存储
数据一致性 事务能力强,强调数据的强一致性 事务能力弱,强调数据的最终一致性

三、Redis-cli操作Redis

操作string

  • set :添加一条String类型数据
  • get :获取一条String类型数据
  • mset :添加多条String类型数据
  • mget :获取多条String类型数据

操作hash

  • hset :添加一条hash类型数据
  • hget :获取一条hash类型数据
  • hmset :添加多条hash类型数据
  • hmget :获取多条hash类型数据
  • hgetAll :获取指定所有hash类型数据
  • hdel :删除指定hash类型数据(一条或多条)

操作list

  • lpush :左添加(头)list类型数据
  • rpush :右添加(尾)类型数据
  • lrange : 获取list类型数据start起始下标 end结束下标 包含关系
  • llen :获取条数
  • lrem :删除列表中几个指定list类型数据

操作set

  • sadd :添加set类型数据
  • smembers :获取set类型数据
  • scard :获取条数
  • srem :删除数据

操作sorted set

sorted set是通过分数值来进行排序的,分数值越大,越靠后

  • zadd :添加sorted set类型数据
  • zrange :获取sorted set类型数据
  • zcard :获取条数
  • zrem :删除数据
    zadd需要将Float或者Double类型分数值参数,放置在值参数之前

Redis中以层级关系、目录形式存储数据


设置key的失效时间

Redis 有四个不同的命令可以用于设置键的生存时间(键可以存在多久)或过期时间(键什么时候会被删除) :

  • EXPlRE <key> <ttl> :用于将键 key 的生存时间设置为 ttl 秒。
  • PEXPIRE <key> <ttl> :用于将键 key 的生存时间设置为 ttl 毫秒。
  • EXPIREAT <key> < timestamp> :用于将键 key 的过期时间设置为 timestamp 所指定的秒数时间戳。
  • PEXPIREAT <key> < timestamp > :用于将键 key 的过期时间设置为 timestamp 所指定的毫秒数时间戳。
    TTL :获取的值为-1说明此 key 没有设置有效期,当值为-2时证明过了有效期。

方法一:



方法二:



方法三:
  • 第一个参数: key
  • 第二个参数: value
  • 第三个参数: NX 是不存在时才set, XX 是存在时才set
  • 第四个参数: EX 是秒, PX 是毫秒

删除

  • del :用于删除数据(通用,适用于所有数据类型)
  • hdel :用于删除hash类型数据

  tips:命令为java中方法名,参数:去除括号,引号,将逗号变空格即可


  zadd需要将Float或者Double类型参数,放置在值参数之前,在java中则相反。

四、Java操作Redis

创建项目

添加依赖

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0
https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-parent</artifactId>
  <version>2.2.4.RELEASE</version>
  <relativePath/> <!-- lookup parent from repository -->
</parent>
<groupId>com.xxxx</groupId>
  <artifactId>redisdemo</artifactId>
  <version>0.0.1-SNAPSHOT</version>
  <name>redisdemo</name>
  <description>Demo project for Spring Boot</description>
<properties>
  <java.version>1.8</java.version>
  </properties>
<dependencies>
  <!-- spring data redis 组件 -->
  <dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
    <!--
    1.x 的版本默认采用的连接池技术是 Jedis
    2.0 以上版本默认连接池是 Lettuce,
    如果采用 Jedis,需要排除 Lettuce 的依赖。
    -->
    <exclusions>
    <exclusion>
    <groupId>io.lettuce</groupId>
    <artifactId>lettuce-core</artifactId>
    </exclusion>
    </exclusions>
  </dependency>
  <!-- jedis 依赖 -->
  <dependency>
    <groupId>redis.clients</groupId>
    <artifactId>jedis</artifactId>
  </dependency>
  <!-- web 组件 -->
  <dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-web</artifactId>
  </dependency>
  <!-- test 组件 -->
  <dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-test</artifactId>
    <scope>test</scope>
  </dependency>
</dependencies>
</project>

配置文件

spring:
  redis:
    # Redis服务器地址
    host: 192.168.10.100
    # Redis服务器端口
    port: 6379
    # Redis服务器密码
    password: root
    # 选择哪个库,默认0库
    database: 0
    # 连接超时时间
    timeout: 10000ms
    jedis:
      pool:
        # 最大连接数,默认8
        max-active: 1024
        # 最大连接阻塞等待时间,单位毫秒,默认-1ms
        max-wait: 10000ms
        # 最大空闲连接,默认8
        max-idle: 200
        # 最小空闲连接,默认0
        min-idle: 5

Java如何连接Redis?

/**
* 连接Redis
*/
@Test
public void initConn01() {
// 创建jedis对象,连接redis服务
Jedis jedis = new Jedis("192.168.10.100", 6379);
// 设置认证密码
jedis.auth("root");
// 指定数据库 默认是0
jedis.select(1);
// 使用ping命令,测试连接是否成功
String result = jedis.ping();
System.out.println(result);// 返回PONG
// 添加一条数据
jedis.set("username", "zhangsan");
// 获取一条数据
String username = jedis.get("username");
System.out.println(username);
// 释放资源
if (jedis != null)
jedis.close();
}

通过Redis连接池获取连接对象并操作服务器

/**
* 通过Redis连接池获取连接对象
*/
@Test
public void initConn02() {
// 初始化redis客户端连接池
JedisPool jedisPool = new JedisPool(new JedisPoolConfig(), "192.168.10.100", 6379,
10000, "root");
// 从连接池获取连接
Jedis jedis = jedisPool.getResource();
// 指定数据库 默认是0
jedis.select(2);
// 使用ping命令,测试连接是否成功
String result = jedis.ping();
System.out.println(result);// 返回PONG
// 添加一条数据
jedis.set("username", "zhangsan");
// 获取一条数据
String username = jedis.get("username");
System.out.println(username);
// 释放资源
if (jedis != null)
jedis.close();
}

封装JedisUtil对外提供连接对象获取方法

@Configuration
public class RedisConfig {
//服务器地址
@Value("${spring.redis.host}")
private String host;
//端口
@Value("${spring.redis.port}")
private int port;
//密码
@Value("${spring.redis.password}")
private String password;
//超时时间
@Value("${spring.redis.timeout}")
private String timeout;
//最大连接数
@Value("${spring.redis.jedis.pool.max-active}")
private int maxTotal;
//最大连接阻塞等待时间
@Value("${spring.redis.jedis.pool.max-wait}")
private String maxWaitMillis;
//最大空闲连接
@Value("${spring.redis.jedis.pool.max-idle}")
private int maxIdle;
//最小空闲连接
@Value("${spring.redis.jedis.pool.min-idle}")
private int minIdle;
@Bean
public JedisPool redisPoolFactory(){
JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
//注意值的转变
jedisPoolConfig.setMaxWaitMillis(Long.parseLong(maxWaitMillis.substring(0,maxWaitMillis.length()-2)));
//注意属性名
jedisPoolConfig.setMaxTotal(maxTotal);
jedisPoolConfig.setMaxIdle(maxIdle);
jedisPoolConfig.setMinIdle(minIdle);
JedisPool jedisPool = new JedisPool(jedisPoolConfig, host, port,
Integer.parseInt(timeout.substring(0,
timeout.length() - 2)), password);
return jedisPool;
}
}

Java操作Redis五种数据类型

连接与释放

@Autowired
private JedisPool jedisPool;
private Jedis jedis = null;
//初始化jedis对象实例
@Before
public void initConn(){
  jedis = jedisPool.getResource();
}
//释放资源
@After
public void closeConn(){
    if (jedis!=null){
    jedis.close();
  }
}

操作string

// 1.操作String
@Test
public void testString() {
// 添加一条数据
jedis.set("username", "zhangsan");
jedis.set("age", "18");
// 添加多条数据 参数奇数为key 参数偶数为value
jedis.mset("address", "bj", "sex", "1");
// 获取一条数据
String username = jedis.get("username");
System.out.println(username);
// 获取多条数据
List<String> list = jedis.mget("username", "age", "address", "sex");
for (String str : list) {
System.out.println(str);
}
// 删除
//jedis.del("username");
}

操作hash

// 2.操作hash
@Test
public void testHash() {
/*
* 添加一条数据
* 参数一:redis的key
* 参数二:hash的key
* 参数三:hash的value
*/
jedis.hset("userInfo", "name", "lisi");
// 添加多条数据
Map<String, String> map = new HashMap<>();
map.put("age", "20");
map.put("sex", "1");
jedis.hmset("userInfo", map);
// 获取一条数据
String name = jedis.hget("userInfo", "name");
System.out.println(name);
// 获取多条数据
List<String> list = jedis.hmget("userInfo", "age", "sex");
for (String str : list) {
System.out.println(str);
}
// 获取Hash类型所有的数据
Map<String, String> userMap = jedis.hgetAll("userInfo");
for (Entry<String, String> userInfo : userMap.entrySet()) {
System.out.println(userInfo.getKey() + "--" + userInfo.getValue());
}
// 删除 用于删除hash类型数据
//jedis.hdel("userInfo", "name");
}

操作list

// 3.操作list
@Test
public void testList() {
// 左添加(上)
// jedis.lpush("students", "Wang Wu", "Li Si");
// 右添加(下)
// jedis.rpush("students", "Zhao Liu");
// 获取 start起始下标 end结束下标 包含关系
List<String> students = jedis.lrange("students", 0, 2);
for (String stu : students) {
System.out.println(stu);
}
// 获取总条数
Long total = jedis.llen("students");
System.out.println("总条数:" + total);
// 删除单条 删除列表中第一次出现的Li Si
// jedis.lrem("students", 1, "Li Si");
// 删除多条
// jedis.del("students");
}

操作set

// 4.操作set-无序
@Test
public void testSet() {
// 添加数据
jedis.sadd("letters", "aaa", "bbb", "ccc", "ddd", "eee");
// 获取数据
Set<String> letters = jedis.smembers("letters");
for (String letter: letters) {
System.out.println(letter);
}
//获取总条数
Long total = jedis.scard("letters");
System.out.println(total);
// 删除
//jedis.srem("letters", "aaa", "bbb");
}

操作sorted set

// 5.操作sorted set-有序
@Test
public void testSortedSet() {
Map<String, Double> scoreMembers = new HashMap<>();
scoreMembers.put("zhangsan", 7D);
scoreMembers.put("lisi", 3D);
scoreMembers.put("wangwu", 5D);
scoreMembers.put("zhaoliu", 6D);
scoreMembers.put("tianqi", 2D);
// 添加数据
jedis.zadd("score", scoreMembers);
// 获取数据
Set<String> scores = jedis.zrange("score", 0, 4);
for (String score: scores) {
System.out.println(score);
}
// 获取总条数
Long total = jedis.zcard("score");
System.out.println("总条数:" + total);
// 删除
//jedis.zrem("score", "zhangsan", "lisi");
}

Redis中以层级关系、目录形式存储数据

// Redis中以层级关系、目录形式存储数据
@Test
public void testdir(){
jedis.set("user:01", "user_zhangsan");
System.out.println(jedis.get("user:01"));
}

设置key的失效时间

Redis 有四个不同的命令可以用于设置键的生存时间(键可以存在多久)或过期时间(键什么时候会被删除) :

  • EXPlRE <key> <ttl> :用于将键 key 的生存时间设置为 ttl 秒。
  • PEXPIRE <key> <ttl> :用于将键 key 的生存时间设置为 ttl 毫秒。
  • EXPIREAT <key> < timestamp> :用于将键 key 的过期时间设置为 timestamp 所指定的秒数时间戳。
  • PEXPIREAT <key> < timestamp > :用于将键 key 的过期时间设置为 timestamp 所指定的毫秒数时间戳。
    TTL :获取的值为-1说明此 key 没有设置有效期,当值为-2时证明过了有效期。
@Test
public void testExpire() {
// 方法一:
jedis.set("code", "test");
jedis.expire("code", 180);// 180秒
jedis.pexpire("code", 180000L);// 180000毫秒
jedis.ttl("code");// 获取秒
// 方法二:
jedis.setex("code", 180, "test");// 180秒
jedis.psetex("code", 180000L, "test");// 180000毫秒
jedis.pttl("code");// 获取毫秒
// 方法三:
SetParams setParams = new SetParams();
//不存在的时候才能设置成功
// setParams.nx();
// 存在的时候才能设置成功
setParams.xx();
//设置失效时间,单位秒
// setParams.ex(30);
//查看失效时间,单位毫秒
setParams.px(30000);
jedis.set("code","test",setParams);
}

获取所有key&事务&删除

// 获取所有key
@Test
public void testAllKeys() {
// 当前库key的数量
System.out.println(jedis.dbSize());
// 当前库key的名称
Set<String> keys = jedis.keys("*");
for (String key: keys) {
System.out.println(key);
}
}
// 操作事务
@Test
public void testMulti() {
Transaction tx = jedis.multi();
// 开启事务
tx.set("tel", "10010");
// 提交事务
// tx.exec();
// 回滚事务
tx.discard();
}
// 删除
@Test
public void testDelete() {
// 删除 通用 适用于所有数据类型
jedis.del("score");
}

操作byte

创建SerializeUtil.java

package com.xxxx.util;
import java.io.ByteArrayInputStream;
import java.io.ByteArrayOutputStream;
import java.io.ObjectInputStream;
import java.io.ObjectOutputStream;
/**
* 序列化工具类
*/
public class SerializeUtil {
/**
* 将java对象转换为byte数组 序列化过程
*/
public static byte[] serialize(Object object) {
ObjectOutputStream oos = null;
ByteArrayOutputStream baos = null;
try {
// 序列化
baos = new ByteArrayOutputStream();
oos = new ObjectOutputStream(baos);
oos.writeObject(object);
byte[] bytes = baos.toByteArray();
return bytes;
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
/**
* 将byte数组转换为java对象 反序列化
*/
public static Object unserialize(byte[] bytes) {
if(bytes == null)return null;
ByteArrayInputStream bais = null;
try {
// 反序列化
bais = new ByteArrayInputStream(bytes);
ObjectInputStream ois = new ObjectInputStream(bais);
return ois.readObject();
} catch (Exception e) {
e.printStackTrace();
}
return null;
}
}

创建User.java

package com.xxxx.entity;
import java.io.Serializable;
public class User implements Serializable {
private static final long serialVersionUID = 9148937431079191022L;
private Integer id;
private String username;
private String password;
public Integer getId() {
return id;
}
public void setId(Integer id) {
this.id = id;
}
public String getUsername() {
return username;
}
public void setUsername(String username) {
this.username = username;
}
public String getPassword() {
return password;
}
public void setPassword(String password) {
this.password = password;
}
@Override
public String toString() {
return "User{" +
"id=" + id +
", username='" + username + '\'' +
", password='" + password + '\'' +
'}';
}
}

创建JedisTest.java

// 操作byte
@Test
public void testByte() {
User user = new User();
user.setId(2);
user.setUsername("zhangsan");
user.setPassword("123");
// 序列化
byte[] userKey = SerializeUtil.serialize("user:" + user.getId());
byte[] userValue = SerializeUtil.serialize(user);
jedis.set(userKey, userValue);
// 获取数据
byte[] userResult = jedis.get(userKey);
// 反序列化
User u = (User) SerializeUtil.unserialize(userResult);
System.out.println(u);
}

五、Redis搭建主从复用

 Redis支持主从复用。数据可以从主服务器向任意数量的从服务器上同步,同步使用的是发布/订阅机制。Master
Slave的模式,从Slave向Master发起SYNC命令。
 可以是1 Master 多Slave,可以分层,Slave下可以再接Slave,可扩展成树状结构。
 因为没有两台电脑,所以只能在一台机器上搭建两个Redis服务端。
 这里使用单机来模拟redis 主从服务器 ,实现读写分离配置。

读写分离

  创建三个目录(数据文件、日志文件、配置文件)

  复制redis.conf至/opt/redis/conf目录下

  修改redis-common.conf公共配置文件

   注释掉bind 127.0.0.1
   关闭保护模式,修改为no
   注释公共配置端口
   修改为后台启动
   注释进程编号记录文件
  注释公共配置日志文件
  注释公共配置数据文件、修改数据文件路径

  在默认情况下,Redis 将数据库快照保存在名字为 dump.rdb 的二进制文件中。当然,这里可以通过修改redis.conf 配置文件来对数据存储条件进行定义,规定在“ N 秒内数据集至少有 M 个改动”这一条件被满足时,自动保存一次数据集。也可以通过调用save 或bgsave ,手动让Redis进行数据集保存操作dbfilename和dir组合使用,dbfilename找dir路径生成数据文件。


  添加从服务器访问主服务器认证
  添加访问认证
  注释公共配置追加文件

  根据需求配置是否打开追加文件选项
  appendonly yes -> 每当Redis执行一个改变数据集的命令时(比如 SET),这个命令就会被追加到 AOF 文件的
末尾。这样的话,当Redis重新启时,程序就可以通过重新执行 AOF文件中的命令来达到重建数据集的目的



  appendfilename和dir组合使用,找dir(/opt/redis/data)路径生成数据文件


  从服务器默认是只读不允许写操作(不用修改)

  添加3个服务的私有配置文件

  touch 或者 vi 都可以创建空白文件
  touch 直接创建空白文件, vi 创建并且进入编辑模式, :wq 创建成功,否则不创建


  编辑redis-6379.conf
#引用公共配置
include /opt/redis/conf/redis-common.conf
#进程编号记录文件
pidfile /var/run/redis-6379.pid
#进程端口号
port 6379
#日志记录文件
logfile "/opt/redis/log/redis-6379.log"
#数据记录文件
dbfilename dump-6379.rdb
#追加文件名称
appendfilename "appendonly-6379.aof"
#下面的配置无需在6379里配置
#备份服务器从属于6379推荐配置配局域网IP
slaveof 192.168.10.100 6379
  复制redis-6379.conf的内容至redis-6380.conf,redis-6381.conf并且修改其内容,将6379替换即可。

  运行3个redis进程

  查看redis服务器主从状态

  redis-6379



  redis-6380



  redis-6381
  在主服务器下添加数据 并测试从服务器数据是否正常显示

  从服务器只读,不允许写操作

主备切换

  主从节点redis.conf配置

  参照 读写分离 的相应配置

  修改sentinel-common.conf 哨兵公共配置文件

  从redis解压目录下复制sentinel.conf至/opt/redis/conf/

cp sentinel.conf /opt/redis/conf/sentinel-common.conf

  注释哨兵监听进程端口号



  指示 Sentinel 去监视一个名为 master 的主服务器,这个主服务器的IP地址为 127.0.0.1,端口号为6379,而将这个主服务器判断为失效至少需要1个(一般设置为2个)。 Sentinel 同意 (只要同意 Sentinel 的数量不达标,自动故障迁移就不会执行)。
  这个要配局域网IP,否则远程连不上。



  设置master和slaves的密码

  Sentinel 认为服务器已经断线所需的毫秒数

  若 sentinel 在该配置值内未能完成 failover 操作(即故障时master/slave自动切换),则认为本次 failover失败。



  关闭保护模式,修改为no

  修改为后台启动

  添加3个哨兵的私有配置文件

  touch 或者 vi 都可以创建空白文件
  touch 直接创建空白文件, vi 创建并且进入编辑模式, :wq 创建成功,否则不创建



  编辑sentinel-26379.conf

#引用公共配置
include /opt/redis/conf/sentinel-common.conf
#进程端口号
port 26379
#进程编号记录文件
pidfile /var/run/sentinel-26379.pid
#日志记录文件(为了方便查看日志,先注释掉,搭好环境后再打开)
logfile "/opt/redis/log/sentinel-26379.log"

复制 sentinel-26379.conf 的内容至 sentinel-26380.conf , sentinel-26381.conf 并且修改其内容,将26379
替换即可。

  启动测试

  启动3个redis服务

  /usr/local/redis/bin/redis-server /opt/redis/conf/redis-6379.conf
  /usr/local/redis/bin/redis-server /opt/redis/conf/redis-6380.conf
  /usr/local/redis/bin/redis-server /opt/redis/conf/redis-6381.conf


  启动3个哨兵服务

  /usr/local/redis/bin/redis-sentinel /opt/redis/conf/sentinel-26379.conf
  /usr/local/redis/bin/redis-sentinel /opt/redis/conf/sentinel-26380.conf
  /usr/local/redis/bin/redis-sentinel /opt/redis/conf/sentinel-26381.conf


  查看主从状态

  redis-6379



  redis-6380



  redis-6381
  检测哨兵功能是否配置成功

   kill -9 终止redis-6379,查看哨兵是否选举了新的主节点



  已选举6380为主节点,从节点目前只有6381



  重新启动6379节点,再次查看主从状态
  发现6379已被发现且成为从节点

  6380之前不可以写操作,现在可以写操作,因为已成为主节点。
  最后,公共配置文件修改为后台启动,私有配置文件打开日志记录文件,环境搭建成功

六、SpringDataRedis

创建项目

添加依赖

<dependencies>
<!-- spring data redis 组件 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>
<!-- commons-pool2 对象池依赖 -->
<dependency>
<groupId>org.apache.commons</groupId>
<artifactId>commons-pool2</artifactId>
</dependency>
<!-- web 组件 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!-- test 组件 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>

添加application.yml配置文件

spring:
  redis:
    # Redis服务器地址
    host: 192.168.10.100
    # Redis服务器端口
    port: 6379
    # Redis服务器端口
    password: root
    # Redis服务器端口
    database: 0
    # 连接超时时间
    timeout: 10000ms
    lettuce:
      pool:
        # 最大连接数,默认8
        max-active: 1024
        # 最大连接阻塞等待时间,单位毫秒,默认-1ms
        max-wait: 10000ms
        # 最大空闲连接,默认8
        max-idle: 200
        # 最小空闲连接,默认0
        min-idle: 5

Lettuce和Jedis的区别

  Jedis 是一个优秀的基于 Java 语言的 Redis 客户端,但是,其不足也很明显: Jedis 在实现上是直接连接 RedisServer,在多个线程间共享一个 Jedis 实例时是线程不安全的,如果想要在多线程场景下使用 Jedis ,需要使用连接池,每个线程都使用自己的 Jedis 实例,当连接数量增多时,会消耗较多的物理资源。Lettuce 则完全克服了其线程不安全的缺点:Lettuce 是基于 Netty 的连接(StatefulRedisConnection),Lettuce 是一个可伸缩的线程安全的 Redis 客户端,支持同步、异步和响应式模式。多个线程可以共享一个连接实例,而不必担心多线程并发问题。它基于优秀 Netty NIO 框架构建,支持 Redis 的高级功能,如 Sentinel,集群,流水线,自动重新连接和 Redis 数据模型。

测试环境是否搭建成功

@RunWith(SpringRunner.class)
@SpringBootTest(classes = SpringDataRedisApplication.class)
public class SpringDataRedisApplicationTests {
@Autowired
private RedisTemplate redisTemplate;
@Autowired
private StringRedisTemplate stringRedisTemplate;
@Test
public void initconn() {
ValueOperations<String, String> ops = stringRedisTemplate.opsForValue();
ops.set("username","lisi");
ValueOperations<String, String> value = redisTemplate.opsForValue();
value.set("name","wangwu");
System.out.println(ops.get("name"));
}
}

自定义模板解决序列化问题

  默认情况下的模板 RedisTemplate<Object, Object>,默认序列化使用的是JdkSerializationRedisSerializer ,存储二进制字节码。这时需要自定义模板,当自定义模板后又想存储String 字符串时,可以使StringRedisTemplate的方式,他们俩并不冲突。
  序列化问题:要把 domain object 做为 key-value 对保存在 redis 中,就必须要解决对象的序列化问题。
  Spring Data Redis给我们提供了一些现成的方案:
  JdkSerializationRedisSerializer 使用JDK提供的序列化功能。 优点是反序列化时不需要提供类型信息(class),但缺点是序列化后的结果非常庞大,是JSON格式的5倍左右,这样就会消耗 Redis 服务器的大量内存。
  Jackson2JsonRedisSerializer 使用 Jackson 库将对象序列化为JSON字符串。优点是速度快,序列化后的字符串短小精悍。但缺点也非常致命,那就是此类的构造函数中有一个类型参数,必须提供要序列化对象的类型信息(.class对象)。通过查看源代码,发现其只在反序列化过程中用到了类型信息。
  GenericJackson2JsonRedisSerializer 通用型序列化,这种序列化方式不用自己手动指定对象的 Class。

@Configuration
public class RedisConfig {
@Bean
public RedisTemplate<String,Object> redisTemplate(LettuceConnectionFactory
redisConnectionFactory){
RedisTemplate<String,Object> redisTemplate = new RedisTemplate<>();
//为string类型key设置序列器
redisTemplate.setKeySerializer(new StringRedisSerializer());
//为string类型value设置序列器
redisTemplate.setValueSerializer(new GenericJackson2JsonRedisSerializer());
//为hash类型key设置序列器
redisTemplate.setHashKeySerializer(new StringRedisSerializer());
//为hash类型value设置序列器
redisTemplate.setHashValueSerializer(new GenericJackson2JsonRedisSerializer());
redisTemplate.setConnectionFactory(redisConnectionFactory);
return redisTemplate;
}
}
//序列化
@Test
public void testSerial(){
User user = new User();
user.setId(1);
user.setUsername("张三");
user.setPassword("111");
ValueOperations<String, Object> value = redisTemplate.opsForValue();
value.set("userInfo",user);
System.out.println(value.get("userInfo"));
}

操作string

// 1.操作String
@Test
public void testString() {
ValueOperations<String, Object> valueOperations = redisTemplate.opsForValue();
// 添加一条数据
valueOperations.set("username", "zhangsan");
valueOperations.set("age", "18");
// redis中以层级关系、目录形式存储数据
valueOperations.set("user:01", "lisi");
valueOperations.set("user:02", "wangwu");
// 添加多条数据
Map<String, String> userMap = new HashMap<>();
userMap.put("address", "bj");
userMap.put("sex", "1");
valueOperations.multiSet(userMap);
// 获取一条数据
Object username = valueOperations.get("username");
System.out.println(username);
// 获取多条数据
List<String> keys = new ArrayList<>();
keys.add("username");
keys.add("age");
keys.add("address");
keys.add("sex");
List<Object> resultList = valueOperations.multiGet(keys);
for (Object str : resultList) {
System.out.println(str);
}
// 删除
redisTemplate.delete("username");
}

操作hash

// 2.操作Hash
@Test
public void testHash() {
HashOperations<String, String, String> hashOperations = redisTemplate.opsForHash();
/*
* 添加一条数据
* 参数一:redis的key
* 参数二:hash的key
* 参数三:hash的value
*/
hashOperations.put("userInfo","name","lisi");
// 添加多条数据
Map<String, String> map = new HashMap();
map.put("age", "20");
map.put("sex", "1");
hashOperations.putAll("userInfo", map);
// 获取一条数据
String name = hashOperations.get("userInfo", "name");
System.out.println(name);
// 获取多条数据
List<String> keys = new ArrayList<>();
keys.add("age");
keys.add("sex");
List<String> resultlist =hashOperations.multiGet("userInfo", keys);
for (String str : resultlist) {
System.out.println(str);
}
// 获取Hash类型所有的数据
Map<String, String> userMap = hashOperations.entries("userInfo");
for (Entry<String, String> userInfo : userMap.entrySet()) {
System.out.println(userInfo.getKey() + "--" + userInfo.getValue());
}
// 删除 用于删除hash类型数据
hashOperations.delete("userInfo", "name");
}

操作list

// 3.操作list
@Test
public void testList() {
ListOperations<String, Object> listOperations = redisTemplate.opsForList();
// 左添加(上)
// listOperations.leftPush("students", "Wang Wu");
// listOperations.leftPush("students", "Li Si");
// 左添加(上) 把value值放到key对应列表中pivot值的左面,如果pivot值存在的话
//listOperations.leftPush("students", "Wang Wu", "Li Si");
// 右添加(下)
// listOperations.rightPush("students", "Zhao Liu");
// 获取 start起始下标 end结束下标 包含关系
List<Object> students = listOperations.range("students", 0,2);
for (Object stu : students) {
System.out.println(stu);
}
// 根据下标获取
Object stu = listOperations.index("students", 1);
System.out.println(stu);
// 获取总条数
Long total = listOperations.size("students");
System.out.println("总条数:" + total);
// 删除单条 删除列表中存储的列表中几个出现的Li Si。
listOperations.remove("students", 1, "Li Si");
// 删除多条
redisTemplate.delete("students");
}

操作set

// 4.操作set-无序
@Test
public void testSet() {
SetOperations<String, Object> setOperations = redisTemplate.opsForSet();
// 添加数据
String[] letters = new String[]{"aaa", "bbb", "ccc", "ddd", "eee"};
//setOperations.add("letters", "aaa", "bbb", "ccc", "ddd", "eee");
setOperations.add("letters", letters);
// 获取数据
Set<Object> let = setOperations.members("letters");
for (Object letter: let) {
System.out.println(letter);
}
// 删除
setOperations.remove("letters", "aaa", "bbb");
}

操作sorted set

// 5.操作sorted set-有序
@Test
public void testSortedSet() {
ZSetOperations<String, Object> zSetOperations = redisTemplate.opsForZSet();
ZSetOperations.TypedTuple<Object> objectTypedTuple1 =
new DefaultTypedTuple<Object>("zhangsan", 7D);
ZSetOperations.TypedTuple<Object> objectTypedTuple2 =
new DefaultTypedTuple<Object>("lisi", 3D);
ZSetOperations.TypedTuple<Object> objectTypedTuple3 =
new DefaultTypedTuple<Object>("wangwu", 5D);
ZSetOperations.TypedTuple<Object> objectTypedTuple4 =
new DefaultTypedTuple<Object>("zhaoliu", 6D);
ZSetOperations.TypedTuple<Object> objectTypedTuple5 =
new DefaultTypedTuple<Object>("tianqi", 2D);
Set<ZSetOperations.TypedTuple<Object>> tuples = new
HashSet<ZSetOperations.TypedTuple<Object>>();
tuples.add(objectTypedTuple1);
tuples.add(objectTypedTuple2);
tuples.add(objectTypedTuple3);
tuples.add(objectTypedTuple4);
tuples.add(objectTypedTuple5);
// 添加数据
zSetOperations.add("score", tuples);
// 获取数据
Set<Object> scores = zSetOperations.range("score", 0, 4);
for (Object score: scores) {
System.out.println(score);
}
// 获取总条数
Long total = zSetOperations.size("score");
System.out.println("总条数:" + total);
// 删除
zSetOperations.remove("score", "zhangsan", "lisi");
}

获取所有key&删除

// 获取所有key
@Test
public void testAllKeys() {
// 当前库key的名称
Set<String> keys = redisTemplate.keys("*");
for (String key: keys) {
System.out.println(key);
}
}
// 删除
@Test
public void testDelete() {
// 删除 通用 适用于所有数据类型
redisTemplate.delete("score");
}

设置key的失效时间

@Test
public void testEx() {
ValueOperations<String, Object> valueOperations = redisTemplate.opsForValue();
// 方法一:插入一条数据并设置失效时间
valueOperations.set("code", "abcd", 180, TimeUnit.SECONDS);
// 方法二:给已存在的key设置失效时间
boolean flag = redisTemplate.expire("code", 180, TimeUnit.SECONDS);
// 获取指定key的失效时间
Long l = redisTemplate.getExpire("code");
}

SpringDataRedis整合使用哨兵机制

  编辑application.yml

spring:
  redis:
    # Redis服务器地址
    host: 192.168.10.100
    # Redis服务器端口
    port: 6379
    # Redis服务器端口
    password: root
    # Redis服务器端口
    database: 0
    # 连接超时时间
    timeout: 10000ms
    lettuce:
      pool:
        # 最大连接数,默认8
        max-active: 1024
        # 最大连接阻塞等待时间,单位毫秒,默认-1ms
        max-wait: 10000ms
        # 最大空闲连接,默认8
        max-idle: 200
        # 最小空闲连接,默认0
        min-idle: 5
    #哨兵模式
    sentinel:
      #主节点名称
      master: mymaster
      #节点
      nodes: 192.168.10.100:26379,192.168.10.100:26380,192.168.10.100:26381

  Bean注解配置

@Bean
public RedisSentinelConfiguration redisSentinelConfiguration(){
RedisSentinelConfiguration sentinelConfig = new RedisSentinelConfiguration()
// 主节点名称
.master("mymaster")
// 主从服务器地址
.sentinel("192.168.10.100", 26379)
.sentinel("192.168.10.100", 26380)
.sentinel("192.168.10.100", 26381);
// 设置密码
sentinelConfig.setPassword("root");
return sentinelConfig;
}

七、如何应对缓存穿透、缓存击穿、缓存雪崩问题

Key的过期淘汰机制

  Redis可以对存储在Redis中的缓存数据设置过期时间,比如我们获取的短信验证码一般十分钟过期,我们这时候就需要在验证码存进Redis时添加一个key的过期时间,但是这里有一个需要格外注意的问题就是:并非key过期时间到了就一定会被Redis给删除。

定期删除

  Redis 默认是每隔 100ms 就随机抽取一些设置了过期时间的 Key,检查其是否过期,如果过期就删除。为什么是随机抽取而不是检查所有key?因为你如果设置的key成千上万,每100毫秒都将所有存在的key检查一遍,会给CPU带来比较大的压力。

惰性删除

  定期删除由于是随机抽取可能会导致很多过期 Key 到了过期时间并没有被删除。所以用户在从缓存获取数据的时候,redis会检查这个key是否过期了,如果过期就删除这个key。这时候就会在查询的时候将过期key从缓存中清除。

内存淘汰机制

  仅仅使用定期删除 + 惰性删除机制还是会留下一个严重的隐患:如果定期删除留下了很多已经过期的key,而且用户长时间都没有使用过这些过期key,导致过期key无法被惰性删除,从而导致过期key一直堆积在内存里,最终造成Redis内存块被消耗殆尽。那这个问题如何解决呢?这个时候Redis内存淘汰机制应运而生了。Redis内存淘汰机制提供了6种数据淘汰策略:

  • volatile-lru :从已设置过期时间的数据集中挑选最近最少使用的数据淘汰。
  • volatile-ttl :从已设置过期时间的数据集中挑选将要过期的数据淘汰。
  • volatile-random :从已设置过期时间的数据集中任意选择数据淘汰。
  • allkeys-lru :当内存不足以容纳新写入数据时移除最近最少使用的key。
  • allkeys-random :从数据集中任意选择数据淘汰。
  • no-enviction(默认) :当内存不足以容纳新写入数据时,新写入操作会报错。
      一般情况下,推荐使用 volatile-lru 策略,对于配置信息等重要数据,不应该设置过期时间,这样Redis就永远不会淘汰这些重要数据。对于一般数据可以添加一个缓存时间,当数据失效则请求会从DB中获取并重新存入Redis中。

缓存击穿

  首先我们来看下请求是如何取到数据的:当接收到用户请求,首先先尝试从Redis缓存中获取到数据,如果缓存中能取到数据则直接返回结果,当缓存中不存在数据时从DB获取数据,如果数据库成功取到数据,则更新Redis,然后返回数据



  定义:高并发的情况下,某个热门key突然过期,导致大量请求在Redis未找到缓存数据,进而全部去访问DB请求数据,引起DB压力瞬间增大。
  解决方案:缓存击穿的情况下一般不容易造成DB的宕机,只是会造成对DB的周期性压力。对缓存击穿的解决方案一般可以这样:
  Redis中的数据不设置过期时间,然后在缓存的对象上添加一个属性标识过期时间,每次获取到数据时,校验对象中的过期时间属性,如果数据即将过期,则异步发起一个线程主动更新缓存中的数据。但是这种方案可能会导致有些请求会拿到过期的值,就得看业务能否可以接受,如果要求数据必须是新数据,则最好的方案则为热点数据设置为永不过期,然后加一个互斥锁保证缓存的单线程写。

缓存穿透

  定义:缓存穿透是指查询缓存和DB中都不存在的数据。比如通过id查询商品信息,id一般大于0,攻击者会故意传id为-1去查询,由于缓存是不命中则从DB中获取数据,这将会导致每次缓存都不命中数据导致每个请求都访问DB,造成缓存穿透。
  解决方案:
  利用互斥锁,缓存失效的时候,先去获得锁,得到锁了,再去请求数据库。没得到锁,则休眠一段时间重试
  采用异步更新策略,无论key是否取到值,都直接返回。value值中维护一个缓存失效时间,缓存如果过期,异步起一个线程去读数据库,更新缓存。需要做缓存预热(项目启动前,先加载缓存)操作。提供一个能迅速判断请求是否有效的拦截机制,比如,利用布隆过滤器,内部维护一系列合法有效的key。迅速判断出,请求所携带的Key是否合法有效。如果不合法,则直接返回。
如果从数据库查询的对象为空,也放入缓存,只是设定的缓存过期时间较短,比如设置为60秒。

缓存雪崩

  定义:缓存中如果大量缓存在一段时间内集中过期了,这时候会发生大量的缓存击穿现象,所有的请求都落在了DB上,由于查询数据量巨大,引起DB压力过大甚至导致DB宕机。
  解决方案:
  给缓存的失效时间,加上一个随机值,避免集体失效。如果Redis是集群部署,将热点数据均匀分布在不同的Redis库中也能避免全部失效的问题
  使用互斥锁,但是该方案吞吐量明显下降了。
  设置热点数据永远不过期。
  双缓存。我们有两个缓存,缓存A和缓存B。缓存A的失效时间为20分钟,缓存B不设失效时间。自己做缓存预热操作。然后细分以下几个小点
    1. 从缓存A读数据库,有则直接返回
    2. A没有数据,直接从B读数据,直接返回,并且异步启动一个更新线程。
    3. 更新线程同时更新缓存A和缓存B。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,084评论 6 503
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,623评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,450评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,322评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,370评论 6 390
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,274评论 1 300
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,126评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,980评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,414评论 1 313
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,599评论 3 334
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,773评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,470评论 5 344
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,080评论 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,713评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,852评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,865评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,689评论 2 354

推荐阅读更多精彩内容

  • Redis是什么? Redis是Nosql的一种,以key-value形式存储于内存中的数据库.提供了 Strin...
    whoami2019阅读 644评论 0 10
  • 最近又复习了一下redis中比较重要的几个知识点,知识点多且碎,在这里做一个简单的总结,便于以后复习。 主流应用架...
    lhsjohn阅读 971评论 1 2
  • 以下是我准备做的一次完整的php+redis的体验清单。 1、redis基础命令 2、redis主从 3、redi...
    恐龙打酱油阅读 788评论 0 0
  • 初识redis 1)Redis的8个特性:速度快、基于键值对的数据结构服务器、功能丰富、简单稳定、客户端语言多、持...
    何何与呵呵呵阅读 244评论 0 1
  • 16宿命:用概率思维提高你的胜算 以前的我是风险厌恶者,不喜欢去冒险,但是人生放弃了冒险,也就放弃了无数的可能。 ...
    yichen大刀阅读 6,049评论 0 4