Redis 迁移至AWS ElasticElastiCache

场景描述

在云之间进行迁移,对于Ali ECS to AWS EC2、Ali RDS to AWS RDS/Aurora迁移相对都比较简单,可以使用自动化工具进行迁移;
对于Redis迁移主要考虑数据是否持久化和安全访问的问题,AWS Redis是允许内网访问,如果需要Office网络连接AWS ElastiCache Redis,需要借用SD-WAN或专线进行组网。

Redis迁移

1.离线迁移(Redis-shake)
2.在线迁移(DTS、Redis-shake)

Redis 离线迁移

源Redis的版本为2.8、3.0、3.2、4.0或5.0版本。(2.8的版本需先迁移至4.0版本)
目标Redis的版本需要满足一下要求:

  • Reids为社区办4.0/5.0版本或企业版本5.0版本
  • Redis为标准架构或集群架构

步骤

1.下载redis-shake工具
https://github.com/alibaba/RedisShake/releases
2.修改 redis-shake.conf 文件

# id唯一标识一次同步进程
id=redis-shake # source相关配置
source.rdb.input = >/xxx/dump.rdb
target.type=standalone
target.address=10.xx.xx.xx:6379
target.password_raw={password}
target.auth_type = auth

3.执行操作

[root@ip-10-1-0-139 workstation]# ./redis-shake.linux -type=restore -conf=redis-shake.conf


redis-shake.png

4.数据校验

r-bp1z3lkccjpxj9woeapd.redis.rds.aliyuncs.com:6379> dbsize
(integer) 277850
可以核对数据的量,以达到数据校验的目的

Redis 在线迁移

Redis-shake迁移

步骤

1.修改redis-shake.conf文件

# id唯一标识一次同步进程
id=redis-shake # source相关配置
source.type=standalone
source.address=10.xx.xx.xx:6379
source.password_raw={password}
source.auth_type = auth
target.type=standalone
target.address=10.xx.xx.xx:6379
target.password_raw={password}
target.auth_type = auth
# 在rdb全量同步阶段,如果目标redis已经存在对应的key时是否覆盖,如果为false就抛异常
rewrite = true
# 是否做metric统计,建议设置为true,如果设置为false,/metric中的部分参数的值就一直是0
metric = true

2.执行操作

[root@ip-10-1-0-139 workstation]# ./redis-shake.linux -type=sync -conf=redis-shake.conf


redis-shake-online.png

3.数据校验

r-bp1z3lkccjpxj9woeapd.redis.rds.aliyuncs.com:6379>
dbsize(integer) 277850

4.增量同步数据过程

sync-redis.png

一阶段:全量数据完成
二阶段:增量数据同步
第一阶段完成后,第二阶段会继续进行增量数据的同步。

DTS迁移(目标为主从架构)

适用环境

1.集群/主从架构 to AWS ElastiCache Redis主从架构

DTS-迁移.png

2.进行数据校验,查看数据大小

DTS迁移(目标为集群架构)

适用环境

1.集群/主从架构 to AWS ElastiCache Redis集群架构
2.AWS redis只允许内网访问,需要借助能够映射外网的NLB/代理服务器

image.png
步骤

1.安装部署redis proxy

wget https://github.com/alibaba/RedisShake/releases/download/release-v2.1.1-20210903/release-v2.1.1-20210903.tar.gz
tar zxvf release-v2.1.1-20210903.tar.gz
mv release-v2.1.1-20210903 redis-shake-2.1.1
cd redis-shake-2.1.1/

2.查看对应redis node的ip
直接ping node域名即可获得

3.配置proxy的信息

sudo ./redis-cluster-proxy --port 7888 --connections-pool-size 20 --connections-pool-min-size 15 --connections-pool-spawn-rate 2 --connections-pool-spawn-every 500 10.0.14.6:6379,10.0.19.240:6379,10.0.3.72:6379,10.0.26.100:6379,10.0.27.86:6379,10.0.9.243:6379,10.0.22.183:6379,10.0.12.162:6379 &

4.利用阿里DTS进行迁移配置
源端配置为阿里的Redis信息
目标端的IP配置为proxy 主机的IP,端口好为指定的port

5.如果需要设置DTS服务器的白名单,需要将目标端的node信息添加
6.使用DTS进行预检查
7.使用redis-cli或其他工具连接redis,查看数据的同步情况
8.验证增量数据同步,在源端新增key/修改key,在目标端进行查看
9.数据校验。可以使用redis-full-check进行对比

主从版/单节点
./redis-full-check -t 10.101.72.137:30661 -s 10.101.72.137:30551
对于主从和集群
./redis-full-check -s r-2zee5bo9byhcms8opg.redis.rds.aliyuncs.com:6379 --sourcepassword=Vcg@2021 -t cn-500px-dev-ec-sg-01.sxgti0.0001.cnw1.cache.amazonaws.com.cn:6379 --comparemode=1 --comparetimes=1 --log=redis-full-check.log --sourcedbfilterlist=0 --targetdbfilterlist=0

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,053评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,527评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,779评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,685评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,699评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,609评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,989评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,654评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,890评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,634评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,716评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,394评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,976评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,950评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,191评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,849评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,458评论 2 342

推荐阅读更多精彩内容

  • 数据库概念 关系型数据库 关系数据库提供了一个通用接口,使用户可以使用使用 编写的命令或查询从数据库读取和写入数据...
    柳随风随柳阅读 4,532评论 0 3
  • # 前言 ### 为什么我要尝试写作技术书籍 - 一个人年轻时经历的艰难会在未来成为他的财富 # 第一篇 基础和应...
    zhzosh阅读 610评论 0 0
  • 本文是我在 gitchat 上的文章云计算生产环境架构性能调优和迁移套路总结(以 AWS 为例)的后半部分,本文对...
    顾宇阅读 3,359评论 1 13
  • 1 redis概述 1.1 什么是redis   Redis的全称是REmote Dictionary Serve...
    一把君子剑阅读 421评论 0 0
  • 本章内容 ◆ 虚拟化基础◆ 虚拟化技术之KVM◆ kvm实战案例 一:虚拟化基础 https://www.vmwa...
    Liang_JC阅读 646评论 0 0