mysql同步数据到redis-全量同步

迁移前的数据

建表语句

create table company(
    id bigint auto_increment primary key ,
    name varchar(32),
    sdate timestamp,
    email varchar(64),
    domain varchar(128),
    city varchar(64)
)engine =InnoDB

插入示例语句

insert into company(name, sdate, email, domain, city)
values ('tangzihao', '1992-11-29', '1003005062@qq.com', 'www.baidu.com', 'hangzhou'),
       ('zhangsan', '1994-7-20', 'zhangsan@qq.com', 'www.qq.com', 'shanghai'),
       ('lisi', '2000-10-25', 'lisi@qq.com', 'www.sina.com', 'guangzhou');

迁移步骤

分析源端数据结构

分析源端数据结构,保存到名为mysql_to_redis.sql的文件中。内容如下

换行符linux中使用的是\r\n
如果是windows的话是\n

SELECT CONCAT(
  "*12\r\n", #这里的12是下方字段的数量,由MySQL表中的数据结构决定,数一下有几个LENGTH就行
  '$', LENGTH('HMSET'), '\r\n', #HMSET是在Redis中写入数据时使用的命令
  'HMSET', '\r\n',
  '$', LENGTH(id), '\r\n', #id是HMSET字段后的第一个字段,迁移后会成为Redis Hash中的key
  id, '\r\n',
  '$', LENGTH('name'), '\r\n', #'name'将以字符串形式传入hash中,作为其中一个field。下面的'sdate'等与它相同
  'name', '\r\n',
  '$', LENGTH(name), '\r\n', #name是一个变量,代表了MySQL表中公司的名称,迁移后会成为上一参数'name'生成的field所对应的value。下面的sdate等与它相同
  name, '\r\n',
  '$', LENGTH('sdate'), '\r\n',
  'sdate', '\r\n',
  '$', LENGTH(sdate), '\r\n',
  sdate, '\r\n',
  '$', LENGTH('email'), '\r\n',
  'email', '\r\n',
  '$', LENGTH(email), '\r\n',
  email, '\r\n',
  '$', LENGTH('domain'), '\r\n',
  'domain', '\r\n',
  '$', LENGTH(domain), '\r\n',
  domain, '\r\n',
  '$', LENGTH('city'), '\r\n',
  'city', '\r\n',
  '$', LENGTH(city), '\r\n',
  city, '\r\n'
)
FROM company AS c

使用如下命令迁移

mysql -h 127.0.0.1 -P 3306 -u root -D test -p --skip-column-names --raw < mysql_to_redis.sql | redis-cli -h 127.0.0.1 -p 6379 --pipe

选项说明

选项 说明 示例值
-h MySQL数据库的连接地址。说明 此处是指命令中的第一个-h。 127.0.0.1
-P MySQL数据库的服务端口。 3306
-u MySQL数据库的用户名。 root
-D 需要迁移的MySQL表所在的库。 test
-p MySQL数据库的连接密码。 123456
--skip-column-names 不在查询结果中写入列名。 无需设置值。
--raw 输出列的值时不进行转义。 无需设置值。
-h Redis的连接地址。这里指redis-cli之后的-h 127.0.0.1
-p Redis的连接端口。这里指redis-cli之后的-p 6379
--pipe 使用Redis的Pipeline功能进行传输。 无需设置值。
-a Redis的连接密码。说明 如无密码或不需要密码则无需设置该选项 123456

迁移命令输出

mysql -h 127.0.0.1 -P 3306 -u root -D test -p --skip-column-names --raw < mysql_to_redis.sql | redis-cli -h 127.0.0.1 --pipe -p 6379
Enter password:
All data transferred. Waiting for the last reply...
Last reply received from server.
errors: 0, replies: 3

迁移后查询

127.0.0.1:6379> keys *
1) "3"
2) "2"
3) "1"
127.0.0.1:6379> HGETALL 1
 1) "name"
 2) "tangzihao"
 3) "sdate"
 4) "1992-11-29 00:00:00"
 5) "email"
 6) "1003005062@qq.com"
 7) "domain"
 8) "www.baidu.com"
 9) "city"
10) "hangzhou"

从上面看到,mysql中行的主键变成了redis中hash的key,一行中的每列变成了redis中的值。

参考文档

https://help.aliyun.com/document_detail/124140.html?spm=a2c4g.11186623.6.883.7f1141f7LnYtjy

https://www.cnblogs.com/tommy-huang/p/4703514.html

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,277评论 6 503
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,689评论 3 393
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,624评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,356评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,402评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,292评论 1 301
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,135评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,992评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,429评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,636评论 3 334
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,785评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,492评论 5 345
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,092评论 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,723评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,858评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,891评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,713评论 2 354

推荐阅读更多精彩内容