架构02rsync(备份服务器,仓库)配置

rsync 备份服务器,相当于仓库

1.什么是rsync?

(片面理解:sync是把数据写入磁盘,前边加一个r,就是备份拷贝)

是开源的,高速的,数据复制(拷贝)工具,可实现本地以及远程的全量及增量复制

2.增量复制和全量复制

增量复制就是只复制发生变化的和添加的文件(速度更快)

全量复制就是全部复制,不管有没有,还是有没有变化

3.rsync的作用

工作中需要数据定时/实时备份。可能需要不同的机器,不同的机房之间的数据备份。都可以用rsync来完成。

4.rsync的功能,特性


5.增量复制的原理

使用 quick check 算法,只对增量的部分复制,根据大小属性的变化进行复制

2.x比对差异后复制(centos5默认),3.x一边比对一般复制(效率更高,centos6和7默认)

6rsync三种工作模式介绍

1)本地

rsync就是一个命令

命令操作:

rsync命令

a.把数据从一个地方复制到另一个地方(仅在一台机器增量),相当于cp

b.通过加参数实现删除的功能,相当于rm

c.查看属性信息功能,相当于ls

实践:复制

rsync /etc/hosts /opt

复制etc/hosts 到 /opt 下

实践:删除

先创建一个空文件在/下 :touch /null.txt

rsync -r --delete /null.txt /opt/hosts

相当于复制这个空文件到想要删除的文件,就清空了文件的内容,相当与删除,但是文件名还在

创建一个空目录在/下 :mkdir /null

原理同删除文件

查看属性实践

rsync /etc/hosts  相当于ls直接使用

2)远程shell模式(异地拷贝数据相当于scp,scp是全量拷贝,rsync是增量拷贝)

借助类似ssh隧道传输数据,适合不同的机器之间复制。

异地拷贝,相当于scp,区别scp是远程全量拷贝)

拉门 推门 思考:

pull,拉:从远端拉取到本地。

语法:

rsync     [OPTION...] [USER@]HOST:SRC...             [DEST]

rsync命令 参数选项 [认证用户]@[主机地址]:[源路径] 本地路径

语法:

push,推:从本地推到远端。

rsync     [OPTION...]  SRC... [USER@]HOST:[DEST]       

rsync命令 参数选项 本地路径 [认证用户]@[主机地址]:[目标路径]

push实践:

[root@nfs01 ~]# rsync -avz /etc/hosts root@172.16.1.41:/opt/ #加密传输。

The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.

ECDSA key fingerprint is SHA256:qZSBkrmOv7xO/63qOU1uLXkPyNVHdkqvrNAcAmXqNEk.

ECDSA key fingerprint is MD5:23:d0:cb:a9:f4:7c:0b:eb:2d:07:00:e1:a3:12:d8:33.

Are you sure you want to continue connecting (yes/no)? yes

Warning: Permanently added '172.16.1.41' (ECDSA) to the list of known hosts.

root@172.16.1.41's password:

sending incremental file list

hosts

sent 219 bytes  received 35 bytes  14.51 bytes/sec

total size is 332  speedup is 1.31

如果客户端按照环境变量的方式配置,则可以忽略--password-file=/etc/rsync.password参数。

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

命令等价:(推:)

rsync -avz /etc/hosts root@172.16.1.41:/opt/

rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/

上述命令是等价的。-e 指定通道  ssh ssh服务连接客户端  -p 22指定22端口。

等价命令(拉)

rsync -avz root@172.16.1.41:/opt/hosts /opt

rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt


3)rsync守护进程模式

首先要搭建服务端,然后才能在客户端实现推拉数据(重要)

客户端语法暂时不讲

rsync服务模式:*****开启后台进程,接受别人访问

7.rsync命令参数



8)rsync守护进程模式应用实践 在backup-rsync服务器上实施\

1).安装rsync      (rsync --version查看当前rsync版本)

yum install rsync -y

2).配置文件/etc/rsyncd.conf  备份

cp /etc/rsyncd.conf{,.ori}

cat >/etc/rsyncd.conf<<EOF

uid = rsync

gid = rsync

use chroot = no

fake  super  = yes

max connections = 200

timeout = 600 

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log

ignore errors

read only = false

list = false

hosts allow = 172.16.1.0/24

hosts deny = 0.0.0.0/32

auth users = rsync_backup

secrets file = /etc/rsync.password

[backup]

comment = welcome to oldboyedu backup!

path = /backup/

EOF

cat  -n /etc/rsyncd.conf  查看,保证没错

解释说明:



3)创建用户和备份目录

[root@backup ~]# useradd  -M -s /usr/bin/nologin  rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月  15 12:12 /backup/

4)配置密码文件

[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password

[root@backup ~]# chmod 600 /etc/rsync.password

[root@backup ~]# cat /etc/rsync.password

rsync_backup:oldboy

[root@backup ~]# ls -l /etc/rsync.password

-rw------- 1 root root 20 4月  15 11:51 /etc/rsync.password

5)启动和检查

systemctl start rsyncd  启动rsync服务

systemctl enable rsyncd  开机自启rsync服务

systemctl status rsyncd  查看rsync服务状态

3)启动和检查

rsync --daemon(c6及以前)

systemctl start rsyncd

systemctl enable rsyncd

systemctl status rsyncd

[root@backup ~]# ps -ef|grep sync|grep -v grep  #检查进程

root       7521      1  0 11:39 ?        00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873 #检查端口

tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      7521/rsync          

tcp6       0      0 :::873                  :::*                    LISTEN      7521/rsync 


[root@backup ~]# lsof -i :873 #检查端口

COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME

rsync   7521 root    3u  IPv4  41439      0t0  TCP *:rsync (LISTEN)

rsync   7521 root    5u  IPv6  41440      0t0  TCP *:rsync (LISTEN)

backup-rsync服务端配置完成====================================

2)以下操作在客户端服务器操作

认证密码文件

方法一:

[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password

[root@nfs01 ~]# chmod 600 /etc/rsync.password

[root@nfs01 ~]# cat /etc/rsync.password

oldboy

[root@nfs01 ~]# ls -l /etc/rsync.password

-rw------- 1 root root 7 4月  15 11:55 /etc/rsync.password

方法二:

[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc

[root@nfs01 ~]# tail -1 /etc/bashrc

export RSYNC_PASSWORD=oldboy

[root@nfs01 ~]# . /etc/bashrc

[root@nfs01 ~]# echo $RSYNC_PASSWORD

oldboy

两种方法二选一

nfs01客户端配置完成===================

(3)守护进程模式,客户端rsync的命令语法:

配置服务器端守护进程,实现数据传输:

1、服务器端守护进程。2、客户端执行命令。

拉门、推门 思考:

pull,拉:从远端拉取到本地。

语法1(常用):

rsync     [OPTION...] [USER@]HOST::SRC...                 [DEST]

rsync命令 参数选项 [虚拟用户]@[主机地址]::[模块名]     本地路径

语法2:

rsync     [OPTION...] rsync://[USER@]HOST::SRC...               [DEST]

rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径

push,推:从本地推到远端。

语法1(常用):               

rsync     [OPTION...]   [DEST]        [USER@]HOST::SRC...                

rsync命令 参数选项   本地路径      [虚拟用户]@[主机地址]::[模块名]    

语法2:                   

rsync     [OPTION...]   [DEST] rsync://[USER@]HOST::SRC...            

rsync命令 参数选项   本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]

语法一比较常用

(4)测试成果

  [root@nfs01 tmp]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup

Password:

@ERROR: auth failed on module backup

rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6]

  异常问题解决:

  1. 密码真的输入错误,用户名真的错误

  2. secrets file = /etc/rsync.password指定的密码文件和实际密码文件名称不一致

  3. /etc/rsync.password文件权限不是600

  4. rsync_backup:123456密码配置文件后面注意不要有空格

  5. rsync客户端密码文件中只输入密码信息即可,不要输入虚拟认证用户名称

错误1:

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

@ERROR: invalid uid rsync

rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]

解答:

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月  15 12:12 /backup/

错误2:

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)

sent 223 bytes  received 124 bytes  694.00 bytes/sec

total size is 332  speedup is 0.96

rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

解答:增加如下参数到/etc/rsyncd.conf

fake  super  = yes #不用root用户也可以存储文件的完整属性。

This allows the full attributes of a file to  be  stored  without having to have the daemon actually running as root.

[root@backup ~]# grep fake /etc/rsyncd.conf

fake super = yes

改完配置,要重启服务:

[root@backup ~]# systemctl restart rsyncd

在测试:成功

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

sent 89 bytes  received 49 bytes  276.00 bytes/sec

total size is 332  speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

服务端检查:

[root@backup ~]# ls /backup/

hosts

[root@backup ~]# ls /backup/

etc  hosts

如果客户端按照环境变量的方式配置,则可以忽略--password-file=/etc/rsync.password参数。

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

sent 52,071 bytes  received 644 bytes  105,430.00 bytes/sec

total size is 31,244,350  speedup is 592.70

测试增量

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

etc/oldboy.txt

sent 52,098 bytes  received 655 bytes  105,506.00 bytes/sec

total size is 31,244,350  speedup is 592.28

(OVER)欧耶!




©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,390评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,821评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,632评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,170评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,033评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,098评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,511评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,204评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,479评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,572评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,341评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,213评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,576评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,893评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,171评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,486评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,676评论 2 335

推荐阅读更多精彩内容