4.15Day32rsync推拉数据文件功能实现。

1、什么是rsync?
rsync,Rsync英文全称为Remote synchronization 缩写rsync
是开源、高速的、可实现本地以及远程,全量以及增量的数据复制(拷贝)工具。

2、全量和增量区别
全量复制:
[root@nfs01 ~]# cp -a /etc/ /opt/
[root@nfs01 ~]# \cp -a /etc/ /opt
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# \cp -a /etc/ /opt/
增量复制:
只复制oldboy.txt

3、rsync的做作用
工作中需要定时/实时数据备份。本地服务器目录、不同机器、
不同机房之间的数据备份,都可以用rsync完成
4、rsync 功能特性
 支持拷贝普通文件与特殊文件,如链接文件,设备文件等。
 支持排除指定文件或目录同步的功能,相当于打包命令tar的排除功能。
 可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。
 可实现增量复制,既只复制发生变化的数据,因此数据传输效率很高。
 可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件(rsync本身不对数据加密)。
 可以通过socket(进程方式)传输文件和数据(服务端和客户端)*。
 支持匿名或认证(无需系统用户)进程模式传输,安全的进行数据备份及镜像
5、rsync增量复制原理
使用 quick check算法,只对增量的部分复制,根据大小属性的变化进行复制。
6、rsync三种工作模式
1)本地(local)
rsync就是一个命令
rsync [OPTION...] SRC... [DEST]
rsync命令 参数选项 [源目录或文件] 目的目录或文件
命令操作:
a、把数据从一个地方复制到另一个地方(仅在一再机器增量) 相当于cp
b、通过加参数实现删除的功能相当于rm
c、查看属性信息的功能(类似ls)
检验a:
[root@backup ~]# rsync /etc/hosts /opt
[root@backup ~]# ls
1.sh anaconda-ks.cfg 培训要求.txt
[root@backup ~]# ls /opt
hosts
[root@backup ~]# \cp /etc/hosts /opt
[root@backup ~]# ls /opt
hosts
[root@backup ~]# ll /etc/hosts /opt/hosts
-rw-r--r--. 1 root root 332 4月 14 15:04 /etc/hosts
-rw-r--r-- 1 root root 332 4月 15 10:08 /opt/hosts
检测b
root@backup ~]# touch /null.txt
[root@backup ~]# cat /opt/hosts
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
172.16.1.5 lb01
172.16.1.6 lb02
172.16.1.7 web01
172.16.1.8 web02
172.16.1.9 web03
172.16.1.31 nfs01
172.16.1.41 backup
172.16.1.51 db01 db01.etiantian.org
172.16.1.61 m01
[root@backup ~]# rsync --delete /null.txt /opt/hosts
rsync: --delete does not work without --recursive (-r) or --dirs (-d).
rsync error: syntax or usage error (code 1) at main.c(1567) [client=3.1.2]
[root@backup ~]# rsync -r --delete /null.txt /opt/hosts
[root@backup ~]# cat /opt/hosts

c.查看属性
[root@backup ~]# rsync /etc/hosts
-rw-r--r--            332 2019/04/12 11:24:41 hosts

2)远程shell模式
借助类似ssh隧道传输数据。适合不同的机器之间复制
异地拷贝,想打关于scp,区别是scp是远程全量拷贝

pull 拉:从远端拉取到本地。
root@nfs01 /opt]# rsync -avz  root@172.16.1.41:/opt/ltd.txt ./
root@172.16.1.41's password: 
receiving incremental file list
ltd.txt

sent 43 bytes  received 86 bytes  51.60 bytes/sec
total size is 0  speedup is 0.00
[root@nfs01 /opt]# ls
ltd.txt
push 推:从本地推到远端。
[root@nfs01 ~]# rsync -avz /etc/hosts root@172.16.1.41:/opt  #加密传输。
The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.
ECDSA key fingerprint is SHA256:mZ5zbiY0APRD4omvLVkJB+TY9vn1ylX28Z88G2Ma+1M.
ECDSA key fingerprint is MD5:fe:ac:4e:f1:98:ee:8a:43:af:43:90:59:09:5b:3a:3e.
Are you sure you want to continue connecting (yes/no)? y
Please type 'yes' or 'no': y
Please type 'yes' or 'no': yes
Warning: Permanently added '172.16.1.41' (ECDSA) to the list of known hosts.
root@172.16.1.41's password: 
sending incremental file list
hosts

sent 85 bytes  received 41 bytes  8.69 bytes/sec
total size is 332  speedup is 2.63
检查:
[root@backup ~]# cd /opt
[root@backup /opt]# ls
hosts

拉的命令:
1)rsync -avz root@172.16.1.41:/opt/hosts /opt
2)rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt

推拉:
a。参照物,执行命令的机器
b root@172.16.1.41

重点:
null和null/区别。null是目录和目录下的内容
null/只是目录下的内容,不含本身

3)rsync 守护进程模式
首先要搭建服务端(要有守护进程),然后才能在客户端实现推拉数据
重要模式,重点讲。
配置服务器端守护进程,实现数据传输
1、服务器端守护进程 2、 客户端执行命令

rsync服务模式:*****开启后台进程,接受别人访问。

7、rsync命令参数:
-v, --verbose 显示输出过程
-z, --compress 压缩
-a, --archive 多参数集合(-rtopgDl)
-r, --recursive 递归
-t, --times 保持修改时间属性
-o, --owner 保持属主不变
-p, --perms 保持权限不变
-g, --group 保持用户组不变
-l, --links 保持拷贝软连接
-q, --quiet 安静的拷贝
--bwlimit=KBPS 限制I/O带宽,KBytes per second。
--delete 删除
--exclude 排除
--exclude-from 从文件中排除
企业常用参数组合:-avz 或者 -vzrtopg

8、rsync守护进程模式应用实践
1) 查看esync版本信息:
[root@backup ~]# rsync --version
rsync version 3.1.2 protocol version 31
2) 配置配置文件
[root@backup ~]# cat /etc/rsyncd.conf -n
1 #rsync_config_______________start
2 #created by oldboy
3 #site: http://www.oldboyedu.com
4 uid = rsync <====管理备份目录的用户
5 gid = rsync <====管理备份目录的用户组
6 use chroot = no <====安全功能,数据是否锁定到备份目录
7 max connections = 200 <====并发链接 最大同时客户端访问数为200
8 timeout = 600 <====超时时间 (链接长时间不动,要尽早结束)
9 pid file = /var/run/rsyncd.pid <====进程号所在文件
10 lock file = /var/run/rsync.lock <====锁文件
11 log file = /var/log/rsyncd.log <====日志文件,查看报错等
12 ignore errors <====忽略错误
13 read only = false <====可写的意思
14 list = false <====不允许列表(服务端无法查看客户端文件)
15 hosts allow = 172.16.1.0/24 <====哪些主机可以访问 下面二选一
16 hosts deny = 0.0.0.0/32 <====那些主机不允许访问 上面二选一
17 auth users = rsync_backup <====远程虚拟链接用户
18 secrets file = /etc/rsync.password <====存放密码文件:格式:用户名:密码 权限必须600
19 [backup] <====[模块名] 远程访问使用模块名访问
20 comment = welcome to oldboyedu backup! <====说明注释
21 path = /backup/ <====服务器端用于备份的目录,用户和用户 rsync.rsync

 创建用户和备份目录
 [root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
 [root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup

 要学会了解知识点的源头。
 man rsync  查看命令的参数
 man sryncd。conf 查配置参数

3)启动和检查
rsync --damon
systemctl start rsyncd 启动rsync
systemctl status rsyncd 查看状态
systemctl enable rsyncd 现在启动
ps -ef|grep sync|grep -v grep #检查进程
root 7521 1 0 11:39 ? 00:00:00 /usr/bin/rsync --daemon --no-detach

如何查看某端口对应什么服务?答案如下
netstat -lntup|grep 873 #检查端口
tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      7521/rsync          
tcp6       0      0 :::873                  :::*                    LISTEN      7521/rsync  

lsof -i :873 #检查端口
COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
rsync   7521 root    3u  IPv4  41439      0t0  TCP *:rsync (LISTEN)
rsync   7521 root    5u  IPv6  41440      0t0  TCP *:rsync (LISTEN)

4)配置密码文件:服务端
认证用户密码:
方法一:
[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup ~]# ls -l /etc/rsync.password
-rw-r--r-- 1 root root 20 4月 15 11:54 /etc/rsync.password
[root@backup /etc]# ll /etc/rsync.password
-rw------- 1 root root 20 4月 19 21:33 /etc/rsync.password

(2)以下操作都是在客户端服务器
方法1:认证密码文件
[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password
[root@nfs01 ~]# chmod 600 /etc/rsync.password
[root@nfs01 ~]# cat /etc/rsync.password
oldboy
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月 15 11:55 /etc/rsync.password

方法二:
[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc 
[root@nfs01 ~]# tail -1 /etc/bashrc 
 export RSYNC_PASSWORD=oldboy
[root@nfs01 ~]# . /etc/bashrc 
[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy

(3)守护进程模式,客户端rsync的命令语法:

配置服务器端守护进程,实现数据传输:

1、服务器端守护进程。2、客户端执行命令。
拉门、推门 思考:

pull,拉:从远端拉取到本地。
语法1(常用):
rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync命令 参数选项 [虚拟用户]@[主机地址]::[模块名] 本地路径
rsync -avz rsync_backup@172.16.1.41::backup/1234.txt /etc --password-file=/etc/rsync.password

语法2:
rsync [OPTION...] rsync://[USER@]HOST::SRC... [DEST]
rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径

push,推:从本地推到远端。

语法1(常用):
rsync [OPTION...] [DEST] [USER@]HOST::SRC...
rsync命令 参数选项 本地路径 [虚拟用户]@[主机地址]::[模块名]
rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

语法2:
rsync [OPTION...] [DEST] rsync://[USER@]HOST::SRC...
rsync命令 参数选项 本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]

(4)测试成果
错误1:
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
@ERROR: invalid uid rsync
rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]
缺少用户属性
解答:
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/
错误2:
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)

sent 223 bytes  received 124 bytes  694.00 bytes/sec
total size is 332  speedup is 0.96
rsync error: 3some files/attrs were not transferred (see previous errors) 
(code 23) at main.c(1178) [sender=3.1.2]

解答:增加如下参数到/etc/rsyncd.conf
fake super = yes #不用root用户也可以存储文件的完整属性。
This allows the full attributes of a file to be stored without having to have the daemon actually running as root.
[root@backup ~]# grep fake /etc/rsyncd.conf
fake super = yes
错误三:
rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
@ERROR: auth failed on module backup
rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]
解答:ll /etc/rsync.password <===文件权限没有设置为600
-rw-r--r-- 1 root root 20 4月 15 11:54 /etc/rsync.password
改:chmod 600 /etc/rsync.password

错误四:如果还是不行,查看自己的selinux是否还在运行中,是的话关闭掉即可

在测试:成功
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts

sent 89 bytes  received 49 bytes  276.00 bytes/sec
total size is 332  speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342

推荐阅读更多精彩内容