Rsync原理

1、什么是rsync?

    rsync，Rsync英文全称为Remote synchronization  缩写rsync

    是开源、高速的、可实现本地以及远程，全量以及增量的数据复制（拷贝）工具。

    官方链接资料：http://www.samba.org/ftp/rsync/rsync.html

2、rsync的作用

      工作中需要定时/实时数据备份。本地服务器目录、不同机器、

      不同机房之间的数据备份。都可以用rsync完成。

3、rsync功能特性

 支持拷贝普通文件与特殊文件，如链接文件，设备文件等。

 支持排除指定文件或目录同步的功能，相当于打包命令tar的排除功能。

 可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。

 可实现增量复制，既只复制发生变化的数据，因此数据传输效率很高。

 可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件（rsync本身不对数据加密）。

 可以通过socket(进程方式)传输文件和数据（服务端和客户端）*。

 支持匿名或认证（无需系统用户）进程模式传输，安全的进行数据备份及镜像

4、增量复制原理

    使用 quick check算法，只对增量的部分复制，根据大小属性的变化进行复制。

    2.x比对差异后复制，3.x一边比对一边复制。

    https://coolshell.cn/articles/7425.html

5、rsync三种工作模式介绍

      1）本地（local）

      rsync就是一个命令

      rsync       [OPTION...]       SRC...     [DEST]

      rsync命令 参数选项  [源目录或文件]   目的目录或文件

命令操作：

    rsync命令

    a.把数据从一个地方复制到另一个地方（仅在一台机器增量）,相当于cp。

    b.通过加参数实现删除文件和清空文件内容的功能，相当于rm命令。

    c.查看属性信息功能，相当于ls。

6，拉门 推：

pull,拉：从远端拉取到本地。

语法：

rsync     [OPTION...] [USER@]HOST:SRC...             [DEST]

rsync命令 参数选项 [认证用户]@[主机地址]:[源路径] 本地路径

              语法：

push,推：从本地推到远端。

rsync     [OPTION...]  SRC... [USER@]HOST:[DEST]       

rsync命令 参数选项 本地路径 [认证用户]@[主机地址]:[目标路径]

7、rsync命令参数

rsync命令参数：

-v, --verbose  显示输出过程

-z, --compress 压缩

-a, --archive  多参数集合(-rtopgDl)

-r, --recursive 递归

-t, --times    保持修改时间属性

-o, --owner    保持属主不变

-p, --perms    保持权限不变

-g, --group    保持用户组不变

-l, --links    保持拷贝软连接

-q, --quiet    安静的拷贝

--bwlimit=KBPS 限制I/O带宽，KBytes per second。

--delete      删除

--exclude      排除

--exclude-from 从文件中排除

8、rsync守护进程模式应用实践

1）以下操作都是在backup服务器

Rsync安装

# rsync --version

rsync  version 3.1.2  protocol version 31

# yum install rsync（不需要）

2）配置配置文件/etc/rsyncd.conf

备份

cp /etc/rsyncd.conf{,.ori}

cat>/etc/rsyncd.conf<<EOF

#rsync_config_______________start

#created by oldboy

#site: http://www.oldboyedu.com

uid = rsync

gid = rsync

use chroot = no

fake super = yes

max connections = 200

timeout = 600

pid file = /var/run/rsyncd.pid

lock file = /var/run/rsync.lock

log file = /var/log/rsyncd.log

ignore errors

read only = false

list = false

hosts allow = 172.16.1.0/24

hosts deny = 0.0.0.0/32

auth users = rsync_backup

secrets file = /etc/rsync.password

[backup]

comment = welcome to oldboyedu backup!

path = /backup/

EOF

配置配置文件/etc/rsyncd.conf释义：

#rsync_config_______________start

#created by oldboy

#site: http://www.oldboyedu.com

uid = rsync  ==============>>>>管理备份目录的用户

gid = rsync  ==============>>>>管理备份目录的用户组

use chroot = no  ==============>>>>安全功能.数据是否锁定到备份目录

max connections = 200  ==============>>>>并发连接.同时多少客户端访问

timeout = 600    ==============>>>>超时时间

fake super = yes  ==============>>>>虚拟超级用户可以访问

pid file = /var/run/rsyncd.pid  ==============>>>>进程所在文件

lock file = /var/run/rsync.lock  ==============>>>>锁文件

log file = /var/log/rsyncd.log  ==============>>>>U志文件，查看报错等

ignore errors  ==============>>>>忽略错误

read only = false  ==============>>>>可写

list = false  ==============>>>>不允许列表

hosts allow = 172.16.1.0/24  ==============>>>>哪些主机可以访问

hosts deny = 0.0.0.0/32  ==============>>>>哪些主机不可以访问

auth users = rsync_backup  ==============>>>>远程虚拟连接用户

secrets file = /etc/rsync.password    =====>>>>存放密码的文件 格式 用户名 密码:权限必须600

[backup]    ==============>>>>[模块名]远程访问使用模块名访问

comment = welcome to oldboyedu backup!  ==============>>>>说明注释

path = /backup/  ==============>>>>服务端用户备份的目录.用户和组，rsync.rsync

创建用户和备份目录

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

3）启动和检查

rsync --daemon（c6及以前）

systemctl start rsyncd    =======>>>>启动rsyncd

systemctl enable rsyncd  =======>>>>开机自启rsyncd

systemctl status rsyncd  =======>>>>查看rsyncd

[root@backup ~]#ps -ef|grep sync|grep -v grep      #检查进程

root      7521      1  0 11:39 ?        00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873      #检查端口

tcp        0      0 0.0.0.0:873            0.0.0.0:*              LISTEN      7521/rsync         

tcp6      0      0 :::873                  :::*                    LISTEN      7521/rsync

[root@backup ~]# lsof -i :873          #检查端口

COMMAND  PID USER  FD  TYPE DEVICE SIZE/OFF NODE NAME

rsync  7521 root    3u  IPv4  41439      0t0  TCP *:rsync (LISTEN)

rsync  7521 root    5u  IPv6  41440      0t0  TCP *:rsync (LISTEN)

面试题：如何查看某端口对应什么服务？答案就是上面两个。

4）配置密码文件

[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password

[root@backup ~]# chmod 600 /etc/rsync.password

rsync服务端配置backup完成。

以下操作都是在客户端服务器

以下方法2选1

方法1：认证密码文件

[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password

[root@nfs01 ~]# chmod 600 /etc/rsync.password

方法2：

[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc

[root@nfs01 ~]# tail -1 /etc/bashrc

export RSYNC_PASSWORD=oldboy

[root@nfs01 ~]# . /etc/bashrc

[root@nfs01 ~]# echo $RSYNC_PASSWORD

oldboy

rsync客户端 nfs01 配置完成

守护进程模式，客户端rsync的命令语法：

配置服务器端守护进程，实现数据传输：

1、服务器端守护进程。2、客户端执行命令。

        拉门、推门 思考：

pull,拉：从远端拉取到本地。

语法1（常用）：

rsync     [OPTION...] [USER@]HOST::SRC...                 [DEST]

rsync命令 参数选项 [虚拟用户]@[主机地址]::[模块名]     本地路径

语法2:

rsync     [OPTION...] rsync://[USER@]HOST::SRC...               [DEST]

rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径

push,推：从本地推到远端。

语法1（常用）：       

rsync     [OPTION...]   [DEST]        [USER@]HOST::SRC...                

rsync命令 参数选项   本地路径      [虚拟用户]@[主机地址]::[模块名]    

语法2:         

rsync     [OPTION...]   [DEST] rsync://[USER@]HOST::SRC...            

rsync命令 参数选项   本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]