什么是实时同步
为什么要实时同步
实时同步的原理
实时同步的场景
实时同步工具选择
实时同步案例演示
一、什么是实时同步
实时同步就是监控一个目录的变化,当该目录出发事件(创建/删除/修改)就执行动作,这个动作可以是rsync同步,也可以是其他。并将其同步至远程服务端。
二、为什们要实时同步
- ① 能解决nfs单点故障问题
- ② 能狗让本地快速切换至云端
三、实时同步原理
借助一个通知接口,inotify,inotify监控本地主机的时间(创建/删除/修改),则通知执行动作,这个动作可以是rsync同步
实时同步实现及工作原理
① 实时监控同步数据目录信息变化;
② 监控目录发生变化进行数据推送。
实时同步监控服务器部署过程,(inotify服务);实时同步备份服务器部署过程(rsync服务)
① 创建要存储数据的目录
② 利用实时同步的软件监控我们进行备份的数据目录
③ 利用rsync服务进行数据推送传输备份(一般是监控存储服务器上的目录,想rsync备份服务器进行同步)
四、实时同步的场景
-
能解决nfs单点故障问题
- 能够让本地快速切换至云端
五、实时同步工具选择
- 1)inotify+rsync实现 写脚本来实现监控 放在后台screen
① 脚本
② 同步 - 2)sersync实时同步
- 3)lsyncd
https://github.com/wsgzao/sersync
六、实时同步案例演示
- 1)规划
① web httpd/php
② nfs nfs-server inotify rsync sersync
③ backup rsync-server nfs-server -
2)实现web上传视频,自动存储至NFS
NFS服务端 10.0.0.31 172.16.1.31
① 安装nfs
[root@nfs~]# yum install nfs-utils -y
② 配置
[root@nfs~]# cat /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
③ 根据配置创建初始环境
[root@nfs~]# groupadd -g 666 www
[root@nfs~]# useradd -u666 -g666 www
[root@nfs~]# mkdir /data
[root@nfs~]# chown -R www.www /data/
④ 重新启动nfs服务
[root@nfs~]# systemctl start nfs-server(初次启动时使用start,重新启动时使用restart)
[root@nfs~]# systemctl enable nfs-server
WEB服务端操作 10.0.0.7 172.1.16.7
① 安装httpd/php
[root@web~]# yum install httpd php -y
② 配置httpd和php
③ 启动httpd
[root@web~]# systemctl start httpd
④ 模拟测试
⑤ web进行挂载,上传代码
[root@web~]# showmount -e 172.16.1.31 ------->查看需要挂载的列表
[root@web~]# mount -t nfs 172.16.1.31:/data /var/www/html/
[root@web~]# cd /var/www/html/
[root@web/var/www/html]# rz kaoshi.zip
[root@web/var/www/html]# unzip kaoshi.zip
PS:如出现错误要查看日志
[root@web/var/www/html]# tail -f /var/log/httpd/error_log
当NFS的目录发生变化,则触发同步(实时同步)
① 怎么监控/data inotify
② 同步给谁rsync ----->backup服务器 [backup模块] [data模块]
rsync备份端操作 10.0.0.41 172.16.1.41
① 安装rsync服务
[root@backup~]# yum install rsync -y
② 配置rsync
[root@backup~]# cat /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[backup]
comment = welcome to oldboyedu backup!
path = /backup
[data]
path = /data
③ 根据rsync配置初始化环境
[root@backup~]# groupadd rsync
[root@backup~]# useradd -M -s /sbin/nologin -g rsync rsync
[root@backup~]# echo "rsync_backup:123456" > /etc/rsync.passwd
[root@backup~]# chmod 600 /etc/rsync.passwd
[root@backup~]# mkdir /backup /data -p
[root@backup~]# chown -R rsync.rsync /backup/ /data/
④ 启动rsyncd
[root@backup~]# systemctl start rsyncd
[root@backup~]# systemctl enable rsyncd
nfs服务配置 10.0.0.31 172.16.1.31
① 安装rsync inotify
[root@nfs~]# yum install rsync inotify-tools -y
② 安装sersync
[root@nfs ~]# wget https://github.com/wsgzao/sersync/raw/master/sersync2.5.4_64bit_binary_stable_final.tar.gz
[root@nfs~]# tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz -C /usr/local/
[root@nfs~]# mv /usr/local/GNU-Linux-x86/ /usr/local/sersync
[root@nfs~]# file /usr/local/sersync/confxml.xml
[root@nfs~]# echo "123456" > /etc/rsync.pass
[root@nfs~]# chmod 600 /etc/rsync.pass
③ 启动sersync
[root@nfs/usr/local/sersync]# /usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xmld
⑤ 检查
[root@nfs01 sersync]# vim confxml.xml
5 <fileSystem xfs="true"/> <!-- 文件系统 -->
6 <filter start="false"> <!-- 排除不想同步的文件-->
7 <exclude expression="(.*)\.svn"></exclude>
8 <exclude expression="(.*)\.gz"></exclude>
9 <exclude expression="^info/*"></exclude>
10 <exclude expression="^static/*"></exclude>
11 </filter>
12 <inotify> <!-- 监控的事件类型 -->
13 <delete start="true"/>
14 <createFolder start="true"/>
15 <createFile start="true"/>
16 <closeWrite start="true"/>
17 <moveFrom start="true"/>
18 <moveTo start="true"/>
19 <attrib start="false"/>
20 <modify start="false"/>
21 </inotify>
23 <sersync>
24 <localpath watch="/data"> <!-- 监控的目录 -->
25 <remote ip="172.16.1.41" name="data"/> <!-- backup的IP以及模块 -->
28 </localpath>
29 <rsync> <!-- rsync的选项 -->
30 <commonParams params="-az"/>
31 <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.pass"/>
32 <userDefinedPort start="false" port="874"/><!-- port=874 -->
33 <timeout start="true" time="100"/><!-- timeout=100 -->
34 <ssh start="false"/>
35 </rsync>
<!-- 每60分钟执行一次同步-->
36 <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--def
ault every 60mins execute once-->
模拟NFS故障, web可以快速的切换到backup的NFS服务上?