2019-04-19实时备份

实时备份:


周期性数据备份示意图:

利用实时复制方式,实现实时备份重要数据信息。

实时复制是企业数据备份最重要的方式,主要用于提交的数据备份,对于用户提交到服务器上的普通文件(压缩包、视频、文档等),可采用inotify/sersync+rsync实时备份方式,对于数据文件还有较复杂的分布式存储工具自身可以实现将数据同时备份成多份。

普通数据文件实时备份示意图:


实时复制细节实现说明: 

(1)实时复制软件会监控磁盘文件系统的变化,比如:指定一个/data目录,实时复制软件服务进程会实时监控这个/data目录中数据的变化,即文件系统block与inode信息的变化。

(2)一旦/data目录文件发生变化,就会执行rsync命令,将变化的数据信息推送到备份服务器相应的备份目录中,从而完成数据的实时备份。


inotify机制介绍:

inotify是一种一步的软件系统事件监控机制,Linux内核从2.6.13起,加入了inotify支持,通过inotify可以监控文件系统中添加、删除、修改、移动等各种事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools正式实施这样监控的软禁。。实际上inotify-tools是一个监控指定目录数据实时变化的软件程序。

inotify程序原理是一种事件机制,它为应用程序监控文件系统事件提供了实时响应事件的机制,可以做到对事件处理的实时响应。

inotify的实现有几款软件:inotify-tools、sersync、lrsyncd。

提示:serync软件在inotify基础上进行开发的,功能要更加强大些,支持配置文件配置,多了定时重试机子,过滤机制,提供接口做CDN数据更新,支持多线程操作。

inotify机制优点:

监控文件文件系统事件变化,通过复制工具实现实时数据复制。

支持多线程实时复制。

inotify机制缺点:

实测并发如果大于200个文件(10-100K),复制会有延迟。


不管是inotify-tools还是sersync,本身的核心功能都只是,监控指定目录内的数据变化,具体的复制到远端服务器的功能了,还是需要rsync工具配合的,这些软件几乎都是inotify机制接口智商的软件封装,软件具体工作机制流程为:

(1)备份源客户端开启运行inotify软件服务进程,检测指定目录的文件系统变化。

(2)一旦获取到指定监控的目录的数据发生变化,即执行rsync命令复制数据。

(3)将变化的数据发送到rsync服务端(也可执行scp,rsync远程Shell模式)的备份目录中。


[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy

[root@nfs01 ~]# rsync -avz /data rsync_backup@172.16.1.41::backup/
sending incremental file list
data/
data/oldboy.txt
data/oldgirl.txt

sent 213 bytes  received 66 bytes  186.00 bytes/sec
total size is 0  speedup is 0.00

[root@nfs01 ~]# uname -r              ###查看内核
3.10.0-957.el7.x86_64

[root@nfs01 ~]# ls -l /proc/sys/fs/inotify/           #####inotify配置文件
total 0
-rw-r--r-- 1 root root 0 Apr 19 09:45 max_queued_events
-rw-r--r-- 1 root root 0 Apr 19 09:45 max_user_instances
-rw-r--r-- 1 root root 0 Apr 19 09:45 max_user_watches

max_user_watches:设置inotifywait或inotifywatch命令可以见识的文件数量(单进程)
max_user_instances:设置每个用户可以运行的inotifywait或inotifywatch 命令的进程数
max_queued_events:设置inotify实例时间(event)队列可容纳的时间数量

安装:yum install inotify-tools -y

安装:yum install inotify-tools -y

[root@nfs01 ~]# rpm -ql inotify-tools|head -2

/usr/bin/inotifywait
/usr/bin/inotifywatch

[root@nfs01 ~]# rpm -qa inotify-tools
inotify-tools-3.14-8.el7.x86_64

inotify-tools工具主要命令

在inotify-tools软件部署完毕后,主要应用两个命令实现数据信息的监控,一个利用inotifywait命令实现对数据变化时间的监控,另一个利用inotifywatch命令实现对数据时间信息统计。这两个命令是能够应用好inotify-tools软件的关键,下面对这两个软件说明如下:

(1)inotifywait:在被监控的目录等等待特定文件系统事件(open、close、delete等)发生,执行后处于阻塞状态,适合在Shell脚本中使用,此命令是重点。

(2)inotifywatch:收集被监控的文件系统使用的统计数据,指文件系统事件发生的次数统计。

inotifywait命令参数:


-e的参数:


测试实践:

inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e create /data

时间格式:


手工测试监控目录增删改查的命令:


企业实战调整:


sersync 的优点:

1)使用c++编写,对Linux系统文件产生的临时文件和重复的文件操作会进行过滤,在结合rsync复制的时候,会减少运行时消耗的本地及网络资源,因此速度更快。

(2)使用多线程进行复制(即可以并发复制多个不同文件),尤其是复制较大文件时,能够保证多个服务器实时保持复制状态。

(3)sersync自带出错出路机制,通过失败队列对出错的文件重新复制,如果仍然失败,则每若干个小时对复制失败的文件再重新复制。

(4)sersync自带crontab功能,只需在xml配置文件中开启,即可按预先的配置,隔一段时间整体复制一次。

(5)sersync自带socket与http的协议扩展,可以满足有特殊需求的公司二次开发。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,406评论 6 503
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,732评论 3 393
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,711评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,380评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,432评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,301评论 1 301
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,145评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,008评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,443评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,649评论 3 334
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,795评论 1 347
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,501评论 5 345
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,119评论 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,731评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,865评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,899评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,724评论 2 354

推荐阅读更多精彩内容