rsync+inotify实时数据的同步实例
一、rsync+inotify的组合为什么会出现??
rsync缺陷:
1、由于rsync在实施大量数据备份时,工作方式是扫描整个数据文 件,其实发生更改 的只是一小部分,导致过多的占用系统资源。
2、rsync不能实时的去监测、同步数据,虽然它可以通过linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据 可能出现不一致,无法在应用故障时完全的恢复数据。
inotify优点:
Inotify 是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起,加入了Inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。 rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题。
二、安装inotify工具inotify-tools并简单解释基本用法
1、安装inotify得条件:内核版本必须得在2.6.13以上的版本才支持。
2、判断当前版本是否支持安装inotify
# uname -r
2.6.32-431.el6.x86_64 (看下内核版本)
或
# ll /proc/sys/fs/inotify(看下有没有下面这三个文件如果有则说明支持inotify)
total 0
-rw-r--r-- 1 root root 0 Aug 17 12:03 max_queued_events
-rw-r--r-- 1 root root 0 Aug 17 12:03 max_user_instances
-rw-r--r-- 1 root root 0 Aug 17 12:03 max_user_watches
3、安装inotify
(1)编译安装
下载源码包:http://inotify-tools.sourceforge.net(从其他地方下载也可以)
#tar xf inotify-tools-3.14.tar.gz
#cd inotify-tools-3.14
#./conifgure
#make && make install
# ll /usr/local/bin/inotifywa*(查看下是否生成了这两个文件)
-rwxr-xr-x 1 root root 44271 Aug 17 12:15 /usr/local/bin/inotifywait
-rwxr-xr-x 1 root root 41361 Aug 17 12:15 /usr/local/bin/inotifywatch
(2)yum安装
#yum install inotify-tools
(这里不做说明)
这里对生成的inotifywait和inotifywatch作下说明
inotify-tools安装完成后,会生成inotifywait和inotifywatch两个指令,其中,inotifywait用于等待文件或文件集上的一个特定事件,它可以监控任何文件和目录设置,并且可以递归地监控整个目录树。
inotifywatch用于收集被监控的文件系统统计数据,包括每个inotify事件发生多少次等信息
4、 inotify相关参数
inotify定义了下列的接口参数,可以用来限制inotify消耗kernel memory的大小。由于这些参数都是内存参数,因此,可以根据应用需求,实时的调节其大小。下面分别做简单介绍。
/proc/sys/fs/inotify/max_queued_evnets
表示调用inotify_init时分配给inotify instance中可排队的event的数目的最大值,超出这个值的事件被丢弃,但会触发IN_Q_OVERFLOW事件。
/proc/sys/fs/inotify/max_user_instances
表示每一个real user ID可创建的inotify instatnces的数量上限。
/proc/sys/fs/inotify/max_user_watches
表示每个inotify instatnces可监控的最大目录数量。如果监控的文件数目巨大,需要根据情况,适当增加此值的大小,例如:
echo 30000000 > /proc/sys/fs/inotify/max_user_watches
5、 inotifywait相关参数
Inotifywait是一个监控等待事件,可以配合shell脚本使用它,下面介绍一下常用的一些参数:
-m, 即--monitor,表示始终保持事件监听状态。
-r, 即--recursive,表示递归查询目录。
-q, 即--quiet,表示打印出监控事件。
-e, 即--event,通过此参数可以指定要监控的事件,常见的事件有modify、delete、create、attrib等。