背景
通常我們在服務器上使用rsync加上crontab來定時地完成一些同步、備份文件的任務。隨著業務和應用需求的不斷擴大、實時性要求越來越高。一般rsync是通過校驗所有文件后,進行差量同步,如果文件量十分龐大,那么rsync進行校驗的過程也是十分耗時的。而且正在發生變化的往往是其中很少的一部分,這是非常低效的方式。其次,rsync不能實時的去監測、同步數據,雖然它可以通過crontab方式進行觸 發同步,但是兩次觸發動作一定會有時間差,這樣就導致了服務端和客戶端數據可能出現不一致,無法在應用故障時完全的恢復數據。而Sersync+Rsync的組合能夠較好地解決這種問題。
Sersync介紹
1、sersync是使用c++編寫,而且對linux系統文 件系統產生的臨時文件和重復的文件操作進行過濾(詳細見附錄,這個過濾腳本程序沒有實現),所以在結合rsync同步的時候,節省了運行時耗和網絡資源。 因此更快。
2、sersync配置起來很簡單,其中bin目錄下已經有基本上靜態編譯的2進制文件,配合bin目錄下的xml配置文件直接使用即可。
3、另外本項目相比較其他腳本開源項目,使用多線程進行同步,尤其在同步較大文件時,能夠保證多個服務器實時保持同步狀 態。
4、本項目有出錯處理機制,通過失敗隊列對出錯的文件重新同步,如果仍舊失敗,則每10個小時對同步失敗的文件重新同步。
5、本項目自帶crontab功能,只需在xml配置文件中開啟,即可按您的要求,隔一段時間整體同步一次。無需再額外配置crontab功能。
6、本項目socket與http插件擴展,滿足您二次開發的需要。
實戰過程
一、服務器環境
服務端:172.16.57.26 centos6.7 rsync-server 接收文件
客戶端:172.16.57.25 centos6.7 sersync+rsync-client 發送文件
二、服務端安裝rsync-server
1、安裝rsync
# rpm -qa | grep rsync #查看rsync是否已經安裝,如果沒有安裝,yum install直接安裝即可
2、使用xinetd方式啟動rsync
1
|
# vim /etc/xinetd.d/rsync #修改disable = no,flags = IPv4 |
3、修改rsync配置文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
|
# mkdir /etc/rsyncd # vim /etc/rsyncd/rsyncd.conf #修改配置文件如下 # GLOBAL OPTIONS motd file=/etc/motd port=873 pid file=/var/run/rsyncd.pid lock file = /var/lock/rsyncd log file=/var/ log /rsyncd transfer logging = yes log format = [op]:%o [ip]:%a [module]:%m [path]:%P [file]:%f [size]:%l syslog facility=daemon max connections=100 [recv] comment = "recv data from 57.25" path = /opt/rsync_data/recv #這邊的目錄的宿主要改為apprun,在這里同步過程中使用的是普通賬戶apprun list = yes use chroot = yes uid = apprun gid = apprun read only = no write only = no exclude = include = auth users = rsync secrets file = /etc/rsyncd/rsyncd.secrets strict modes = yes hosts allow = 172.16.57.25 hosts deny = * # ln -s /etc/rsyncd/rsyncd.conf /etc/rsyncd.conf |
4、建立用戶認證文件
1
2
3
|
# vim /etc/rsyncd/rsyncd.secrets rsync:111111 #格式 用戶名:口令 #chmod 600 /etc/rsyncd/rsyncd.secrets #權限設為600,否則啟動會報錯 |
5、啟動rsync
1
2
|
# /etc/init.d/xinetd start # netstat -tpln | grep 873 #查看873端口是否已經在監聽了 |
三、客戶端安裝sersync+rsync-client
1、安裝rsync,和服務端一樣,沒有安裝的話yum install安裝
2、安裝sersync
1
2
|
# tar xzvf sersync2.5_64bit_binary_stable_final.tar.gz # mv GNU-Linux-x86 /opt/programs/sersync #解壓并拷貝到安裝目錄 |
3、配置sersync
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
|
<?xml version= "1.0" encoding= "ISO-8859-1" ?> <head version= "2.5" > <host hostip= "localhost" port= "8008" ></host> <debug start= "false" /> <fileSystem xfs= "false" /> <filter start= "false" > <exclude expression= "(.*)\.svn" ></exclude> <exclude expression= "(.*)\.gz" ></exclude> <exclude expression= "^info/*" ></exclude> <exclude expression= "^static/*" ></exclude> </filter> <inotify> < delete start= "true" /> <createFolder start= "true" /> <createFile start= "true" /> <closeWrite start= "true" /> <moveFrom start= "true" /> <moveTo start= "true" /> <attrib start= "true" /> <modify start= "true" /> </inotify> <sersync> <localpath watch= "/opt/rsync_data/send" > #監控目錄,一旦本地目錄有文件變化,將同步到服務端 <remote ip= "172.16.57.26" name= "recv" />#服務端ip和同步模塊 </localpath> <rsync> <commonParams params= "-artuz" /> #rsync同步參數 <auth start= "true" users= "rsync" passwordfile= "/etc/rsync.pas" /> #服務端認證密碼 <userDefinedPort start= "false" port= "873" /> <timeout start= "false" time = "100" /><!-- timeout=100 --> <ssh start= "false" /> </rsync> <failLog path= "/tmp/rsync_fail_log.sh" timeToExecute= "60" /><!-- default every 60mins execute once--> <crontab start= "false" schedule= "600" ><!--600mins--> <crontabfilter start= "false" > <exclude expression= "*.php" ></exclude> <exclude expression= "info/*" ></exclude> </crontabfilter> </crontab> <plugin start= "false" name= "command" /> </sersync> </head> |
4、服務端密碼認證
1
2
|
# vim /etc/rsync.pas #在相應的目錄下配置身份驗證文件,里面輸入服務端的密碼,并chmod 600 # chmod 600 /etc/rsync.pas |
5、啟動sersync
1
|
# ./sersync2 -d -o confxml.xml |
四、測試認證
在客戶端下監控目錄/opt/rsync_data/send下添加文件或者刪除,服務端的接受目錄都會實時地進行更新。
在此例中,服務器iptables和selinux均處于關閉狀態。
note: 這種方法同步文件的時候,同步文件的數量如果很多,可能會有部分文件在同步過程中缺失。查閱相關資料后,找到了如下的解決方案。由于本例中,使用的是xinetd方式啟動的rsync服務,在xinetd的配置文件中,修改幾個參數如下:
# vim /etc/xinetd.conf
修改幾個參數:
1
2
3
|
cps = 500 30 instances = UNLIMITED per_source = UNLIMITED |
總結
以上所述是小編給大家介紹的Sersync+Rsync實現觸發式文件同步,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復大家的。在此也非常感謝大家對服務器之家網站的支持!
原文鏈接:http://www.cnblogs.com/bugsbunny/p/7526962.html