rsync+inotify-tools 實時同步

rsync 的六種工作模式

rsync [option] src dest 

1)拷貝本地文件。當src 和des 路徑信息都不包含有單個冒號”:“ 分隔符時就啓動這種工作模式。如:rsync -a /date /backup

rsync [option] src [user@]host:dest 

2)使用一個遠程shell 程序(如rsh、ssh) 來實現本地機器的內容拷貝到遠程機器,當dst路徑地址包含單個冒號“:”分隔符時啓動該模式。如:rsync -avz *.C foo:src

rsync [option] [user@]host:src dest

3)使用一個遠程shell 程序(如rsh、ssh)來實現將遠程的內容拷貝到本地機器。當src地址路徑包含單個冒號“:”分隔時啓動該模式。如:rsync -avz foo:src/bar /date

rsync [option] [user@]host::src dest

4)、從遠程rsync 服務器中拷貝文件到本地機。當src路徑信息包含“::”分隔符啓動該模式。如:rsync -av [email protected]::www /databack 

rsync [option] src[user@]host::dest

5)從本地機器拷貝文件到遠程rsync服務器中,當dst路徑信息“::” 分隔符時啓動該模式。如:rsync -av /databack [email protected]::www

rsync [option] rsync://[user@]host[:port]/src[dest]

6)列遠程機的文件列表,這類型與rsync 傳輸,不過只要在命令中省略到本機信息即可。如:rsync -v rsync://172.16.78.192/www

rsync參數的具體解釋如下: 
-v --verbose 詳細模式輸出

-q --quiet 精簡輸出模式

-c --checksum 打開效驗開關,強制對文件傳輸進程效驗

-a --archive 對子目錄以地規模處理

-r --recursive 對子目錄以遞歸模式處理

-R --relative 使用相對路徑信息

-b --backup 創建備份,也就是相對於目的已經存在有同樣的文件名時,將老的文件重新命名爲~filename。可以使用--suffix 選項來指定不同的備份文件前綴

--backup-dir 將備份文件(如:~filename)存放在在目錄下。

-suffix=SUFFIX定義備份文件前綴

-u --updata 僅僅進行更新,也就是跳過所有已經存在的dst 並且文件時間晚於備份的文件(不覆蓋更新的文件)

-l --links 保留軟連接

-L --copy-links 相對待常規文件一樣的處理軟連接

--copy-unsafe-links 僅僅拷貝指向src 路徑樹以外的連接

--safe-links 忽略指向src路徑目錄樹以外的連接

-H --hard-links 保留硬鏈接

-p --perms 保持文件權限

-o --owner 保持文件屬主信息

-g --group 保持文件數組信息

-D --devices 保持文件設備文件信息

-t --times 保持文件時間信息

-S --sparse 對稀疏文件進程特殊處理以節省dst的空間

-n --dry-run 現實那些文件將被傳輸

-W --whole-file 拷貝文件,不進行行增量檢測

-x --one-file-system 不要跨越文件系統邊界

-B --block-size=SIZE 效驗算法使用的快尺寸。模式是700字節

-e --rsh=CONNAND 制定使用rsh、ssh 方式進程數據同步

--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息

-C --cvs-exclude 使用和cvs 一樣的方法自動忽略文件,用來排除那些不希望傳輸的文件

--existing 僅僅更新那些已經存在於dst 的文件而不備份那些新的創建的文件

--delete 刪除那些dst的src沒有的文件

--delete-excluded 同樣刪除接收端那些被該選項制定排除的文件

--delete-after 傳輸結束以後再刪除

--ignore-erros 及時出現io錯誤也進行刪除

--max-delete=NUM 最多刪除的NUM個文件

--partial 保留那些因故沒有完全傳輸的文件,以是加快隨後的再次傳輸 
--force 強制刪除目錄,即使不爲空 
--numeric-ids 不將數字的用戶和組ID匹配爲用戶名和組名 
--timeout=TIME IP超時時間,單位爲秒 
-I, --ignore-times 不跳過那些有同樣的時間和長度的文件 
--size-only 當決定是否要備份文件時,僅僅察看文件大小而不考慮文件時間 
--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口,默認爲0 
-T --temp-dir=DIR 在DIR中創建臨時文件 
--compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份 
-P 等同於 --partial 
--progress 顯示備份過程 
-z, --compress 對備份的文件在傳輸時進行壓縮處理 
--exclude=PATTERN 指定排除不需要傳輸的文件模式 
--include=PATTERN 指定不排除而需要傳輸的文件模式 
--exclude-from=FILE 排除FILE中指定模式的文件 
--include-from=FILE 不排除FILE指定模式匹配的文件 
--version 打印版本信息 
--address 綁定到特定的地址 
--config=FILE 指定其他的配置文件,不使用默認的rsyncd.conf文件 
--port=PORT 指定其他的rsync服務端口 
--blocking-io 對遠程shell使用阻塞IO 
-stats 給出某些文件的傳輸狀態 
--progress 在傳輸時現實傳輸過程 
--log-format=formAT 指定日誌文件格式 
--password-file=FILE 從FILE中得到密碼 
--bwlimit=KBPS 限制I/O帶寬,KBytes per second 
-h, --help 顯示幫助信息


一、實驗環境

inotify-master   192.168.3.153

inotify-slave      192.168.3.154

二、安裝部署

1.新建rsync用戶及模塊目錄並更改其用戶組

[root@inotify-slave mail]# useradd rsync -s /sbin/nologin  -M #添加rsync用戶

[root@inotify-slave mail]# grep rsync /etc/passwd
rsync:x:2004:2004::/home/rsync:/sbin/nologin
[root@inotify-slave mail]# mkdir /backup   #創建rsync daemon工作模式的模塊目錄
[root@inotify-slave mail]# ll -d /backup/
drwxr-xr-x. 2 root root 4096 4月  22 14:13 /backup/
[root@inotify-slave mail]# chown rsync.rsync /backup/   #更改模塊目錄的用戶組
[root@inotify-slave mail]# ll -d /backup/
drwxr-xr-x. 2 rsync rsync 4096 4月  22 14:13 /backup/

2.編寫rsync daemon配置文件/etc/rsyncd.conf

[root@inotify-slave /]# cat /etc/rsyncd.conf

##rsyncd.conf start##
#工作中指定用戶(需要指定用戶)
uid = rsync
gid = rsync
#相當於黑洞.出錯定位
use chroot = no
#有多少個客戶端同時傳文件
max connections = 200
#超時時間
timeout = 300
#進程號文件
pid file = /var/run/rsyncd.pid
#日誌文件
lock file = /var/run/rsync.lock
#日誌文件
log file = /var/log/rsyncd.log
#模塊開始
#這個模塊對應的是推送目錄
#模塊名稱隨便起
[backup]
#需要同步的目錄
path = /backup/
#表示出現錯誤忽略錯誤
ignore errors
#表示網絡權限可寫(本地控制真正可寫)
read only = false
#這裏設置IP或讓不讓同步
list = false
#指定允許的網段
hosts allow = 192.168.3.0/24
#拒絕鏈接的地址,一下表示沒有拒絕的鏈接。
hosts deny = 0.0.0.0/32
#不要動的東西(默認情況)
#虛擬用戶
auth users = rsync_backup
#虛擬用戶的密碼文件
secrets file = /etc/rsync.password
#配置文件的結尾
#rsync_config_______________end


3. 配置虛擬用戶的密碼文件
 

[root@inotify-slave /]# echo "rsync_backup:leesir" >/etc/rsync.password

[root@inotify-slave /]# cat /etc/rsync.password
rsync_backup:leesir   #注:rsync_backup爲虛擬用戶,leesir爲這個虛擬用戶的密碼
[root@inotify-slave /]# chmod 600 /etc/rsync.password #爲密碼文件提權,增加安全性
[root@inotify-slave /]# ll /etc/rsync.password
-rw-------. 1 root root 20 4月  22 14:20 /etc/rsync.password

4.啓動rsync 服務
 

[root@inotify-slave /]# rsync --daemon   #啓動rsync服務

[root@inotify-slave /]# ps -ef |grep rsync
root     14871     1  0 14:24 ?        00:00:00 rsync --daemon
root     14873 14788  0 14:24 pts/0    00:00:00 grep rsync
[root@inotify-slave /]# netstat -lnutp |grep rsync
tcp        0      0 0.0.0.0:873                 0.0.0.0:*                   LISTEN      14871/rsync
tcp        0      0 :::873                      :::*                        LISTEN      14871/rsync

5.inotify-master配置密碼文件,測試推送


[root@inotify-master ~]# echo "leesir" >/etc/rsync.password
[root@inotify-master ~]# cat /etc/rsync.password
leesir   #注意:這裏只要寫密碼即可,切記。
[root@inotify-master ~]# chmod 600 /etc/rsync.password
[root@inotify-master ~]# ll /etc/rsync.password
-rw------- 1 root root 7 4月  22 14:32 /etc/rsync.password
[root@inotify-master ~]# echo "hello leesir">test.txt
[root@inotify-master ~]# cat test.txt
hello leesir
[root@inotify-master ~]# rsync -avz test.txt [email protected]::backup --password-file=/etc/rsync.password
sending incremental file list
test.txt
sent 82 bytes  received 27 bytes  72.67 bytes/sec
total size is 13  speedup is 0.12

6.inotify-slave檢查:

ll /backup/

-rw-r--r--. 1 rsync rsync 13 4月  22 14:34 test.txt
[root@inotify-slave /]# cat /backup/test.txt
hello leesir

7 inotify-master部署

注:

inotify是rsync客戶端安裝和執行的

企業場景壓力測試200-300個同步限制,受網卡,磁盤,帶寬等的制約。

8  查看當前系統是否支持inotify


[root@inotify-master ~]# ll /proc/sys/fs/inotify/
總用量 0
-rw-r--r-- 1 root root 0 4月  22 14:56 max_queued_events
-rw-r--r-- 1 root root 0 4月  22 14:56 max_user_instances
-rw-r--r-- 1 root root 0 4月  22 14:56 max_user_watches
#顯示這三個文件則證明支持。

9. 下載inotify源碼包並編譯安裝

root@inotify-master tools]# ll inotify-tools-3.14.tar.gz
-rw-r--r-- 1 root root 358772 3月  14 2010 inotify-tools-3.14.tar.gz
[root@inotify-master tools]# tar zxf inotify-tools-3.14.tar.gz
[root@inotify-master tools]# cd inotify-tools-3.14
[root@inotify-master inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify-3.14 #配置inotify,並指定安裝路徑爲/usr/local/inotify-3.14
................................
[root@inotify-master inotify-tools-3.14]# make && make install

10.編寫監控腳本並加載到後臺執行

[root@inotify-master scripts]# cat inotify.sh
#!/bin/bash
#para
host01=192.168.3.154  #inotify-slave的ip地址
src=/backup/        #本地監控的目錄
dst=backup         #inotify-slave的rsync服務的模塊名
user=rsync_backup      #inotify-slave的rsync服務的虛擬用戶
rsync_passfile=/etc/rsync.password   #本地調用rsync服務的密碼文件
inotify_home=/usr/local/inotify-3.14    #inotify的安裝目錄
#judge
if [ ! -e "$src" ] \
|| [ ! -e "${rsync_passfile}" ] \
|| [ ! -e "${inotify_home}/bin/inotifywait" ] \
|| [ ! -e "/usr/bin/rsync" ];
then
echo "Check File and Folder"
exit 9
fi
${inotify_home}/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e close_write,delete,create,attrib $src \
| while read file
do
#  rsync -avzP --delete --timeout=100 --password-file=${rsync_passfile} $src $user@$host01::$dst >/dev/null 2>&1
cd $src && rsync -aruz -R --delete ./  --timeout=100 $user@$host01::$dst --password-file=${rsync_passfile} >/dev/null 2>&1
done
exit 0
[root@inotify-master scripts]# sh inotify.sh &  #將腳本加入後臺執行
[1] 13438
[root@inotify-master scripts]#

11. inotify-master操作:
 

cd /backup/

[root@inotify-master backup]# ll
總用量 0
[root@inotify-master backup]# for a in `seq 200`;do touch $a;done  #創建200個文件
[root@inotify-master backup]# ll  --time-style=full-iso

inotify-slave檢查

[root@inotify-slave backup]# ll  --time-style=full-iso

總結:

1、inotify+tools 部署在master上部署腳步也在master 上編寫
 

2、一定在inotify.sh啓動腳步後看是是否同步









發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章