利用ssh+rsync+inotify實現數據的異地實時同步

    在服務器中,通常結合計劃任務、shell腳本來執行本地備份。爲了進一步提高備份的可靠性,使用異地備份也是非常重要的,利用rsync工具,可以實現快速、高效的異地備份。本篇博客將配置rsync+crond實現定時備份、配置ssh+rsync+inotify實現觸發式備份


rsync概述

   rsync(Remote Sync,遠程同步)是一個開源的快速備份工具,適用於異地備份、鏡像服務器等。作爲一種最常用的文件備份工具,往往是Linux和UNIX系統默認安裝的基本組件之一

具有以下特性:

(1)可以在不同主機間鏡像同步整個目錄樹和文件系統

(2)可以很容易做到保持原來文件的權限、時間、軟硬鏈接等

(3)支持增量備份

(3)無須特殊權限即可安裝

(4)優化的同步算法,傳輸前執行壓縮,文件傳輸效率高

(5)可以使用 rsh、ssh 方式來傳輸文件

(6)支持匿名傳輸,以方便進行網站鏡象

楊書凡30.png


1. 配置rsync同步源

    rsync作爲同步源時以守護進程運行,爲其他客戶機提供備份源。需要建立rsync.conf,創建備份賬戶   

[root@localhost ~]# vim /etc/rsyncd.conf
uid = nobody
gid = nobody
use chroot = yes                       //禁錮在源目錄
address = 192.168.1.1                  //監聽地址
port 873                               //監聽端口
log file = /var/log/rsyncd.log         //日誌文件位置
pid file = /var/run/rsyncd.pid         //進程ID存放位置
hosts allow = 192.168.1.0/24           //允許訪問的客戶機地址
[wwwroot]                                       //共享模塊名稱
    path = /var/www/html                        //源目錄的路徑
    comment = Document Root of www1.benet.com   //描述信息
    read only = yes                             //是否爲只讀
    dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z   //同步時不在壓縮的文件類型
    auth users = backuper                       //授權賬戶,如果採用匿名賬戶,可以去掉
    secrets file = /etc/rsyncd_users.db         //存放授權賬戶信息的數據文件
    
[root@localhost ~]# vim /etc/rsyncd_users.db    //爲備份賬戶建立數據文件
backuper:123.abc                                //用:分隔賬戶和密碼,無需建立同名系統用戶
[root@localhost ~]# chmod 600 /etc/rsyncd_users.db  //修改權限,避免信息泄露
  
[root@localhost ~]# ls -ld /var/www/html/       //backuper備份用戶需要對源目錄擁有讀取權限
drwxr-xr-x. 3 root root 4096 1月   8 05:28 /var/www/html/
[root@localhost ~]# vim /etc/sysconfig/selinux   //關閉selinux
SELINUX=disabled
[root@localhost ~]# setenforce 0                 //立即生效
[root@localhost ~]# iptables -I INPUT -p tcp --dport 873 -j ACCEPT   //允許tcp873端口通過防火牆
[root@localhost ~]# rsync --daemon               //啓動rsync服務
[root@localhost ~]# netstat -anpt | grep rsync
tcp        0      0 192.168.1.1:873             0.0.0.0:*                   LISTEN      4734/rsync

[root@localhost ~]# kill $(cat /var/run/rsyncd.pid)   //若需要關閉rsync服務,可結束kill進程


2. 在發起端使用rsync備份

(1)rsync命令格式及常用備份選項

rsync  [選項]  原始位置   目標位置

    下面是rsync選項的詳細介紹,具體應根據實際需求進行選擇

-v, --verbose               詳細模式輸出

-q, --quiet                 精簡輸出模式

-c, --checksum              打開校驗開關,強制對文件傳輸進行校驗

-a, --archive               歸檔模式,表示以遞歸方式傳輸文件,並保持所有文件屬性,等於-rlptgoD

-r, --recursive             對子目錄以遞歸模式處理

-R, --relative              使用相對路徑信息

-b, --backup                創建備份,也就是對於目的已經存在有同樣的文件名時,將老的文件重新命名爲~filename。可以使用--suffix選項來指定不同的備份文件前綴。

--backup-dir                將備份文件(~filename)存放在在目錄下。

-suffix=SUFFIX              定義備份文件前綴

-u, --update                僅僅進行更新,也就是跳過所有已經存在於DST,並且文件時間晚於要備份的文件。(不覆蓋更新的文件)

-l, --links                 保留軟鏈接

-L, --copy-links            想對待常規文件一樣處理軟鏈結

--copy-unsafe-links         僅僅拷貝指向SRC路徑目錄樹以外的鏈結

--safe-links                忽略指向SRC路徑目錄樹以外的鏈結

-H, --hard-links            保留硬鏈結

-p, --perms                 保持文件權限

-o, --owner                 保持文件屬主信息

-g, --group                 保持文件屬組信息

-D, --devices               保持設備文件信息

-t, --times                 保持文件時間信息

-S, --sparse                對稀疏文件進行特殊處理以節省DST的空間

-n, --dry-run               現實哪些文件將被傳輸

-W, --whole-file            拷貝文件,不進行增量檢測

-x, --one-file-system       不要跨越文件系統邊界

-B, --block-size=SIZE       檢驗算法使用的塊尺寸,默認是700字節

-e, --rsh=COMMAND           指定使用rshssh方式進行數據同步

--rsync-path=PATH           指定遠程服務器上的rsync命令所在路徑信息

-C, --cvs-exclude           使用和CVS一樣的方法自動忽略文件,用來排除那些不希望傳輸的文件

--existing                  僅僅更新那些已經存在於DST的文件,而不備份那些新創建的文件

--delete                    刪除那些DSTSRC沒有的文件

--delete-excluded           同樣刪除接收端那些被該選項指定排除的文件

--delete-after              傳輸結束以後再刪除

--ignore-errors             及時出現IO錯誤也進行刪除

--max-delete=NUM            最多刪除NUM個文件

--partial                   保留那些因故沒有完全傳輸的文件,以是加快隨後的再次傳輸

--force                     強制刪除目錄,即使不爲空

--numeric-ids               不將數字的用戶和組ID匹配爲用戶名和組名

--timeout=TIME IP           超時時間,單位爲秒

-I, --ignore-times          不跳過那些有同樣的時間和長度的文件

--size-only                 當決定是否要備份文件時,僅僅察看文件大小而不考慮文件時間

--modify-window=NUM         決定文件是否時間相同時使用的時間戳窗口,默認爲0

-T --temp-dir=DIR           DIR中創建臨時文件

--compare-dest=DIR          同樣比較DIR中的文件來決定是否需要備份

-P 等同於 --partial--progress               顯示備份過程

-z, --compress             對備份的文件在傳輸時進行壓縮處理

--exclude=PATTERN          指定排除不需要傳輸的文件模式

--include=PATTERN          指定不排除而需要傳輸的文件模式-

-exclude-from=FILE         排除FILE中指定模式的文件

--include-from=FILE        不排除FILE指定模式匹配的文件

--version                  打印版本信息

--address                  綁定到特定的地址

--config=FILE              指定其他的配置文件,不使用默認的rsyncd.conf文件

--port=PORT                指定其他的rsync服務端口

--blocking-io              對遠程shell使用阻塞IO

-stats                     給出某些文件的傳輸狀態

--progress                 在傳輸時現實傳輸過程

--log-format=formAT        指定日誌文件格式

--password-file=FILE       FILE中得到密碼

--bwlimit=KBPS             限制I/O帶寬,KBytes per second-h, 

--help                     顯示幫助信息


(2)配置源的表示方法

    rsync同步源的資源表示方法有兩種:

方法一:用戶名@主機地址::共享模塊名

方法二:rsync://用戶名@主機地址/共享模塊名


例如:執行以下操作將訪問同步源,並下載到本地目錄/root下進行備份

[root@localhost ~]# rsync -avz [email protected]::wwwroot /root   //兩種操作達成效果一樣
Password: 
[root@localhost ~]# rsync -avz rsync://[email protected]/wwwroot /root
Password:



配置rsync+crond定時備份

   在實際生產環境中,備份工作通常是按計劃重複執行的,可以結合crond服務來定期執行備份計劃

案例:每天晚上23:30對源服務器的網站目錄做一次同步,同步到/myweb目錄下

    爲了在同步中不使用密碼,需要創建一個密碼文件

[root@localhost ~]# mkdir /myweb                  //創建備份文件夾
[root@localhost ~]# vim /etc/service.pass         //創建密碼文件
[root@localhost ~]# chmod 600 /etc/server.pass   //設置權限,防止泄露
[root@localhost ~]# crontab -e                    //設置定時任務計劃,每晚23:30進行同步
30 23 * * * /usr/bin/rsync -az --delete --password-file=/etc/server.pass [email protected]::wwwroot /myweb
[root@localhost ~]# chkconfig crond on   //重啓crond服務
[root@localhost ~]# service crond restart
[root@localhost ~]# ls /myweb/           //驗證同步結果
index.html  index.php


配置ssh+rsync+inotify實時同步

    Linux內核從版本2.6.13開始提供inotify通知接口,*用來監控文件系統的變動情況,並作出通知響應,如文件的存取、刪除、移動、修改等。利用這一機制,可以非常方便的實現文件異動告警、增量備份,並對文件或目錄的變動做出響應

    通過rsync工具與inotify機制相結合,可以實現觸發式備份(實時同步)——只要原始位置的文檔發生變化,即可立即啓動增量備份操作,否則處於靜默狀態,避免了固定週期備份時存在的延遲性、週期過密等問題

楊書凡31.png


1. 調整inotify內核參數

    Linux內核中,默認的inotify機制提供了三個調控參數,分別表示監控事件隊列、最多監控實例數、每個實例最多監控文件數。當需要監控的目錄、文件數量過多時,建議加大這三個參數

[root@localhost ~]# cat /proc/sys/fs/inotify/max_queued_events 
16384                                               //監控事件隊列默認16384
[root@localhost ~]# cat /proc/sys/fs/inotify/max_user_instances 
128                                                 //最多監控實例數默認128
[root@localhost ~]# cat /proc/sys/fs/inotify/max_user_watches 
8192                                                //每個實例最多監控文件數默認8192
[root@localhost ~]# vim /etc/sysctl.conf         //如果監控文件過多,建議加大數量 
fs.inotify.max_queued_events=16384               //添加三行
fs.inotify.max_user_instances=1024
fs.inotify.max_user_watches=1048576
[root@localhost ~]# sysctl -p                    //立即生效


2. 安裝inotify-tool

    使用inotify機制需要安裝inotify-tool,以便提供inotifywait、inotifywatch輔助工具程序,用來監控、彙總改動情況。可從網站http://inotify-tool.sourceforge.net下載

[root@localhost ~]# tar zxf inotify-tools-3.14.tar.gz 
[root@localhost ~]# cd inotify-tools-3.14
[root@localhost inotify-tools-3.14]# ./configure && make && make install
[root@localhost inotify-tools-3.14]# cd ~
[root@localhost ~]# inotifywait -mrq -e modify,create,move,delete /var/www/html/ 
輸入命令後,切換終端向/var/www/html/目錄添加、移動文件,跟蹤屏幕輸出結果,信息如下:   
/var/www/html/ CREATE index.php         //創建index.php文件
/var/www/html/ MODIFY index.php         //修改index.php文件
/var/www/html/ MOVED_FROM index.php     //重命名index.php文件
/var/www/html/ MOVED_TO ysf.php         //改名爲ysf.php文件

上述命令中

inotifywait:可監控modify(修改)、create(創建)、move(移動)、delete(刪除)、attrib(屬性更改)等各種事件,一有變動立即輸出結果

inotifywatch:可用來收集文件系統變動情況,並在運行結束後輸出彙總的變化情況

-m  表示持續監控

-r  表示遞歸整個目錄

-q  表示簡化輸出信息

-e  用來指定監控哪些事件


3. 在rsync同步源啓用密鑰對驗證

[root@localhost html]# vim /etc/ssh/sshd_config   //修改sshd服務配置文件
PubkeyAuthentication yes                          //找到這兩項,去掉註釋
AuthorizedKeysFile      .ssh/authorized_keys
[root@localhost html]# service sshd reload        //重載服務


4. 在rsync發起端創建ssh密鑰對,並將公鑰導入到服務器公鑰文本     

[root@localhost ~]# ssh-keygen -t rsa         //使用RSA算法生成密鑰對
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa):   
Enter passphrase (empty for no passphrase): 
Enter same passphrase again:                 //按三下Enter鍵,實現無口令登錄
[root@localhost ~]# ssh-copy-id -i ~/.ssh/id_rsa.pub [email protected]    //將公鑰文件上傳到rsync同步源
The authenticity of host '192.168.1.1 (192.168.1.1)' can't be established.
RSA key fingerprint is e5:c6:c7:96:30:eb:04:00:da:e9:43:72:67:d7:ff:e3.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '192.168.1.1' (RSA) to the list of known hosts.
[email protected]'s password:                                             //輸入同步源用戶密碼
Now try logging into the machine, with "ssh '[email protected]'", and check in:
  .ssh/authorized_keys
to make sure we haven't added extra keys that you weren't expecting
[root@localhost ~]# ssh [email protected]             //成功登錄sync同步源
[root@localhost ~]# ifconfig eth0
eth0      Link encap:Ethernet  HWaddr 00:0C:29:1C:B4:FB  
          inet addr:192.168.1.1  Bcast:192.168.1.255  Mask:255.255.255.0


5. 編寫觸發式同步腳本

[root@localhost ~]# vim rsync.sh               //編寫腳本,若進程已經存在,則忽略本次備份,避免併發執行rsync備份
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /var/www/html/"
RSYNC_CMD="rsync -azH --delete /var/www/html/ [email protected]:/var/www/html"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then
        $RSYNC_CMD
    fi
done
[root@localhost ~]# chmod +x rsync.sh           //添加執行權限,並且服務器開機自動運行此腳本    
[root@localhost ~]# echo '/root/rsync.sh' >> /etc/rc.local


6. 驗證腳本是否正確

(1)執行腳本,並切換到本機/var/www/html目錄,執行增、刪、改等操作

楊書凡32.png


(2)登錄到rsync同步源服務器,查看/var/www/html目錄下是否同步

楊書凡33.png







發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章