用rsync對網站進行鏡像備份

                   本文出自:http://xfocus.org/ 作者:inburst[[email protected]]

 對系統管理員來說,平時的工作重心應該集中在維護系統正常運轉,能夠正常提供服務上,這裏往往牽涉到一個數據備份的問題,在我所瞭解 的情況中,有80%的系統管理員不是太關心自己服務器的安全性,但往往對備分鏡像的技術相當感興趣,但由於商
業產品的軟硬件價格都相當高 昂,因此往往會選擇自由軟件。這裏準備介紹的rsync就是這樣的軟件,它可以滿足絕大多數要求不是特別高的備
份需求。

一、特性簡介

rsync是類unix系統下的數據鏡像備份工具,從軟件的命名上就可以看出來了——remote sync。它的特性如下:

1、可以鏡像保存整個目錄樹和文件系統。
2、可以很容易做到保持原來文件的權限、時間、軟硬鏈接等等。
3、無須特殊權限即可安裝。
4、優化的流程,文件傳輸效率高。
5、可以使用rcp、ssh等方式來傳輸文件,當然也可以通過直接的socket連接。
6、支持匿名傳輸。

二、使用方法

rsync的使用方法很簡單,我就舉自己使用的例子來說明吧。

1、系統環境

rsync支持大多數的類unix系統,無論是Linux、Solaris還是BSD上都經過了良好的測試。我的系統環境爲:

server: FreeBSD 4.3  ip: 192.168.168.52 
client: Solaris 8    ip: 192.168.168.137 


 

rsync 版本 2.4.6(可以從http://rsync.samba.org/rsync/獲得最新版本)

2、配置server端的/etc/rsyncd.conf文件

bash-2.03# cat /etc/rsyncd.conf 

uid = nobody 
gid = nobody 
use chroot = no         # 不使用chroot 
max connections = 4         # 最大連接數爲4 
pid file = /var/run/rsyncd.pid 
lock file = /var/run/rsync.lock 
log file = /var/log/rsyncd.log    # 日誌記錄文件 

[inburst]            # 這裏是認證的模塊名,在client端需要指定 
path = /home/inburst/python/    # 需要做鏡像的目錄 
comment = BACKUP CLIENT IS SOLARIS 8 E250 
ignore errors            # 可以忽略一些無關的IO錯誤 
read only = yes            # 只讀 
list = no            # 不允許列文件 
auth users = inburst        # 認證的用戶名,如果沒有這行,則表明是匿名 
secrets file = /etc/inburst.pas    # 認證文件名 

[web] 
path = /usr/local/apache/htdocs/ 
comment = inburst.org web server 

 

3、在server端生成一個密碼文件/etc/inburst.pas

bash-2.03# cat /etc/inburst.pas 
inburst:hack 

出於安全目的,文件的屬性必需是隻有屬主可讀。

4、在server端將rsync以守護進程形式啓動

bash-2.03# rsync --daemon

如果要在啓動時把服務起來,有幾種不同的方法,比如:

  a、加入inetd.conf

    編輯/etc/services,加入rsync   873/tcp,指定rsync的服務端口是873
    編加/etc/inetd.conf,加入rsync  stream  tcp   nowait  root  /bin/rsync rsync --daemon

  b、加入rc.local

    在各種操作系統中,rc文件存放位置不盡相同,可以修改使系統啓動時rsync --daemon加載進去。

5、從client端進行測試

下面這個命令行中-vzrtopg裏的v是verbose,z是壓縮,r是recursive,topg都是保持文件原有屬性如屬主、時間
的參數。--progress是指顯示

出詳細的進度情況,--delete是指如果服務器端刪除了這一文件,那麼客戶端也相應把文件刪除,保持真正的一致。
後面的inburst@ip中,

inburst是指定密碼文件中的用戶名,之後的::inburst這一inburst是模塊名,也就是在/etc/rsyncd.conf中自定義
的名稱。最後的/tmp是備份

到本地的目錄名。

在這裏面,還可以用-e ssh的參數建立起加密的連接。可以用--password-file=/password/path/file來指定密碼文
件,這樣就可以在腳本中使

用而無需交互式地輸入驗證密碼了,這裏需要注意的是這份密碼文件權限屬性要設得只有屬主可讀。

bash-2.03# rsync -vzrtopg --progress --delete [email protected]::inburst /tmp/ 
Password: 
receiving file list ... done 
./ 
1 
785 (100%) 
1.py 
4086 (100%) 
2.py 
10680 (100%) 
a 
0 (100%) 
ip 
3956 (100%) 
./ 
wrote 190 bytes  read 5499 bytes  758.53 bytes/sec 
total size is 19507  speedup is 3.43 

 

6、創建更新腳本

如果有比較複雜的工作,利用一些常見的腳本語言可以有幫助。比如:

bash-2.03# cat /usr/local/bin/rsync.sh 

#!/bin/sh 
DATE=`date +%w` 

rsync -vzrtopg --progress --delete [email protected]::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass > 

/var/log/rsync.$DATE 


7、修改/etc/crontab做好定時 比如:

bash-2.03# echo "15      4       *       *       6       root    rsync.sh">>/etc/crontab 

 

三、FAQ

Q:如何通過ssh進行rsync,而且無須輸入密碼?
A:可以通過以下幾個步驟

1. 通過ssh-keygen在server A上建立SSH keys,不要指定密碼,你會在~/.ssh下看到identity和identity.pub文件
2. 在server B上的home目錄建立子目錄.ssh
3. 將A的identity.pub拷貝到server B上
4. 將identity.pub加到~[user b]/.ssh/authorized_keys
5. 於是server A上的A用戶,可通過下面命令以用戶B ssh到server B上了
                e.g. ssh -l userB serverB
這樣就使server A上的用戶A就可以ssh以用戶B的身份無需密碼登陸到server B上了。

Q:如何通過在不危害安全的情況下通過防火牆使用rsync?
A:解答如下:

這通常有兩種情況,一種是服務器在防火牆內,一種是服務器在防火牆外。
無論哪種情況,通常還是使用ssh,這時最好新建一個備份用戶,並且配置sshd僅允許這個用戶通過RSA認證方式進入。
如果服務器在防火牆內,則最好限定客戶端的IP地址,拒絕其它所有連接。
如果客戶機在防火牆內,則可以簡單允許防火牆打開TCP端口22的ssh外發連接就ok了。

Q:我能將更改過或者刪除的文件也備份上來嗎?
A:當然可以:

你可以使用如:rsync -other -options -backupdir = ./backup-2000-2-13  ...這樣的命令來實現。
這樣如果源文件:/path/to/some/file.c改變了,那麼舊的文件就會被移到./backup-2000-2-13/path/to/some/file.c,
這裏這個目錄需要自己

手工建立起來

Q:我需要在防火牆上開放哪些端口以適應rsync?
A:視情況而定

rsync可以直接通過873端口的tcp連接傳文件,也可以通過22端口的ssh來進行文件傳遞,但你也可以通過下列命令改變它的端口:

rsync --port 8730 otherhost::
或者
rsync -e 'ssh -p 2002' otherhost:

Q:我如何通過rsync只複製目錄結構,忽略掉文件呢?
A:rsync -av --include '*/' --exclude '*' source-dir dest-dir

Q:爲什麼我總會出現"Read-only file system"的錯誤呢?
A:看看是否忘了設"read only = no"了

Q:爲什麼我會出現'@ERROR: invalid gid'的錯誤呢?
A:rsync使用時默認是用uid=nobody;gid=nobody來運行的,如果你的系統不存在nobody組的話,就會出現這樣的錯誤,可以試試gid =

nogroup或者其它

Q:綁定端口873失敗是怎麼回事?
A:如果你不是以root權限運行這一守護進程的話,因爲1024端口以下是特權端口,會出現這樣的錯誤。你可以用--port參數來改變。

Q:爲什麼我認證失敗?
A:從你的命令行看來:

你用的是:
> bash$ rsync -a 144.16.251.213::test test
> Password:
> @ERROR: auth failed on module test
>
> I dont understand this. Can somebody explain as to how to acomplish this.
> All suggestions are welcome.

應該是沒有以你的用戶名登陸導致的問題,試試rsync -a [email protected]::test test

四、一些可借鑑的腳本

這裏這些腳本都是rsync網站上的例子:

1、每隔七天將數據往中心服務器做增量備份

#!/bin/sh 

# This script does personal backups to a rsync backup server. You will end up 
# with a 7 day rotating incremental backup. The incrementals will go 
# into subdirectories named after the day of the week, and the current 
# full backup goes into a directory called "current" 
# [email protected] 

# directory to backup 
BDIR=/home/$USER 

# excludes file - this contains a wildcard pattern per line of files to exclude 
EXCLUDES=$HOME/cron/excludes 

# the name of the backup machine 
BSERVER=owl 

# your password on the backup server 
export RSYNC_PASSWORD=XXXXXX 


######################################################################## 

BACKUPDIR=`date +%A` 
OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES 
      --delete --backup --backup-dir=/$BACKUPDIR -a" 

export PATH=$PATH:/bin:/usr/bin:/usr/local/bin 

# the following line clears the last weeks incremental directory 
[ -d $HOME/emptydir ] || mkdir $HOME/emptydir 
rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/ 
rmdir $HOME/emptydir 

# now the actual transfer 
rsync $OPTS $BDIR $BSERVER::$USER/current 

2、備份至一個空閒的硬盤

#!/bin/sh 

export PATH=/usr/local/bin:/usr/bin:/bin 

LIST="rootfs usr data data2" 

for d in $LIST; do 
    mount /backup/$d 
    rsync -ax --exclude fstab --delete /$d/ /backup/$d/ 
    umount /backup/$d 
done 

DAY=`date "+%A"` 
     
rsync -a --delete /usr/local/apache /data2/backups/$DAY 
rsync -a --delete /data/solid /data2/backups/$DAY 

 

3、對vger.rutgers.edu的cvs樹進行鏡像

#!/bin/bash 

cd /var/www/cvs/vger/ 
PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin 

RUN=`lps x | grep rsync | grep -v grep | wc -l` 
if [ "$RUN" -gt 0 ]; then 
    echo already running 
    exit 1 
fi 

rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog 

sum1=`sum $HOME/ChangeLog` 
sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog` 

if [ "$sum1" = "$sum2" ]; then 
    echo nothing to do 
    exit 0 
fi 

rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/ 
exit 0 

4、利用find的一種巧妙方式

rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/ 

可以用這種方法列出需要備份的文件列表——這種方法似乎比較少人用到。

五、參考資料:

1、http://rsync.samba.org/
2、rsync examples
3、rsync FAQ  

發佈了38 篇原創文章 · 獲贊 10 · 訪問量 43萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章