對系統管理員來說,平時的工作重心應該集中在維護系統正常運轉,能夠正常提供服務上,這裡往往牽涉到一個資料備份的問題,在我所瞭解的情況中,有80%的系統管理員不是太關心自己伺服器的安全性,但往往對備分鏡像的技術相當感興趣,但由於商業產品的軟硬體價格都相當高昂,因此往往會選擇自由軟體。這裡準備介紹的rsync就是這樣的軟體,它可以滿足絕大多數要求不是特別高的備份需求。
一. 特性簡介
rsync是類Unix系統下的資料鏡像備份工具,從軟體的命名上就可以看出來了 - remote sync。它的特性如下:
1、可以鏡像儲存整個分類樹和檔案系統。
2、可以很容易做到保持原來檔案的許可權、時間、軟永久連結等等。
3、無須特殊許可權即可安裝。
4、最佳化的流程,檔案傳輸效率高。
5、可以使用rcp、ssh等方式來傳輸檔案,當然也可以通過直接的socket串連。
6、支援匿名傳輸。
二. 使用方法
rsync的使用方法很簡單,我就舉自己使用的例子來說明吧。
1) 系統內容
rsync支援大多數的類Unix系統,無論是Linux、Solaris還是BSD上都經過了良好的測試。我的系統內容為:
server: FreeBSD 4.3 ip: 192.168.168.52
client: Solaris 8 ip: 192.168.168.137
rsync 版本 2.4.6(可以從http://rsync.samba.org/rsync/獲得最新版本)
2) 配置server端的/etc/rsyncd.conf檔案
bash-2.03# cat /etc/rsyncd.conf
####################
uid = nobody
gid = nobody
use chroot = no # 不使用chroot
max connections = 4 # 最大串連數為4
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log # 日誌記錄檔案
[inburst] # 這裡是認證的模組名,在client端需要指定
path = /home/inburst/python/ # 需要做鏡像的目錄
comment = BACKUP CLIENT IS SOLARIS 8 E250
ignore errors # 可以忽略一些無關的IO錯誤
read only = yes # 唯讀
list = no # 不允許列檔案
auth users = inburst # 認證的使用者名稱,如果沒有這行,則表明是匿名
secrets file = /etc/inburst.pas # 認證檔案名稱
[web]
path = /usr/local/apache/htdocs/
comment = inburst.org web server
3) 在server端產生一個密碼檔案/etc/inburst.pas
bash-2.03# cat /etc/inburst.pas
inburst:hack
出於安全目的,檔案的屬性必需是只有屬主可讀。
4) 在server端將rsync以守護進程形式啟動
bash-2.03# rsync --daemon
如果要在啟動時把服務起來,有幾種不同的方法,比如:
a、加入inetd.conf
編輯/etc/services,加入rsync 873/tcp,指定rsync的服務連接埠是873
編加/etc/inetd.conf,加入rsync stream tcp nowait root /bin/rsync rsync --daemon
b、加入rc.local
在各種作業系統中,rc檔案存放位置不盡相同,可以修改使系統啟動時rsync --daemon載入進去。
5) 從client端進行測試
下面這個命令列中-vzrtopg裡的v是verbose,z是壓縮,r是recursive,topg都是保持檔案原有屬性如屬主、時間的參數。--progress是指顯示出詳細的進度情況,--delete是指如果伺服器端刪除了這一檔案,那麼用戶端也相應把檔案刪除,保持真正的一致。
後面的inburst@ip中,inburst是指定密碼檔案中的使用者名稱,之後的::inburst這一inburst是模組名,也就是在/etc/rsyncd.conf中自訂的名稱。最後的/tmp是備份到本地的目錄名。
在這裡面,還可以用-e ssh的參數建立起加密的串連。可以用--password-file = /password/path/file來指定密碼檔案,這樣就可以在指令碼中使用而無需互動式地輸入驗證密碼了,這裡需要注意的是這份密碼檔案許可權屬性要設得只有屬主可讀。
bash-2.03# rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /tmp/
Password:
receiving file list ... done
./
1
785 (100%)
1.py
4086 (100%)
2.py
10680 (100%)
a
0 (100%)
ip
3956 (100%)
./
wrote 190 bytes read 5499 bytes 758.53 bytes/sec
total size is 19507 speedup is 3.43
6) 建立更新指令碼
如果有比較複雜的工作,利用一些常見的指令碼語言可以有協助。比如:
bash-2.03# cat /usr/local/bin/rsync.sh
#!/bin/sh
DATE=`date +%w`
rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass >
/var/log/rsync.$DATE
7) 修改/etc/crontab做好定時
比如:
bash-2.03# echo "15 4 * * 6 root rsync.sh">>/etc/crontab
三. FAQ
Q:如何通過ssh進行rsync,而且無須輸入密碼?
A:可以通過以下幾個步驟
1. 通過ssh-keygen在server A上建立SSH keys,不要指定密碼,你會在~/.ssh下看到identity和identity.pub檔案
2. 在server B上的home目錄建立子目錄.ssh
3. 將A的identity.pub拷貝到server B上
4. 將identity.pub加到~[user b]/.ssh/authorized_keys
5. 於是server A上的A使用者,可通過下面命令以使用者B ssh到server B上了
e.g. ssh -l userB serverB
這樣就使server A上的使用者A就可以ssh以使用者B的身份無需密碼登陸到server B上了。
Q:如何通過在不危害安全的情況下通過防火牆使用rsync?
A:解答如下:
這通常有兩種情況,一種是伺服器在防火牆內,一種是伺服器在防火牆外。
無論哪種情況,通常還是使用ssh,這時最好建立一個備份使用者,並且配置sshd僅允許這個使用者通過RSA認證方式進入。
如果伺服器在防火牆內,則最好限定用戶端的IP地址,拒絕其它所有串連。
如果客戶機在防火牆內,則可以簡單允許防火牆開啟TCP連接埠22的ssh外發串連就ok了。
Q:我能將更改過或者刪除的檔案也備份上來嗎?
A:當然可以:
你可以使用如:rsync -other -options -backupdir = ./backup-2000-2-13 ...這樣的命令來實現。
這樣如果源檔案:/path/to/some/file.c改變了,那麼舊的檔案就會被移到./backup-2000-2-13/path/to/some/file.c, 這裡這個目錄需要自己手工建立起來
Q:我需要在防火牆上開放哪些連接埠以適應rsync?
A:視情況而定
rsync可以直接通過873連接埠的tcp串連傳檔案,也可以通過22連接埠的ssh來進行檔案傳遞,但你也可以通過下列命令改變它的連接埠:
rsync --port 8730 otherhost::
或者
rsync -e 'ssh -p 2002' otherhost:
Q:我如何通過rsync只複製目錄結構,忽略掉檔案呢?
A:rsync -av --include '*/' --exclude '*' source-dir dest-dir
Q:為什麼我總會出現"Read-only file system"的錯誤呢?
A:看看是否忘了設"read only = no"了
Q:為什麼我會出現'@ERROR: invalid gid'的錯誤呢?
A:rsync使用時預設是用uid=nobody;gid=nobody來啟動並執行,如果你的系統不存在nobody組的話,就會出現這樣的錯誤,可以試試gid = nogroup或者其它
Q:綁定連接埠873失敗是怎麼回事?
A:如果你不是以root許可權運行這一守護進程的話,因為1024連接埠以下是特權連接埠,會出現這樣的錯誤。你可以用--port參數來改變。
Q:為什麼我認證失敗?
A:從你的命令列看來:
你用的是:
> bash$ rsync -a 144.16.251.213::test test
> Password:
> @ERROR: auth failed on module test
>
> I dont understand this. Can somebody explain as to how to acomplish this.
> All suggestions are welcome.
應該是沒有以你的使用者名稱登陸導致的問題,試試rsync -a max@144.16.251.213::test test
四. 一些可借鑒的指令碼
這裡這些指令碼都是rsync網站上的例子:
1) 每隔七天將資料往中心伺服器做增量備份
#!/bin/sh
# This script does personal backups to a rsync backup server. You will end up
# with a 7 day rotating incremental backup. The incrementals will go
# into subdirectories named after the day of the week, and the current
# full backup goes into a directory called "current"
# tridge@linuxcare.com
# directory to backup
BDIR=/home/$USER
# excludes file - this contains a wildcard pattern per line of files to exclude
EXCLUDES=$HOME/cron/excludes
# the name of the backup machine
BSERVER=owl
# your password on the backup server
export RSYNC_PASSWORD=XXXXXX
BACKUPDIR=`date +%A`
OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES
--delete --backup --backup-dir=/$BACKUPDIR -a"
export PATH=$PATH:/bin:/usr/bin:/usr/local/bin
# the following line clears the last weeks incremental directory
[ -d $HOME/emptydir ] || mkdir $HOME/emptydir
rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/
rmdir $HOME/emptydir
# now the actual transfer
rsync $OPTS $BDIR $BSERVER::$USER/current
2) 備份至一個閒置硬碟
#!/bin/sh
export PATH=/usr/local/bin:/usr/bin:/bin
LIST="rootfs usr data data2"
for d in $LIST; do
mount /backup/$d
rsync -ax --exclude fstab --delete /$d/ /backup/$d/
umount /backup/$d
done
DAY=`date "+%A"`
rsync -a --delete /usr/local/apache /data2/backups/$DAY
rsync -a --delete /data/solid /data2/backups/$DAY
3) 對vger.rutgers.edu的cvs樹進行鏡像
#!/bin/bash
cd /var/www/cvs/vger/
PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin
RUN=`lps x | grep rsync | grep -v grep | wc -l`
if [ "$RUN" -gt 0 ]; then
echo already running
exit 1
fi
rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog
sum1=`sum $HOME/ChangeLog`
sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog`
if [ "$sum1" = "$sum2" ]; then
echo nothing to do
exit 0
fi
rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/
exit 0
4) 利用find的一種巧妙方式
rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/
可以用這種方法列出需要備份的檔案清單--這種方法似乎比較少人用到。
五. 參考資料:
1、http://rsync.samba.org/
2、rsync examples
3、rsync FAQ