用rsync對(duì)網(wǎng)站進(jìn)行鏡像備份創(chuàng)建時(shí)間：2001-07-05 文章屬性：原創(chuàng) 文章來(lái)源：http:/// 文章提交：inburst (inburst_at_263.net) 用rsync對(duì)網(wǎng)站進(jìn)行鏡像備份 by inburst<inburst@263.net> http:// 對(duì)系統(tǒng)管理員來(lái)說，平時(shí)的工作重心應(yīng)該集中在維護(hù)系統(tǒng)正常運(yùn)轉(zhuǎn)，能夠正常提供服務(wù)上，這里往往牽涉到一個(gè)數(shù)據(jù)備份的問題，在我所了解 的情況中，有80%的系統(tǒng)管理員不是太關(guān)心自己服務(wù)器的安全性，但往往對(duì)備分鏡像的技術(shù)相當(dāng)感興趣，但由于商業(yè)產(chǎn)品的軟硬件價(jià)格都相當(dāng)高 昂，因此往往會(huì)選擇自由軟件。這里準(zhǔn)備介紹的rsync就是這樣的軟件，它可以滿足絕大多數(shù)要求不是特別高的備份需求。 一、特性簡(jiǎn)介 rsync是類unix系統(tǒng)下的數(shù)據(jù)鏡像備份工具，從軟件的命名上就可以看出來(lái)了——remote sync。它的特性如下： 1、可以鏡像保存整個(gè)目錄樹和文件系統(tǒng)。 2、可以很容易做到保持原來(lái)文件的權(quán)限、時(shí)間、軟硬鏈接等等。 3、無(wú)須特殊權(quán)限即可安裝。 4、優(yōu)化的流程，文件傳輸效率高。 5、可以使用rcp、ssh等方式來(lái)傳輸文件，當(dāng)然也可以通過直接的socket連接。 6、支持匿名傳輸。 二、使用方法 rsync的使用方法很簡(jiǎn)單，我就舉自己使用的例子來(lái)說明吧。 1、系統(tǒng)環(huán)境 rsync支持大多數(shù)的類unix系統(tǒng)，無(wú)論是Linux、Solaris還是BSD上都經(jīng)過了良好的測(cè)試。我的系統(tǒng)環(huán)境為： server: FreeBSD 4.3 ip: 192.168.168.52 client: Solaris 8 ip: 192.168.168.137 rsync 版本 2.4.6(可以從http://rsync./rsync/獲得最新版本) 2、配置server端的/etc/rsyncd.conf文件 bash-2.03# cat /etc/rsyncd.conf uid = nobody gid = nobody use chroot = no # 不使用chroot max connections = 4 # 最大連接數(shù)為4 pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log # 日志記錄文件 [inburst] # 這里是認(rèn)證的模塊名，在client端需要指定 path = /home/inburst/python/ # 需要做鏡像的目錄 comment = BACKUP CLIENT IS SOLARIS 8 E250 ignore errors # 可以忽略一些無(wú)關(guān)的IO錯(cuò)誤 read only = yes # 只讀 list = no # 不允許列文件 auth users = inburst # 認(rèn)證的用戶名，如果沒有這行，則表明是匿名 secrets file = /etc/inburst.pas # 認(rèn)證文件名 [web] path = /usr/local/apache/htdocs/ comment = inburst.org web server 3、在server端生成一個(gè)密碼文件/etc/inburst.pas bash-2.03# cat /etc/inburst.pas inburst:hack 出于安全目的，文件的屬性必需是只有屬主可讀。 4、在server端將rsync以守護(hù)進(jìn)程形式啟動(dòng) bash-2.03# rsync --daemon 如果要在啟動(dòng)時(shí)把服務(wù)起來(lái)，有幾種不同的方法，比如： a、加入inetd.conf 編輯/etc/services，加入rsync 873/tcp，指定rsync的服務(wù)端口是873 編加/etc/inetd.conf，加入rsync stream tcp nowait root /bin/rsync rsync --daemon b、加入rc.local 在各種操作系統(tǒng)中，rc文件存放位置不盡相同，可以修改使系統(tǒng)啟動(dòng)時(shí)rsync --daemon加載進(jìn)去。 5、從client端進(jìn)行測(cè)試 下面這個(gè)命令行中-vzrtopg里的v是verbose，z是壓縮，r是recursive，topg都是保持文件原有屬性如屬主、時(shí)間的參數(shù)。--progress是指顯示 出詳細(xì)的進(jìn)度情況，--delete是指如果服務(wù)器端刪除了這一文件，那么客戶端也相應(yīng)把文件刪除，保持真正的一致。后面的inburst@ip中， inburst是指定密碼文件中的用戶名，之后的::inburst這一inburst是模塊名，也就是在/etc/rsyncd.conf中自定義的名稱。最后的/tmp是備份 到本地的目錄名。 在這里面，還可以用-e ssh的參數(shù)建立起加密的連接。可以用--password-file=/password/path/file來(lái)指定密碼文件，這樣就可以在腳本中使 用而無(wú)需交互式地輸入驗(yàn)證密碼了，這里需要注意的是這份密碼文件權(quán)限屬性要設(shè)得只有屬主可讀。 bash-2.03# rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /tmp/ Password: receiving file list ... done ./ 1 785 (100%) 1.py 4086 (100%) 2.py 10680 (100%) a 0 (100%) ip 3956 (100%) ./ wrote 190 bytes read 5499 bytes 758.53 bytes/sec total size is 19507 speedup is 3.43 6、創(chuàng)建更新腳本 如果有比較復(fù)雜的工作，利用一些常見的腳本語(yǔ)言可以有幫助。比如： bash-2.03# cat /usr/local/bin/rsync.sh #!/bin/sh DATE=`date +%w` rsync -vzrtopg --progress --delete inburst@192.168.168.52::inburst /home/quack/backup/$DATE --password-file=/etc/rsync.pass > /var/log/rsync.$DATE 7、修改/etc/crontab做好定時(shí) 比如: bash-2.03# echo "15 4 * * 6 root rsync.sh">>/etc/crontab 三、FAQ Q：如何通過ssh進(jìn)行rsync，而且無(wú)須輸入密碼？ A：可以通過以下幾個(gè)步驟 1. 通過ssh-keygen在server A上建立SSH keys，不要指定密碼，你會(huì)在~/.ssh下看到identity和identity.pub文件 2. 在server B上的home目錄建立子目錄.ssh 3. 將A的identity.pub拷貝到server B上 4. 將identity.pub加到~[user b]/.ssh/authorized_keys 5. 于是server A上的A用戶，可通過下面命令以用戶B ssh到server B上了 e.g. ssh -l userB serverB 這樣就使server A上的用戶A就可以ssh以用戶B的身份無(wú)需密碼登陸到server B上了。 Q：如何通過在不危害安全的情況下通過防火墻使用rsync? A：解答如下： 這通常有兩種情況，一種是服務(wù)器在防火墻內(nèi)，一種是服務(wù)器在防火墻外。 無(wú)論哪種情況，通常還是使用ssh，這時(shí)最好新建一個(gè)備份用戶，并且配置sshd僅允許這個(gè)用戶通過RSA認(rèn)證方式進(jìn)入。 如果服務(wù)器在防火墻內(nèi)，則最好限定客戶端的IP地址，拒絕其它所有連接。 如果客戶機(jī)在防火墻內(nèi)，則可以簡(jiǎn)單允許防火墻打開TCP端口22的ssh外發(fā)連接就ok了。 Q：我能將更改過或者刪除的文件也備份上來(lái)嗎？ A：當(dāng)然可以： 你可以使用如：rsync -other -options -backupdir = ./backup-2000-2-13 ...這樣的命令來(lái)實(shí)現(xiàn)。 這樣如果源文件:/path/to/some/file.c改變了，那么舊的文件就會(huì)被移到./backup-2000-2-13/path/to/some/file.c，這里這個(gè)目錄需要自己 手工建立起來(lái) Q：我需要在防火墻上開放哪些端口以適應(yīng)rsync？ A：視情況而定 rsync可以直接通過873端口的tcp連接傳文件，也可以通過22端口的ssh來(lái)進(jìn)行文件傳遞，但你也可以通過下列命令改變它的端口： rsync --port 8730 otherhost:: 或者 rsync -e 'ssh -p 2002' otherhost: Q：我如何通過rsync只復(fù)制目錄結(jié)構(gòu)，忽略掉文件呢？ A：rsync -av --include '*/' --exclude '*' source-dir dest-dir Q：為什么我總會(huì)出現(xiàn)"Read-only file system"的錯(cuò)誤呢？ A：看看是否忘了設(shè)"read only = no"了 Q：為什么我會(huì)出現(xiàn)'@ERROR: invalid gid'的錯(cuò)誤呢？ A：rsync使用時(shí)默認(rèn)是用uid=nobody;gid=nobody來(lái)運(yùn)行的，如果你的系統(tǒng)不存在nobody組的話，就會(huì)出現(xiàn)這樣的錯(cuò)誤，可以試試gid = nogroup或者其它 Q：綁定端口873失敗是怎么回事？ A：如果你不是以root權(quán)限運(yùn)行這一守護(hù)進(jìn)程的話，因?yàn)?024端口以下是特權(quán)端口，會(huì)出現(xiàn)這樣的錯(cuò)誤。你可以用--port參數(shù)來(lái)改變。 Q：為什么我認(rèn)證失敗？ A：從你的命令行看來(lái)： 你用的是： > bash$ rsync -a 144.16.251.213::test test > Password: > @ERROR: auth failed on module test > > I dont understand this. Can somebody explain as to how to acomplish this. > All suggestions are welcome. 應(yīng)該是沒有以你的用戶名登陸導(dǎo)致的問題，試試rsync -a max@144.16.251.213::test test 四、一些可借鑒的腳本 這里這些腳本都是rsync網(wǎng)站上的例子： 1、每隔七天將數(shù)據(jù)往中心服務(wù)器做增量備份 #!/bin/sh # This script does personal backups to a rsync backup server. You will end up # with a 7 day rotating incremental backup. The incrementals will go # into subdirectories named after the day of the week, and the current # full backup goes into a directory called "current" # tridge@linuxcare.com # directory to backup BDIR=/home/$USER # excludes file - this contains a wildcard pattern per line of files to exclude EXCLUDES=$HOME/cron/excludes # the name of the backup machine BSERVER=owl # your password on the backup server export RSYNC_PASSWORD=XXXXXX ######################################################################## BACKUPDIR=`date +%A` OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES --delete --backup --backup-dir=/$BACKUPDIR -a" export PATH=$PATH:/bin:/usr/bin:/usr/local/bin # the following line clears the last weeks incremental directory [ -d $HOME/emptydir ] || mkdir $HOME/emptydir rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/ rmdir $HOME/emptydir # now the actual transfer rsync $OPTS $BDIR $BSERVER::$USER/current 2、備份至一個(gè)空閑的硬盤 #!/bin/sh export PATH=/usr/local/bin:/usr/bin:/bin LIST="rootfs usr data data2" for d in $LIST; do mount /backup/$d rsync -ax --exclude fstab --delete /$d/ /backup/$d/ umount /backup/$d done DAY=`date "+%A"` rsync -a --delete /usr/local/apache /data2/backups/$DAY rsync -a --delete /data/solid /data2/backups/$DAY 3、對(duì)vger.rutgers.edu的cvs樹進(jìn)行鏡像 #!/bin/bash cd /var/www/cvs/vger/ PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin RUN=`lps x | grep rsync | grep -v grep | wc -l` if [ "$RUN" -gt 0 ]; then echo already running exit 1 fi rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog sum1=`sum $HOME/ChangeLog` sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog` if [ "$sum1" = "$sum2" ]; then echo nothing to do exit 0 fi rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/ exit 0 4、利用find的一種巧妙方式 rsync -avR remote:'`find /home -name "*.[ch]"`' /tmp/ 可以用這種方法列出需要備份的文件列表——這種方法似乎比較少人用到。 五、參考資料： 1、http://rsync./ 2、rsync examples 3、rsync FAQ |
|
|
