Day32
課堂筆記
2019年4月15日
rsync服務(wù)及搭建備份服務(wù)器
rsync復(fù)制軟件應(yīng)用實(shí)踐
什么是rsync?
一 、rsync 是開源、高速的、可實(shí)現(xiàn)本地以及遠(yuǎn)程數(shù)據(jù)復(fù)制（拷貝）工具。
2、全量和增量區(qū)別
全量復(fù)制：
# cp -a /etc/ /opt/
# \cp -a /etc/ /opt
# touch /etc/oldboy.txt
# \cp -a /etc/ /opt/
增量復(fù)制：
只復(fù)制oldboy.txt
二、reync的作用？
工作中需要定時(shí)/實(shí)時(shí)數(shù)據(jù)備份。本地服務(wù)器目錄、不同機(jī)器、
不同機(jī)房之間的數(shù)據(jù)備份。都可以用rsync完成。
四、rsync功能特性
? 支持拷貝普通文件與特殊文件，如鏈接文件，設(shè)備文件等。
? 支持排除指定文件或目錄同步的功能，相當(dāng)于打包命令tar的排除功能。
? 可以做到保持原文件或目錄的權(quán)限、時(shí)間、軟硬鏈接、屬主、組等所有屬性均不改變。
? 可實(shí)現(xiàn)增量復(fù)制，既只復(fù)制發(fā)生變化的數(shù)據(jù)，因此數(shù)據(jù)傳輸效率很高。
? 可以使用rcp,rsh,ssh等方式來(lái)配合進(jìn)行隧道加密傳輸文件（rsync本身不對(duì)數(shù)據(jù)加密）。
? 可以通過(guò)socket(進(jìn)程方式)傳輸文件和數(shù)據(jù)（服務(wù)端和客戶端）*。
? 支持匿名或認(rèn)證（無(wú)需系統(tǒng)用戶）進(jìn)程模式傳輸，安全的進(jìn)行數(shù)據(jù)備份及鏡像
五、增量復(fù)制原理
使用 quick check算法，只對(duì)增量的部分復(fù)制，根據(jù)大小屬性的變化進(jìn)行復(fù)制。
六、rsync三種工作模式介紹
1）本地（local）
rsync就是一個(gè)命令
rsync ? [OPTION...] ? ? ? SRC... ? ? [DEST]
rsync命令 參數(shù)選項(xiàng) [源目錄或文件] 目的目錄或文件
命令操作：
rsync命令
a.把數(shù)據(jù)從一個(gè)地方復(fù)制到另一個(gè)地方（僅在一臺(tái)機(jī)器增量）,相當(dāng)于cp。
b.通過(guò)加參數(shù)實(shí)現(xiàn)刪除文件和清空文件內(nèi)容的功能，相當(dāng)于rm命令。
c.查看屬性信息功能，相當(dāng)于ls。
2）遠(yuǎn)程Shell模式
借助類似ssh隧道傳輸數(shù)據(jù)，適合不同的機(jī)器之間復(fù)制。
異地拷貝，相當(dāng)于scp，區(qū)別scp是遠(yuǎn)程全量拷貝)
拉門 推門 思考：
pull,拉：從遠(yuǎn)端拉取到本地。
語(yǔ)法：
rsync ? ? [OPTION...] [USER@]HOST:SRC... ? ? ? ? ? ? [DEST]
rsync命令 參數(shù)選項(xiàng) [認(rèn)證用戶]@[主機(jī)地址]:[源路徑] 本地路徑
語(yǔ)法：
push,推：從本地推到遠(yuǎn)端。
rsync ? ? [OPTION...]? SRC... [USER@]HOST:[DEST]? ? ? ?
rsync命令 參數(shù)選項(xiàng) 本地路徑 [認(rèn)證用戶]@[主機(jī)地址]:[目標(biāo)路徑]
3）rsync守護(hù)進(jìn)程模式
首先要搭建rsync服務(wù)端(要有守護(hù)進(jìn)程)，然后才能在客戶端實(shí)現(xiàn)推拉數(shù)據(jù)。
企業(yè)運(yùn)維的重要模式，重點(diǎn)講。
客戶端語(yǔ)法暫時(shí)不講。
rsync服務(wù)模式：*****開啟后臺(tái)進(jìn)程，接受別人訪問(wèn)。
rsync -avz /etc/hosts root@172.16.1.41:/opt/
rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/
上述命令是等價(jià)的。-e 指定通道? ssh ssh服務(wù)連接客戶端? -p 22指定22端口。
強(qiáng)調(diào)一個(gè)重點(diǎn)：適合rsync
null和null/ 區(qū)別，null是目錄和目錄下的內(nèi)容，
null/只是目錄下的內(nèi)容，不含本身。
七、rsync命令參數(shù)
-v, --verbose? 顯示輸出過(guò)程
-z, --compress 壓縮
-a, --archive? 多參數(shù)集合(-rtopgDl)
-r, --recursive 遞歸
-t, --times? ? 保持修改時(shí)間屬性
-o, --owner? ? 保持屬主不變
-p, --perms? ? 保持權(quán)限不變
-g, --group? ? 保持用戶組不變
-l, --links? ? 保持拷貝軟連接
-q, --quiet? ? 安靜的拷貝
--bwlimit=KBPS 限制I/O帶寬，KBytes per second。
--delete? ? ? 刪除
--exclude? ? ? 排除
--exclude-from 從文件中排除
企業(yè)常用參數(shù)組合：-avz或者-vzrtopg
八、rsync守護(hù)進(jìn)程模式應(yīng)用實(shí)踐
（1）以下操作都是在backup服務(wù)器
1）安裝
[root@backup ~]# rsync --version
rsync? version 3.1.2? protocol version 31
[root@backup ~]# yum install rsync（不需要）
2）配置配置文件/etc/rsyncd.conf
備份
cp /etc/rsyncd.conf{,.ori}
cat>/etc/rsyncd.conf<<EOF
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = welcome to oldboyedu backup!
path = /backup/
EOF
man rsync 查命令的參數(shù)
man rsyncd.conf 查配置參數(shù)
https://www.samba.org/ftp/rsync/rsync.html
創(chuàng)建用戶和備份目錄
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 組=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月? 15 12:12 /backup/
3）啟動(dòng)和檢查
rsync --daemon（c6及以前）
systemctl start rsyncd
systemctl enable rsyncd
systemctl status rsyncd
# ps -ef|grep sync|grep -v grep? #檢查進(jìn)程
root? ? ? 7521? ? ? 1? 0 11:39 ?? ? ? ? 00:00:00 /usr/bin/rsync --daemon --no-detach
# netstat -lntup|grep 873 #檢查端口
tcp? ? ? ? 0? ? ? 0 0.0.0.0:873? ? ? ? ? ? 0.0.0.0:*? ? ? ? ? ? ? LISTEN? ? ? 7521/rsync? ? ? ? ?
tcp6? ? ? 0? ? ? 0 :::873? ? ? ? ? ? ? ? ? :::*? ? ? ? ? ? ? ? ? ? LISTEN? ? ? 7521/rsync
# lsof -i :873 #檢查端口
COMMAND? PID USER? FD? TYPE DEVICE SIZE/OFF NODE NAME
rsync? 7521 root? ? 3u? IPv4? 41439? ? ? 0t0? TCP *:rsync (LISTEN)
rsync? 7521 root? ? 5u? IPv6? 41440? ? ? 0t0? TCP *:rsync (LISTEN)
面試題：如何查看某端口對(duì)應(yīng)什么服務(wù)？答案就是上面兩個(gè)。
4）配置密碼文件
# echo "rsync_backup:oldboy" > /etc/rsync.password
# chmod 600 /etc/rsync.password
# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup ~]# ls -l /etc/rsync.password
-rw------- 1 root root 20 4月? 15 11:51 /etc/rsync.password
rsync服務(wù)端配置完成。
（2）以下操作都是在客戶端服務(wù)器
以下方法2選1
方法1：認(rèn)證密碼文件
[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password
[root@nfs01 ~]# chmod 600 /etc/rsync.password
[root@nfs01 ~]# cat /etc/rsync.password
oldboy
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月? 15 11:55 /etc/rsync.password
方法2：
[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc
[root@nfs01 ~]# tail -1 /etc/bashrc
export RSYNC_PASSWORD=oldboy
[root@nfs01 ~]# . /etc/bashrc
[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy
rsync客戶端 nfs01 配置完成
（3）守護(hù)進(jìn)程模式，客戶端rsync的命令語(yǔ)法：
配置服務(wù)器端守護(hù)進(jìn)程，實(shí)現(xiàn)數(shù)據(jù)傳輸：
1、服務(wù)器端守護(hù)進(jìn)程。2、客戶端執(zhí)行命令。
拉門、推門 思考：
pull,拉：從遠(yuǎn)端拉取到本地。
語(yǔ)法1（常用）：
rsync ? ? [OPTION...] [USER@]HOST::SRC... ? ? ? ? ? ? ? ? [DEST]
rsync命令 參數(shù)選項(xiàng) [虛擬用戶]@[主機(jī)地址]::[模塊名] ? ? 本地路徑
語(yǔ)法2:
rsync ? ? [OPTION...] rsync://[USER@]HOST::SRC... ? ? ? ? ? ? ? [DEST]
rsync命令 參數(shù)選項(xiàng) rsync://[虛擬用戶]@[主機(jī)地址]/[模塊名] 本地路徑
push,推：從本地推到遠(yuǎn)端。
語(yǔ)法1（常用）：? ? ? ? ? ? ? ?
rsync ? ? [OPTION...] ? [DEST]? ? ? ? [USER@]HOST::SRC... ? ? ? ? ? ? ? ?
rsync命令 參數(shù)選項(xiàng) ? 本地路徑? ? ? [虛擬用戶]@[主機(jī)地址]::[模塊名] ? ?
語(yǔ)法2:? ? ? ? ? ? ? ? ? ?
rsync ? ? [OPTION...] ? [DEST] rsync://[USER@]HOST::SRC... ? ? ? ? ? ?
rsync命令 參數(shù)選項(xiàng) ? 本地路徑 rsync://[虛擬用戶]@[主機(jī)地址]/[模塊名]
（4）測(cè)試成果
錯(cuò)誤1：
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
@ERROR: invalid uid rsync
rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]
解答：
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 組=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月? 15 12:12 /backup/
錯(cuò)誤2：
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)
sent 223 bytes? received 124 bytes? 694.00 bytes/sec
total size is 332? speedup is 0.96
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]
解答：增加如下參數(shù)到/etc/rsyncd.conf
fake? super? = yes #不用root用戶也可以存儲(chǔ)文件的完整屬性。
This allows the full attributes of a file to? be? stored? without having to have the daemon actually running as root.
[root@backup ~]# grep fake /etc/rsyncd.conf
fake super = yes
改完配置，要重啟服務(wù)：
[root@backup ~]# systemctl restart rsyncd
在測(cè)試：成功
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
sent 89 bytes? received 49 bytes? 276.00 bytes/sec
total size is 332? speedup is 2.41
rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
服務(wù)端檢查：
[root@backup ~]# ls /backup/
hosts
[root@backup ~]# ls /backup/
etc? hosts
如果客戶端按照環(huán)境變量的方式配置，則可以忽略--password-file=/etc/rsync.password參數(shù)。
[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list
sent 52,071 bytes? received 644 bytes? 105,430.00 bytes/sec
total size is 31,244,350? speedup is 592.70
測(cè)試增量
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup
sending incremental file list
etc/oldboy.txt
sent 52,098 bytes? received 655 bytes? 105,506.00 bytes/sec
total size is 31,244,350? speedup is 592.28
