1、什么是rsync?

rsync，Rsync英文全稱為Remote synchronization?? 縮寫(xiě)rsync

是開(kāi)源、高速的、可實(shí)現(xiàn)本地以及遠(yuǎn)程，全量以及增量的數(shù)據(jù)復(fù)制（拷貝）工具。

官方鏈接資料：http://www.samba.org/ftp/rsync/rsync.html

2、全量和增量區(qū)別

全量復(fù)制：

[root@nfs01 ~]# cp -a /etc/ /opt/

[root@nfs01 ~]# \cp -a /etc/ /opt

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# \cp -a /etc/ /opt/

增量復(fù)制：

只復(fù)制oldboy.txt

3、rsync的作用

工作中需要定時(shí)/實(shí)時(shí)數(shù)據(jù)備份。本地服務(wù)器目錄、不同機(jī)器、

不同機(jī)房之間的數(shù)據(jù)備份。都可以用rsync完成。

4、rsync功能特性

1. )支持拷貝普通文件與特殊文件，如鏈接文件，設(shè)備文件等。

2.)支持排除指定文件或目錄同步的功能，相當(dāng)于打包命令tar的排除功能。

3.)可以做到保持原文件或目錄的權(quán)限、時(shí)間、軟硬鏈接、屬主、組等所有屬性均不改變。

4.)可實(shí)現(xiàn)增量復(fù)制，既只復(fù)制發(fā)生變化的數(shù)據(jù)，因此數(shù)據(jù)傳輸效率很高。

5.) 可以使用rcp,rsh,ssh等方式來(lái)配合進(jìn)行隧道加密傳輸文件（rsync本身不對(duì)數(shù)據(jù)加密）。

6. )可以通過(guò)socket(進(jìn)程方式)傳輸文件和數(shù)據(jù)（服務(wù)端和客戶端）*。

7.)支持匿名或認(rèn)證（無(wú)需系統(tǒng)用戶）進(jìn)程模式傳輸，安全的進(jìn)行數(shù)據(jù)備份及鏡像

5、增量復(fù)制原理

1.)使用 quick check算法，只對(duì)增量的部分復(fù)制，根據(jù)大小屬性的變化進(jìn)行復(fù)制。

2.)x比對(duì)差異后復(fù)制

3.)x一邊比對(duì)一邊復(fù)制。

https://coolshell.cn/articles/7425.html

6、rsync三種工作模式介紹

1）本地模式（local）

rsync就是一個(gè)命令

rsync? ? ? ? [OPTION...] ? ? ? SRC...? ? ? ? ? ? ? [DEST]

rsync命令 參數(shù)選項(xiàng)? ? ?[源目錄或文件]? ? ?目的目錄或文件

命令操作：

rsync命令

a.把數(shù)據(jù)從一個(gè)地方復(fù)制到另一個(gè)地方（僅在一臺(tái)機(jī)器增量）,相當(dāng)于cp。

b.通過(guò)加參數(shù)實(shí)現(xiàn)刪除文件和清空文件內(nèi)容的功能，相當(dāng)于rm命令。

c.查看屬性信息功能，相當(dāng)于ls。

a.拷貝實(shí)踐

[root@backup ~]# ls /opt

[root@backup ~]# rsync /etc/hosts /opt

[root@backup ~]# ls /opt

hosts

[root@backup ~]# \cp /etc/hosts /opt

保持屬性：

[root@backup ~]# rsync -zrtopg /etc/hosts /opt/

[root@backup ~]# ls -lhi /etc/hosts /opt/hosts

16829878 -rw-r--r--. 1 root root 332 4月? 12 11:24 /etc/hosts

?? 71373 -rw-r--r--? 1 root root 332 4月? 12 11:24 /opt/hosts

b.刪除實(shí)踐

刪除文件內(nèi)容：

[root@backup ~]# touch /null.txt #空文件

[root@backup ~]# cat /opt/hosts

127.0.0.1? ? localhost localhost.localdomain localhost4 localhost4.localdomain4

::1? ? ? ? ? localhost localhost.localdomain localhost6 localhost6.localdomain6

172.16.1.5 lb01

172.16.1.6 lb02

172.16.1.7 web01

172.16.1.8 web02

172.16.1.9 web03

172.16.1.31 nfs01

172.16.1.41 backup

172.16.1.51 db01 db01.etiantian.org

172.16.1.61 m01

[root@backup ~]# rsync --delete /null.txt /opt/hosts? #讓前面null.txt和后面hosts一樣

rsync: --delete does not work without --recursive (-r) or --dirs (-d).

rsync error: syntax or usage error (code 1) at main.c(1567) [client=3.1.2]

[root@backup ~]# rsync -r --delete /null.txt /opt/hosts

[root@backup ~]# cat /opt/hosts

刪除目錄下所有文件：

[root@backup ~]# mkdir /null

[root@backup ~]# rsync -r --delete /null/ /opt/? ? ?? #讓后面opt和前面null目錄內(nèi)容保持一致

[root@backup ~]# ls /opt/

c.查看屬性

[root@backup ~]# rsync /etc/hosts

-rw-r--r--? ? ? ? ? ? 332 2019/04/12 11:24:41 hosts

2）遠(yuǎn)程Shell模式

借助類(lèi)似ssh隧道傳輸數(shù)據(jù)，適合不同的機(jī)器之間復(fù)制。

異地拷貝，相當(dāng)于scp，區(qū)別scp是遠(yuǎn)程全量拷貝)

拉門(mén) 推門(mén) 思考：

pull,拉：從遠(yuǎn)端拉取到本地。

語(yǔ)法：

rsync? ? ? ?[OPTION...]? ?[USER ]? @? ? ? HOST :SRC... ? ? ? ? ? ?? [DEST]

rsync命令? ?參數(shù)選項(xiàng)? ?[認(rèn)證用戶] @? [主機(jī)地址]:[源路徑]? ? ? ?本地路徑

語(yǔ)法：

push,推：從本地推到遠(yuǎn)端。

rsync? ? ? ?[OPTION...]? ? SRC...? ? ? ?[USER]@HOST:[DEST]? ? ? ?

rsync命令? ?參數(shù)選項(xiàng)? ? 本地路徑? ? [認(rèn)證用戶]@[主機(jī)地址]:[目標(biāo)路徑]

push實(shí)踐：

[root@nfs01 ~]# rsync -avz /etc/hosts root@172.16.1.41:/opt/ #加密傳輸。

The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.

ECDSA key fingerprint is SHA256:qZSBkrmOv7xO/63qOU1uLXkPyNVHdkqvrNAcAmXqNEk.

ECDSA key fingerprint is MD5:23:d0:cb:a9:f4:7c:0b:eb:2d:07:00:e1:a3:12:d8:33.

Are you sure you want to continue connecting (yes/no)? yes

Warning: Permanently added '172.16.1.41' (ECDSA) to the list of known hosts.

root@172.16.1.41's password:

sending incremental file list

hosts

sent 219 bytes? received 35 bytes? 14.51 bytes/sec

total size is 332? speedup is 1.31

檢查：

[root@backup ~]# cd /opt/

[root@backup /opt]# ls

hosts

rsync -avz /etc/hosts root@172.16.1.41:/opt/? ? ?<====>

rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/

上述命令是等價(jià)的。-e 指定通道? ssh ssh服務(wù)連接客戶端? -p 22指定22端口。

[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh -p 22" root@172.16.1.41:/opt/

root@172.16.1.41's password:

sending incremental file list

sent 44 bytes? received 12 bytes? 22.40 bytes/sec

total size is 332? speedup is 5.93

拉的命令：

rsync -avz root@172.16.1.41:/opt/hosts /opt

rsync -avz -e "ssh -p 22" root@172.16.1.41:/opt/hosts /opt

推拉：

a.參照物，執(zhí)行命令的機(jī)器

b.root@172.16.1.41 使用的用戶和主機(jī)，就用主機(jī)和用戶的密碼。

強(qiáng)調(diào)一個(gè)重點(diǎn)：適合rsync

null和null/ 區(qū)別，null是目錄和目錄下的內(nèi)容，

null/只是目錄下的內(nèi)容，不含本身。

3）rsync守護(hù)進(jìn)程模式

首先要搭建rsync服務(wù)端(要有守護(hù)進(jìn)程)，然后才能在客戶端實(shí)現(xiàn)推拉數(shù)據(jù)。

rsync服務(wù)模式：*****開(kāi)啟后臺(tái)進(jìn)程，接受別人訪問(wèn)。

7、rsync命令參數(shù)

-v, --verbose? 顯示輸出過(guò)程

-z, --compress 壓縮

-a, --archive? 多參數(shù)集合(-rtopgDl)

-r, --recursive 遞歸

-t, --times? ? 保持修改時(shí)間屬性

-o, --owner? ? 保持屬主不變

-p, --perms? ? 保持權(quán)限不變

-g, --group? ? 保持用戶組不變

-l, --links? ? 保持拷貝軟連接

-q, --quiet? ? 安靜的拷貝

--bwlimit=KBPS 限制I/O帶寬，KBytes per second。

--delete? ? ?? 刪除

--exclude? ? ? 排除

--exclude-from 從文件中排除

企業(yè)常用參數(shù)組合：-avz或者-vzrtopg

8、rsync守護(hù)進(jìn)程模式應(yīng)用實(shí)踐

（1）以下操作都是在backup服務(wù)器

1）安裝

[root@backup ~]# rsync --version

rsync? version 3.1.2? protocol version 31

[root@backup ~]# yum install rsync（不需要）

2）配置配置文件/etc/rsyncd.conf

? ?先備份

cp /etc/rsyncd.conf{,.ori}

cat>/etc/rsyncd.conf<<EOF

uid = rsync? ? =======>管理備份的目錄

gid = rsync? ???=======>管理備份目錄的用戶組

use chroot = no? ??=======>安全功能，數(shù)據(jù)是否鎖定到備份目錄

fake super = yes? ?======>不用root用戶也可以存儲(chǔ)文件的完整屬性?

max connections = 200? ??=======>并發(fā)連接，同時(shí)多少客戶端訪問(wèn)

timeout = 600? ? =======>超時(shí)時(shí)間

pid file = /var/run/rsyncd.pid? ??=======>進(jìn)程號(hào)所在文件

lock file = /var/run/rsync.lock? ??=======>鎖定文件

log file = /var/log/rsyncd.log? ??=======>日志文件，查看報(bào)錯(cuò)等

ignore errors? ??=======>忽略錯(cuò)誤

read only = false?? ??=======>不可寫(xiě)

list = false? ??=======>不允許列表

hosts allow = 172.16.1.0/24? ??=======>哪些主機(jī)可以訪問(wèn)

hosts deny = 0.0.0.0/32? ??=======>哪些主機(jī)不允許訪問(wèn)

auth users = rsync_backup? ??=======>遠(yuǎn)程虛擬連接用戶

secrets file = /etc/rsync.password? ?=====>存放密碼的文件,權(quán)限必須600

[backup] ? ??=======>[模塊名] 遠(yuǎn)程訪問(wèn)使用模塊名訪問(wèn)

comment = welcome to oldboyedu backup!? ??=======>說(shuō)明注釋

path = /backup/? =======>服務(wù)端用戶備份的目錄，用戶和組,rsync.rsync

EOF

man rsync 查命令的參數(shù)

man rsyncd.conf 查配置參數(shù)

https://www.samba.org/ftp/rsync/rsync.html

創(chuàng)建用戶和備份目錄

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 組=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月? 15 12:12 /backup/

3）啟動(dòng)和檢查

rsync --daemon（CentOS6及以前）

systemctl start rsyncd

systemctl enable rsyncd

systemctl status rsyncd

[root@backup ~]# ps -ef|grep sync|grep -v grep? #檢查進(jìn)程

root? ? ?? 7521? ? ? 1? 0 11:39 ?? ? ? ? 00:00:00 /usr/bin/rsync --daemon --no-detach

[root@backup ~]# netstat -lntup|grep 873 #檢查端口

tcp? ? ? ?0? ? ?0? ?0.0.0.0:873? ? ? ? ? ?? 0.0.0.0:*? ? ? ? ? ?LISTEN? ? ? 7521/rsync? ? ? ? ?

tcp6? ? ?? 0? ? ? 0 :::873? ? ? ? ? ? ? ? ? :::*? ? ? ? ? ? ? ? ? ? LISTEN? ? ? 7521/rsync

[root@backup ~]# lsof -i :873 #檢查端口

COMMAND? PID USER?? FD?? TYPE DEVICE SIZE/OFF NODE NAME

rsync?? 7521 root? ? 3u? IPv4? 41439? ? ? 0t0? TCP *:rsync (LISTEN)

rsync?? 7521 root? ? 5u? IPv6? 41440? ? ? 0t0? TCP *:rsync (LISTEN)

面試題：如何查看某端口對(duì)應(yīng)什么服務(wù)？答案就是上面兩個(gè)。

4）配置密碼文件

[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password

[root@backup ~]# chmod 600 /etc/rsync.password

[root@backup ~]# cat /etc/rsync.password

rsync_backup:oldboy

[root@backup ~]# ls -l /etc/rsync.password

-rw------- 1 root root 20 4月? 15 11:51 /etc/rsync.password

以上rsync服務(wù)端配置完成。

（2）以下操作都是在客戶端服務(wù)器

以下方法2選1

方法1：認(rèn)證密碼文件

[root@nfs01 ~]# echo "oldboy" > /etc/rsync.password

[root@nfs01 ~]# chmod 600 /etc/rsync.password

[root@nfs01 ~]# cat /etc/rsync.password

oldboy

[root@nfs01 ~]# ls -l /etc/rsync.password

-rw------- 1 root root 7 4月? 15 11:55 /etc/rsync.password

方法2：

[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy' >>/etc/bashrc

[root@nfs01 ~]# tail -1 /etc/bashrc

export RSYNC_PASSWORD=oldboy

[root@nfs01 ~]# . /etc/bashrc

[root@nfs01 ~]# echo $RSYNC_PASSWORD

oldboy

rsync客戶端 nfs01 配置完成

（3）守護(hù)進(jìn)程模式，客戶端rsync的命令語(yǔ)法：

配置服務(wù)器端守護(hù)進(jìn)程，實(shí)現(xiàn)數(shù)據(jù)傳輸：

1、服務(wù)器端守護(hù)進(jìn)程。

2、客戶端執(zhí)行命令。

拉門(mén)、推門(mén) 思考：

pull,拉：從遠(yuǎn)端拉取到本地。

語(yǔ)法1（常用）：

rsync ? ? [OPTION...] [USER@]HOST::SRC... ? ? ? ? ? ? ? ?? [DEST]

rsync命令 參數(shù)選項(xiàng) [虛擬用戶]@[主機(jī)地址]::[模塊名] ? ?? 本地路徑

語(yǔ)法2:

rsync ? ? [OPTION...] rsync://[USER@]HOST::SRC... ? ? ? ? ? ? ? [DEST]

rsync命令 參數(shù)選項(xiàng) rsync://[虛擬用戶]@[主機(jī)地址]/[模塊名] 本地路徑

push,推：從本地推到遠(yuǎn)端。

語(yǔ)法1（常用）：? ? ? ? ? ? ? ?

rsync ? ? [OPTION...] ? [DEST]? ? ? ? [USER@]HOST::SRC... ? ? ? ? ? ? ? ?

rsync命令 參數(shù)選項(xiàng) ? 本地路徑? ? ? [虛擬用戶]@[主機(jī)地址]::[模塊名] ? ?

語(yǔ)法2:? ? ? ? ? ? ? ? ? ?

rsync ? ? [OPTION...] ?? [DEST] rsync://[USER@]HOST::SRC... ? ? ? ? ? ?

rsync命令 參數(shù)選項(xiàng) ? 本地路徑 rsync://[虛擬用戶]@[主機(jī)地址]/[模塊名]

（4）測(cè)試成果

錯(cuò)誤1：

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

@ERROR: invalid uid rsync

rsync error: error starting client-server protocol (code 5) at main.c(1648) [sender=3.1.2]

解答：

[root@backup ~]# useradd rsync

[root@backup ~]# id rsync

uid=1001(rsync) gid=1001(rsync) 組=1001(rsync)

[root@backup ~]# mkdir -p /backup

[root@backup ~]# chown -R rsync.rsync /backup/

[root@backup ~]# ls -ld /backup/

drwxr-xr-x 2 rsync rsync 6 4月? 15 12:12 /backup/

錯(cuò)誤2：

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

rsync: chgrp ".hosts.YDuTjO" (in backup) failed: Operation not permitted (1)

sent 223 bytes? received 124 bytes? 694.00 bytes/sec

total size is 332? speedup is 0.96

rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]

解答：增加如下參數(shù)到/etc/rsyncd.conf

fake? super? = yes #不用root用戶也可以存儲(chǔ)文件的完整屬性。

This allows the full attributes of a file to? be? stored? without having to have the daemon actually running as root.

[root@backup ~]# grep fake /etc/rsyncd.conf

fake super = yes

改完配置，要重啟服務(wù)：

[root@backup ~]# systemctl restart rsyncd

在測(cè)試：成功

[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

sending incremental file list

hosts

sent 89 bytes? received 49 bytes? 276.00 bytes/sec

total size is 332? speedup is 2.41

rsync -avz /etc rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password

服務(wù)端檢查：

[root@backup ~]# ls /backup/

hosts

[root@backup ~]# ls /backup/

etc? hosts

如果客戶端按照環(huán)境變量的方式配置，則可以忽略--password-file=/etc/rsync.password參數(shù)。

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

sent 52,071 bytes? received 644 bytes? 105,430.00 bytes/sec

total size is 31,244,350? speedup is 592.70

測(cè)試增量

[root@nfs01 ~]# touch /etc/oldboy.txt

[root@nfs01 ~]# rsync -avz /etc rsync_backup@172.16.1.41::backup

sending incremental file list

etc/oldboy.txt

sent 52,098 bytes? received 655 bytes? 105,506.00 bytes/sec

total size is 31,244,350? speedup is 592.28

第二種推的語(yǔ)法

[root@nfs01 ~]# rsync -avz /etc rsync://rsync_backup@172.16.1.41/backup

sending incremental file list

sent 52,070 bytes? received 644 bytes? 105,428.00 bytes/sec

total size is 31,244,350? speedup is 592.71