使用Rclone實(shí)現(xiàn)minio數(shù)據(jù)的遷移

1、概述

1.1環(huán)境信息

一個(gè)項(xiàng)目由1個(gè)服務(wù)器遷移到另外一個(gè)服務(wù)器,對(duì)應(yīng)該的存儲(chǔ)minio也需要進(jìn)行同步遷移
minio集群地址 桶名 備注
http://minio.old:9000 document舊
http://minio.new:9000 document新

1.2使用工具

rclone:開源的對(duì)象存儲(chǔ)在線遷移工具,用于文件和目錄的同步,支持阿里云的oss、minio 、亞馬遜S3

2、部署實(shí)現(xiàn)

2.1 rclone安裝

# 方法1. 在線下載
# curl -O http://downloads.rclone.org/rclone-current-linux-amd64.zip
# 方法2. 在線下載
# wget https://downloads.rclone.org/rclone-current-linux-amd64.zip

# 安裝解壓縮的依賴
# yum -y install unzip

# 解壓
unzip rclone-v1.56.0-linux-amd64.zip
# 賦權(quán)
chmod 0755 ./rclone-v1.56.0-linux-amd64.zip/rclone
# 拷貝到 /usr/bin/ 可以直接使用 rclone命令
cp ./rclone-v1.56.0-linux-amd64.zip/clone /usr/bin/
# 刪除源文件
rm -rf ./rclone-v1.56.0-linux-amd64.zip
  • 生成配置文件
    生成的文件位置:/root/.config/rclone/rclone.conf
# ./rclone config
rclone config

2.2 配置參數(shù)

2021/09/30 10:50:23 NOTICE: Config file "/root/.config/rclone/rclone.conf" not found - using defaults
No remotes found - make a new one
n) New remote
s) Set configuration password
q) Quit config
# 新建一個(gè)配置文件
n/s/q> n

name> minio
Storage> s3
provider> Minio
env_auth> false
access_key_id> minio
secret_access_key> 123
region> 
endpoint> http://172.23.27.112:9000
location_constraint>
acl> 3
server_side_encryption> 
sse_kms_key_id> 

# 高級(jí)配置(結(jié)束)
Edit advanced config?
y) Yes
n) No (default)
y/n> n

2.3 rclone配置文件

路徑:/root/.config/rclone/rclone.conf

[minio]
type = s3
provider = Minio
env_auth = false
access_key_id = XXX(賬戶key)
secret_access_key = XXX(密碼key)
region = cn-east-1
endpoint = http://minio.old:9000
location_constraint = 
server_side_encryption = 
acl = bucket-owner-full-control
 
[minio1]
type = s3
provider = Minio
env_auth = false
access_key_id = XXX
secret_access_key = XXX
region = cn-east-1
endpoint = http://minio.new:9000
location_constraint = 
server_side_encryption = 
acl = bucket-owner-full-control

2.4 開始遷移

rclone sync old:document new:document

3、常用命令

rclone config - 以控制會(huì)話的形式添加rclone的配置,配置保存在.rclone.conf文件中。
rclone copy - 將文件從源復(fù)制到目的地址,跳過已復(fù)制完成的。
rclone sync - 將源數(shù)據(jù)同步到目的地址,只更新目的地址的數(shù)據(jù)。
rclone move - 將源數(shù)據(jù)移動(dòng)到目的地址。
rclone delete - 刪除指定路徑下的文件內(nèi)容。
rclone purge - 清空指定路徑下所有文件數(shù)據(jù)。
rclone mkdir - 創(chuàng)建一個(gè)新目錄。
rclone rmdir - 刪除空目錄。
rclone check - 檢查源和目的地址數(shù)據(jù)是否匹配。
rclone ls - 列出指定路徑下所有的文件以及文件大小和路徑。
rclone lsd - 列出指定路徑下所有的目錄/容器/桶。
rclone lsl - 列出指定路徑下所有文件以及修改時(shí)間、文件大小和路徑。
rclone md5sum - 為指定路徑下的所有文件產(chǎn)生一個(gè)md5sum文件。
rclone sha1sum - 為指定路徑下的所有文件產(chǎn)生一個(gè)sha1sum文件。
rclone size - 獲取指定路徑下,文件內(nèi)容的總大小。.
rclone version - 查看當(dāng)前版本。
rclone cleanup - 清空remote。
rclone dedupe - 交互式查找重復(fù)文件,進(jìn)行刪除/重命名操作。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
禁止轉(zhuǎn)載,如需轉(zhuǎn)載請(qǐng)通過簡信或評(píng)論聯(lián)系作者。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容