使用Rclone实现minio数据的迁移

1、概述

1.1环境信息

一个项目由1个服务器迁移到另外一个服务器,对应该的存储minio也需要进行同步迁移
minio集群地址 桶名 备注
http://minio.old:9000 document旧
http://minio.new:9000 document新

1.2使用工具

rclone:开源的对象存储在线迁移工具,用于文件和目录的同步,支持阿里云的oss、minio 、亚马逊S3

2、部署实现

2.1 rclone安装

# 方法1. 在线下载
# curl -O http://downloads.rclone.org/rclone-current-linux-amd64.zip
# 方法2. 在线下载
# wget https://downloads.rclone.org/rclone-current-linux-amd64.zip

# 安装解压缩的依赖
# yum -y install unzip

# 解压
unzip rclone-v1.56.0-linux-amd64.zip
# 赋权
chmod 0755 ./rclone-v1.56.0-linux-amd64.zip/rclone
# 拷贝到 /usr/bin/ 可以直接使用 rclone命令
cp ./rclone-v1.56.0-linux-amd64.zip/clone /usr/bin/
# 删除源文件
rm -rf ./rclone-v1.56.0-linux-amd64.zip
  • 生成配置文件
    生成的文件位置:/root/.config/rclone/rclone.conf
# ./rclone config
rclone config

2.2 配置参数

2021/09/30 10:50:23 NOTICE: Config file "/root/.config/rclone/rclone.conf" not found - using defaults
No remotes found - make a new one
n) New remote
s) Set configuration password
q) Quit config
# 新建一个配置文件
n/s/q> n

name> minio
Storage> s3
provider> Minio
env_auth> false
access_key_id> minio
secret_access_key> 123
region> 
endpoint> http://172.23.27.112:9000
location_constraint>
acl> 3
server_side_encryption> 
sse_kms_key_id> 

# 高级配置(结束)
Edit advanced config?
y) Yes
n) No (default)
y/n> n

2.3 rclone配置文件

路径:/root/.config/rclone/rclone.conf

[minio]
type = s3
provider = Minio
env_auth = false
access_key_id = XXX(账户key)
secret_access_key = XXX(密码key)
region = cn-east-1
endpoint = http://minio.old:9000
location_constraint = 
server_side_encryption = 
acl = bucket-owner-full-control
 
[minio1]
type = s3
provider = Minio
env_auth = false
access_key_id = XXX
secret_access_key = XXX
region = cn-east-1
endpoint = http://minio.new:9000
location_constraint = 
server_side_encryption = 
acl = bucket-owner-full-control

2.4 开始迁移

rclone sync old:document new:document

3、常用命令

rclone config - 以控制会话的形式添加rclone的配置,配置保存在.rclone.conf文件中。
rclone copy - 将文件从源复制到目的地址,跳过已复制完成的。
rclone sync - 将源数据同步到目的地址,只更新目的地址的数据。
rclone move - 将源数据移动到目的地址。
rclone delete - 删除指定路径下的文件内容。
rclone purge - 清空指定路径下所有文件数据。
rclone mkdir - 创建一个新目录。
rclone rmdir - 删除空目录。
rclone check - 检查源和目的地址数据是否匹配。
rclone ls - 列出指定路径下所有的文件以及文件大小和路径。
rclone lsd - 列出指定路径下所有的目录/容器/桶。
rclone lsl - 列出指定路径下所有文件以及修改时间、文件大小和路径。
rclone md5sum - 为指定路径下的所有文件产生一个md5sum文件。
rclone sha1sum - 为指定路径下的所有文件产生一个sha1sum文件。
rclone size - 获取指定路径下,文件内容的总大小。.
rclone version - 查看当前版本。
rclone cleanup - 清空remote。
rclone dedupe - 交互式查找重复文件,进行删除/重命名操作。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
禁止转载,如需转载请通过简信或评论联系作者。

推荐阅读更多精彩内容