minio服务数据迁移-rclone迁移工具

一、背景:

在生产运行过程中经常有遇见数据迁移的工作,这里介绍了如何进行minio服务的数据迁移过程。

二、迁移思路:

  1. minio服务/集群的数据迁移思路是需要新建一个配置、密码一样的minio服务/集群;
  2. 在中间服务器上安装rclone工具,确保该服务器能访问新旧的minio服务/集群;
  3. 修改rclone配置文件,明确源端和目标配置;sync支持增量同步,可以工作时间做好全量迁移,在迁移时进行增量迁移;
  4. 执行sync命令进行数据同步工作;
  5. 验证业务是否恢复正常;

三、迁移过程:

(一)、创建目标minio服务

创建目标端端minio服务/集群。这里忽略;

(二)、在中间服务器上安装rclone服务

1.安装包上传虚机/home路径

# /home/rclone-v1.62.2-linux-amd64.zip

2.安装解压缩服务

# yum -y install unzip

3.解压

# unzip rclone-v1.62.2-linux-amd64.zip

4.赋执行权

chmod +x /home/rclone-v1.62.2-linux-amd64/rclone

5.生成配置文件

rclone生成的文件路径:/root/.config/rclone/rclone.conf

# pwd 

/home/rclone-v1.62.2-linux-amd64

配置文件生成

# ./rclone config

Current remotes:
n) New remote
s) Set configuration password
q) Quit config
n/s/q> q
注:这里不需要通过这种方式直接去修改配置,可以直接修改配置文件的。

(三)、配置rclone数据同步配置文件

# cat /root/.config/rclone/rclone.conf 
[old] #历史minio服务
type = s3
provider = Minio
env_auth = false
access_key_id = xxxxxx
secret_access_key = xxxxxx
region = cn-east-1
endpoint = http://10.0.176.163:22829
location_constraint = 
server_side_encryption = [new] #新minio服务
type = s3
provider = Minio
env_auth = false
access_key_id = xxxxxx
secret_access_key = xxxxxx
region = cn-east-1
endpoint = http://10.0.176.163:20445
location_constraint = 
server_side_encryption = 

注:这里需要修改的地方有如下:

minio服务的access值:

access_key_id = xxxxxx

minio服务的secret值:

secret_access_key = xxxxxx

minio服务的地址:

endpoint = http://10.0.176.163:22829

(四)、执行数据同步命令 

将源端数据同步到目标端,只更新目的地址的数据。获取源集群Buckets名称;

(1)执行迁移

rclone 命令格式

rclone sync old:Buckets new:Buckets

执行迁移

1、进入rclone解压目录

# cd /home/rclone-v1.62.2-linux-amd64

2、Buckets名称保持一致,执行等待

#./rclone sync old:nacos new:nacos

(五)、验证数据 

验证目标端端数据是否和源端是否一致,就是直接登入到minio服务上,对接数据即可。


 到此,minio服务的数据同步就完成了,数据同步的时间,跟数据量有关的,一个桶里的数据很大,同步就慢。 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/593103.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

atoi函数的模拟实现

这里强力推荐一篇文章 http://t.csdnimg.cn/kWuAm 详细解析了atoi函数以及其模拟实现,我这里就不说了。 这里作者先把自己模拟的代码给大家看一下。 int add(char* arr) {char* arr2 arr;while (*arr!-48){arr;}arr--;int sum 0;int n 0;while (arr ! (arr2-…

如何构建高效测试体系?掌握5大自动化测试模式就够了

软件开发过程中,高效的自动化测试体系是提升测试效率、保证产品质量关键,一个全面的测试体系涵盖多个维度,从功能性到用户界面,再到性能和安全性。 每个维度均采用不同的测试模式来满足特定的需求和解决特别的挑战,本…

快速打通 Vue 3(三):Vue3 中的 watch 监听器与新特性

很激动进入了 Vue 3 的学习,作为一个已经上线了三年多的框架,很多项目都开始使用 Vue 3 来编写了 这一组文章主要聚焦于 Vue 3 的新技术和新特性 如果想要学习基础的 Vue 语法可以看我专栏中的其他博客 Vue(一):Vue 入…

风向再生变!智能汽车「竞合」博弈升级

新一轮科技革命影响下,全球汽车产业产品形态和格局被重塑,深度变革也随之而至。 高工智能汽车研究院监测数据显示,中国智能电动市场渗透率从2018年的0.32%(占全部新能源车交付量)快速提升至2022年的41.84%&#xff1b…

精选免费API接口汇总

笑话大全:各种最新、最及时的幽默、搞笑段子,不间断更新。历史上的今天:看看历史上的今天,都发生了什么重大事件。周公解梦 :周公解梦大全,周公解梦查询,免费周公解梦。标准体重计算器:身体质量…

为什么国产操作系统是基于linux研发的呢?

为什么国产操作系统是基于linux研发的呢? 在开始前我有一些资料,是我根据自己从业十年经验,熬夜搞了几个通宵,精心整理了一份「Linux的资料从专业入门到高级教程工具包」,点个关注,全部无偿共享给大家&…

2023年AIGC发展回顾与展望

2023年是人工智能内容生成(AIGC)技术飞速发展的一年。从年初ChatGPT一炮打响,大家纷纷加入到大模型研究之中。期间Midjourney和Stable Diffusion AI绘画技术持续火热,基于AIGC类的应用也如雨后春笋般遍地开花。万众瞩目的OpenAI G…

SpringCloud Feign-声明性Http请求以及Hystrix-Http请求的熔断配置

1、OpenFeign 1.1 概述 – Feign是一个声明性web服务客户机。它使编写web服务客户机变得更容易。 – 它的使用方法是定义一个服务接口并在上面添加注解。 – Feign支持可插拔编码器和解码器。 – Spring Cloud对Feign进行了封装,使其支持SpringMVC标准注解和Httpttp…

1.1 理解大数据(2)

小肥柴的Hadoop之旅 1.1 理解大数据(2) 目录1.1 理解大数据1.1.3 大数据概述1.1.4 更多思考 参考文献和资料 目录 1.1 理解大数据 1.1.3 大数据概述 step_0 大数据定义 【《大数据算法设计分析》】: 通常来讲大数据(Big Data&am…

生态系统服务构建生态安全格局中的实践技术应用

生态安全是指生态系统的健康和完整情况。生态安全的内涵可以归纳为:一,保持生态系统活力和内外部组分、结构的稳定与持续性;二,维持生态系统生态功能的完整性;三,面临外来不利因素时,生态系统具…

解决jenkins的Exec command命令不生效,或者执行停不下来的问题

Jenkins构建完后将war包通过 Publish Over SSH 的插件发布到服务器上,在服务器上执行脚本时,脚本中的 nohup 命令无法执行,并不生效,我配置的Exec command命令是后台启动一个war包,并输出日志文件。 nohup java -jar /…

MySQL数据库连接超时和自动重连

1、当我们连接一个数据库的时候,当ip是错的,但是他还是很耗时间的,大概30s之后才会通知连接失败,该操作是十分费时的 所以可以使用 //&是你自己初始化的数据库名字 //&time3表示3秒连接不上,直接报错 int ti…

批量美化图片:让您的图片库焕然一新!

您是否曾经遇到过这样的问题:在处理大量图片时,一张一张地调整时间和精力成本太高?现在,我们为您带来了一款全新的批量图片美化工具,让您轻松解决这个问题! 首先, 我们要进入首助编辑高手主页面…

(每日持续更新)jdk api之BufferedReader基础

(每日持续更新)jdk api之BufferedReader基础 1.8 BufferedReader BufferedReader 是 Java 中 Reader 的缓冲流实现,用于提高读取字符数据的性能。它提供了一些额外的属性和方法,以增强对字符流的操作。 以下是 BufferedReader …

/etc/profile文件一不小心改坏了,所有命令无法执行了怎么办?

转载说明:如果您喜欢这篇文章并打算转载它,请私信作者取得授权。感谢您喜爱本文,请文明转载,谢谢。 问题描述: 在部署jdk的时候,修改/etc/profile文件,文件改得有问题,但是当时没有…

【二】CocosCreator-CCGame.js源码分析

PS:只是看源码学习过程中把认为重要的内容以笔记的形式记录下来。 【1】config:当前游戏的一些配置 1.debugMode:用于控制输出日志的级别 2.showFPS:是否显示FPS 3.exposeClassName 4.frameRate:设置游戏帧率 5.id 6.…

redis单机部署

一、下载redis压缩包tar.gz 官网下载,现在一般用6.x以上版本 二、上传指定目录,解压缩 #假如上传到redis用户的家目录 cd /home/redis tar -zxvf redis-6.2.14.tar.gz 三、进入解压缩目录,进行编译 cd redis-6.2.14 make &&a…

SSH以及Dropbear介绍

SSH 1、什么是SSH (1)SSH仅仅是一种协议标准,目的是实现安全远程登录及安全网络服务。 2、实现SSH的工具有哪些 (1)开源OpenSSH,使用最广泛。 (2)Dropbear,轻量级SSH。 3、SSH可以实现的功能场景 (1)安全远程登录 (2)安全的端口转发 ①本地端…

【elfboard linux开发板】5.vmware tools安装及uart属性的获取和设置

1. 安装VMware tools 系统:ubuntu22.04 虚拟机版本:VMware workstation 16 pro(16.1.2) VMware tools文件(iso)一般在虚拟机目录下,如果没有,这是下载网址,找到对应的虚拟机版本下载…

ARM笔记-----输入捕获

输入捕获可以对输入的信号的上升沿、下降沿或者双边沿进行捕获,常用的有测量输入信号的脉 宽,和测量 PWM 输入信号的频率和占空比这两种。 输入捕获的大概的原理 当捕获到信号的跳变沿的时候,把计数器 CNT 的值锁存到捕获寄 存器 CCR 中…