国产分布式数据库灾备高可用实现

最近在进行核心业务系统的切换演练测试，就在想一个最佳的分布式数据库高可用部署方案是如何保证数据不丢、系统可用的，做到故障时候可切换、可回切，并且业务数据的一致性。本文简要介绍了OceanBase数据库和GoldenDB数据库在灾备高可用的部署方案，以参考。

在生产环境数据库相关的变更操作时，可能因为DML或DDL操作导致数据被篡改或者表结构不可逆，此时需要数据库提供一种高可用机制和能力恢复到变更前的时点，以保证业务的连续性。主要有两种思路，一种是闪回功能将数据恢复到变更操作的时点；另一种是延迟复制，备节点和主节点之间的数据复制设置一个延迟时间，主节点出现逻辑上的误操作时，利用备节点延迟同步来恢复数据。

1）闪回功能

国产数据库中很多已支持闪回功能，比如TiDB、GaussDB、OpenGauss、OceanBase等。以GaussDB为例在Ustore引擎中闪回功能，通过参数enable_recyclebin控制回收站的实时打开和关闭。并通过recyclebin_retention_time参数设置回收站对象保留时间，超过该时间的回收站对象将被自动清理。

2）延迟复制

在主备部署架构的数据库中，基本都能实现延迟复制功能，像MySQL、OpenGauss这样的单实例数据库。比如在OpenGauss数据库中的延迟复制，允许将回放延时一段指定的时间后进行回放，提供一份可查询一段时间之前的数据副本；在MySQL数据库中通过MASTER_DELAY来配置主节点和备节点的复制延迟。

在集中式主备架构的延迟复制实现基础之上，分布式数据库在架构上如何实现延迟复制以保证高可用。对于分布式架构的难点之一是如何确保故障场景下各个分片之间的数据一致性。对于国产分布式数据库OceanBase、GoldenDB以及TiDB等，已经有不少成熟的方案。本文将重点介绍OceanBase数据库的物理备库方案和GoldenDB数据库的DRSP灾备集群方案，不仅仅实现了延迟复制功能，而且满足灾备切换方案的多样性和灵活性，如异地灾备方案和孤岛验证方案。

1、OceanBase数据库物理备库方案

OceanBase数据库支持多副本的高可用容灾方案，同时也支持基于物理备库的准实时热备份方案。当生产主库出现故障时，备库可以接管服务，最大限度降低服务停机时间，减少可能带来的数据损失。从V4.1.0版本开始，OceanBase数据库按照租户粒度提供物理备库能力，分为主租户和备租户：主租户是业务运行的租户，提供完整的数据库服务能力；备租户只提供容灾和只读服务能力。

OceanBase的物理备库主要通过日志传输服务和日志存储服务来完成日志的传输及存储，并通过日志回放服务来保证主备租户数据的一致，其中：

  • 日志传输服务在主租户和备租户之间实时同步 Redo 日志。当前OceanBase数据库物理备库仅提供异步同步模式。
  • 日志存储服务为物理备库提供高可用、高可靠的日志存储和读写能力。
  • 备租户写入日志存储服务的日志会通过日志回放服务实时或延后地应用到内存的MemStore之中，以保证主租户和备租户的数据完全一致。
1.1 物理备库的部署方案

OceanBase物理备库的部署方案中，可以按照集群中主租户和备租户进行不同的组合，主租户和备租户可以在同一个集群中，也可以在不同的集群中。典型的部署方案有几种：

  1. 集群中仅有主租户或备租户：包括多个OceanBase集群，业务租户在一个集群，备租户在另外一个集群，中间采用异步复制的方式，满足异地容灾的高可用需求；
  2. 集群中既有主租户又有备租户：多中心多活的部署架构，不同地域之间的集群互为主备；
  3. 主租户和备租户在同一个集群中：主备租户在同一个集群中进行管理，适用于数据库变更或升级的场景，又不需要增加额外的管理集群资源。

在这里插入图片描述

第三种部署架构适合租户在升级或者数据库变更操作前，在备租户中保留一份数据库快照，将被租户的同步暂停。业务在主租户上进行升级变更等操作，如果变更异常，将备租户切换为主租户对外提供服务，以保证业务的连续性。

1.2 物理备库的日志传输

物理备库通过日志传输服务在主租户和备租户之间实时同步Redo日志，备租户既可以通过主租户的日志归档来获取日志，也可以通过网络直连主租户所在的集群来获取日志。

  • 基于日志归档的物理备库：主租户开启日志归档将日志归档到目标存储（OSS/NFS）中，备租户恢复归档日志实现数据同步；需要主租户和备租户开启归档模式。
  • 基于网络传输的物理备库：备租户直接通过网络连接主租户或其他备租户读取日志，类似于MySQL数据库的复制方式。

在这里插入图片描述

在基于网络传输的部署模式下，备租户从主租户读取的日志，既可以是主租户的在线日志，也可以是主租户的归档日志。同时这种模式下支持集群级别的限速。

1）暂停或开启日志同步

#登录备租户或所在集群的sys租户，执行命令暂停租户日志同步
ALTER SYSTEM RECOVER STANDBY [TENANT = tenant_name] CANCEL ;
#登录备租户或所在集群的sys租户，执行命令开启租户日志同步
ALTER SYSTEM RECOVER STANDBY [TENANT = tenant_name] UNTIL UNLIMITED;

需要注意的是，暂停日志同步后，备租户不会再从主租户同步任何日志，尽量避免因暂停日志同步而导致的备租户日志断流。

2）查看日志同步进度

#执行SQL查看备租户同步进度
SELECT TENANT_NAME, TENANT_ID, TENANT_ROLE, SCN_TO_TIMESTAMP(SYNC_SCN) 
FROM oceanbase.DBA_OB_TENANTS WHERE TENANT_NAME = 'standby_tenant';
+----------------+-----------+-------------+----------------------------+
| TENANT_NAME    | TENANT_ID | TENANT_ROLE | SCN_TO_TIMESTAMP(SYNC_SCN) |
+----------------+-----------+-------------+----------------------------+
| standby_tenant |      1004 | STANDBY     | 2023-04-14 16:38:53.938774 |
+----------------+-----------+-------------+----------------------------+
1 row in set

3）设置同步限速

适用于集群之间备租户同步限速

  • standby_fetch_log_bandwidth_limit：用于设置备租户所在集群中，可用于备租户从主租户或源端租户进行日志同步的所有带宽的总和。
  • _server_standby_fetch_log_bandwidth_limit：用于设置备租户所在集群的单个 OBServer 节点中，可用于备租户从主租户或源端租户进行日志同步的带宽。
1.3 日志存储服务

OceanBase数据库中日志存储服务使用Paxos协议实现高可用，其中主租户和备租户中的日志存储服务使用了不同的工作模式：

  • APPEND模式：主租户上使用APPEND模式。在该模式下，主租户日志流的Leader会接收事务、DDL等上层模块写入的数据，并将这些数据在主租户的多个副本之间使用 Paxos 协议进行同步并持久化。
  • RAW_WRITE模式：备租户上使用RAW_WRITE模式。在该模式下，备租户日志流的Leader拒绝任何上层模块直接写入的数据，仅允许通过日志传输服务从主租户同步物理日志，且这些物理日志的内容、LSN、SCN等信息均由主租户生成。

在数据同步过程中，每一条日志都会在主租户上生成一组唯一的LSN和SCN值。其中，LSN用于定位这条日志在存储服务中的物理位置信息；SCN用于代表这条日志在存储服务中的时序关系，上层服务可以使用SCN值对多个日志流之间的日志进行定序。

另外，无论是主租户还是备租户，在Paxos Group日志流副本中都会有LEADER和FOLLOWER两种角色。对于主租户，其业务数据是在日志流的Leader节点上写入，再同步给所有Follower节点；对于备租户，日志流的Leader节点主要负责通过日志传输服务从主租户同步日志，并将同步过来的日志再同步给Paxos Group中的Follower节点。

1.4 主租户和备租户切换

OceanBase数据库的主租户和备租户可以通过SwitchOver和Failover操作动态改变租户角色：

  • Switchover：在用户计划内对租户角色进行变更。执行 Switchover操作后，主租户会与对应的备租户会交换租户角色，整个过程数据不丢失RPO = 0，执行时间一般为秒级。
#将主租户切换为备租户
ALTER SYSTEM SWITCHOVER TO STANDBY TENANT = tenant_name;
#将备租户切换为主租户
ALTER SYSTEM SWITCHOVER TO PRIMARY TENANT = tenant_name;
  • Failover：在主租户出现无法恢复的故障时所做的切换行为。执行Failover操作后，对应的备租户角色会变换成主。同时，如果对主租户故障前一直正常同步的备租户执行Failover操作，则执行Failover操作后，一般会产生百毫秒级别的数据损失，执行时间一般为秒级。
#将备租户切换为主租户
ALTER SYSTEM ACTIVATE STANDBY TENANT = tenant_name;

Failover操作需要在操作执行完成后达到数据一致的状态，故系统会选择所有日志流的同步位点中SCN最小的值作为Failover的执行位点。执行Failover操作后，租户下的所有日志流都会统一回退到该位点。

2、GoldenDB数据库

在这里插入图片描述

GoldenDB分布式数据库除了支持同一套集群多中心的部署架构外，还支持DRSP的灾备部署方案。DRSP高可用架构包括生产库和灾备库/应急库，生产库是正常对外提供服务的GoldenDB集群；灾备库正常情况不提供服务，从生产库复制数据的GoldenDB系统，用于提供灾难、应急等场景下的紧急启动能力，代替生产库提供服务。如果所示，DRSP灾备集群运行有三种模式：

  1. 数据同步模式：元数据、GTM数据、数据节点分别从源端生产库同步到目标端灾备库，可通过配置延时时间让同步过来的数据延时应用到灾备库上。
  2. 数据恢复模式：应用、检查、修复同步过来的数据，使最终数据满足分布式一致性要求。
  3. 服务模式：启用灾备集群，对外提供服务，，提供GoldenDB系统绝大部分正常功能。

这种部署方案的优点是生产集群和灾备集群单独维护，故障互不影响。相比较异地故障切换或者灾备孤岛演练，在切换方案上更为迅速灵活。相对应的缺点就是需要单独维护两套系统，增加了运维的复杂度。

2.1 不同模式切换

1）数据同步模式

正常情况下，生产库处于服务模式，此时灾备库应当进入延时复制模式（sync模式）接入生产库。执行以下命令进入延时复制模式：

sh AllControl.sh -sync 1 -delay_time=

delay_time填写延时应用的时间，单位为秒；如果不需要延时则填0

2）数据恢复模式

当生产库发生故障或误操作时，需要切换至灾备库进行接管，此时灾备库应当先进入数据恢复模式（recovery模式）恢复数据，再切换至服务模式对外提供服务。

  • 命令退出延时复制模式
sh AllControl.sh -stopsync 1
  • 指定需要回放到的时刻或GTID
#指定回放时刻
sh bat_mod_relaytime.sh 1 "RELAY_TIME"
#回放所有relay log
sh bat_mod_relaytime.sh 1 ""
#指定回放的GTID

三种场景中记录下的回放时刻在回切时会作为生产库元数据同步的起始时刻

  • 进入灾备库数据恢复模式
sh AllControl.sh -recover 1

3）数据服务模式

数据恢复完成后，通过以下步骤切换至服务模式

sh AllControl.sh -service 1

当灾备库不再需要服务时，执行命令退出服务模式

2.2 灾备库回切

当灾备库服务一段时间以后，需要将服务回切至生产库，要求生产库数据和灾备库基本一致。此时可以将生产库和灾备库角色对调，将生产库接入当前已服务的灾备库中，从灾备库同步数据。停止灾备库业务，等待生产库同步数据完成后启动生产库，由生产库提供服务。

  • 登录生产库某一管理节点服务器，将生产库退出服务模式
sh AllControl.sh -stopservice 1
  • 生产库集群1停服
sh start_stop_service.sh -stop_dbproxy 1
  • 修改元数据同步起始时刻，回滚生产库集群至一致性时刻，并进行分片数据一致性校验
sh bat_mod_laststamp.sh "1" "2024-01-01 10:00:00"
其中1为集群ID，"2024-01-01 10:00:00"为元数据同步起始时刻，该时刻根据灾备库进行恢复时设置的恢复时间确定
  • purge生产库完成回滚且主备数据一致的分片
  • 生产库进入延时复制模式
sh AllControl.sh -sync 1 -delay_time=0
  • 逐步停掉灾备库上的业务，让proxy上所有事务都提交。禁用灾备库集群1，停止该集群绑定的所有proxy进程。
  • 生产库退出复制模式并进入服务模式
  • 灾备库退出服务模式并进入延迟复制模式
2.3 灾备演练场景回切

在灾备孤岛等演练场景下，灾备站点和生产站点孤岛隔离，演练结束后，需要将灾备站点的数据回滚到演练前的时刻。GoldenDB数据库的DRSP复制方案中提供了闪回功能，将数据闪回到灾备库恢复之后，提供服务之前的一个时刻。

  1. 快照持久化：针对灾备库，在灾备库执行服务模式起连接实例之前，将当前灾备库的快照点持久化到RDB库。为后续的闪回提供服务。
  2. 闪回：将灾备库服务模式下产生的业务恢复至快照点，方法是执行性反向sql，所以灾备库服务期间，如果有DDL，可能会失败。此时根据实际情况，看是否需要备份恢复。
  3. 备机回放检查：闪回功能是通过在主机上执行反向sql来完成回滚操作，所以备机可以以同步回放的方式进行数据同步。所以需要所有备机回放完全完成才可以下一步的purge。
  4. purge：闪回通过反向sql实现的，所有本身的灾备库gtid_set会一直增加，所以需要通过purge操作将gtid_set恢复至快照时刻。

以上是OceanBase数据库和GoldenDB数据库延迟复制和灾备的高可用实现方案简单总结，实际实现过程更为复杂，以官方的文档材料为准。

参考资料：

  1. https://www.oceanbase.com/docs/common-oceanbase-database-cn-1000000000818706
  2. GoldenDB数据库DRSP双集群同步

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/diannao/39619.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

kafka的架构

kafka的架构

一、架构图 Broker：一台 kafka 服务器就是一个 broker。一个kakfa集群由多个 broker 组成。一个 broker 可以容纳多个 topic。 Producer：消息生产者，就是向 kafka broker 发消息的客户端 Consumer：消息消费者，向 kafk…
阅读更多...
深海电波，智能驾驭：海上发电系统中的先进网关技术

深海电波，智能驾驭：海上发电系统中的先进网关技术

随着技术的不断演进，海上风电场逐渐走向深海，随之而来的高速通信保障成为一大难题。同时，海上风电特殊的环境与部署技术，也给运维带来了作业难、成本高、响应慢等困难。通过在沿海岸边建立高站，结合超远覆盖、载波聚合…
阅读更多...
springboot java.lang.ClassNotFoundException: dm.jdbc.driver.DmDriver 应该如何解决

springboot java.lang.ClassNotFoundException: dm.jdbc.driver.DmDriver 应该如何解决

遇到的问题：项目中引用了外部的达梦jar包 在idea中正常使用 也能找到dm.jdbc.driver.DmDriver 驱动 但是当通过jenkins 构建部署到服务器上 总是报 ClassNotFoundException: dm.jdbc.driver.DmDriver 找不到驱动 应用到的驱动代码如下格式 排查步骤 1.首先看你的项…
阅读更多...
ROS2仿真工具-gazebo

ROS2仿真工具-gazebo

gazebo独立于ROS2，就像插件一样，需要安装。 1.安装 sudo apt install gazebo sudo apt install ros-humble-gazebo-* 2.运行测试demo gazebo /opt/ros/humble/share/gazebo_plugins/worlds/gazebo_ros_diff_drive_demo.world 查看所有话题 ros2 top…
阅读更多...
0052__windows下实现socketpair函数

0052__windows下实现socketpair函数

windows下实现socketpair函数_socketpair windows 实现-CSDN博客 socketpair函数介绍及使用-CSDN博客
阅读更多...
使用css做一个旋转的八卦图

使用css做一个旋转的八卦图

使用css做一个旋转的八卦图 1, html部分 <div class"tai"><div class"bai"></div><div class"hei"></div> </div>2, css部分 .tai{width: 200px;height: 200px;border: 1px solid #000;background: linea…
阅读更多...
工业路由器的应用

工业路由器的应用

上文讲了工业路由器与家用路由器的区别, 家用路由器的使用场景想必大家都不陌生&#xff0c;那么工业路由器可以具体应用在哪些领域呢&#xff1f; 工业路由器凭借其多接口、多协议、宽温宽压等工业设计特性&#xff0c;可以广泛应用于各类工业化场景&#xff0c;为各类工业传…
阅读更多...
STM32中的I2S（Inter-IC Sound）接口和SA接口（Serial Audio Interface）的区别

STM32中的I2S（Inter-IC Sound）接口和SA接口（Serial Audio Interface）的区别

STM32中的I2S&#xff08;Inter-IC Sound&#xff09;接口和SA接口&#xff08;这里的SA可能指的是SAI&#xff0c;Serial Audio Interface&#xff09;虽然都用于音频数据传输&#xff0c;但它们在设计目标、功能特性和应用场景上存在一些区别&#xff1a; I2S (Inter-IC Sou…
阅读更多...
STM32-I2C硬件外设

STM32-I2C硬件外设

本博文建议与我上一篇I2C 通信协议​​​​​​共同理解 合成一套关于I2C软硬件体系 STM32内部集成了硬件I2C收发电路&#xff0c;可以由硬件自动执行时钟生成、起始终止条件生成、应答位收发、数据收发等功能&#xff0c;减轻CPU的负担 特点&#xff1a; 多主机功能&#x…
阅读更多...
Shiro框架

Shiro框架

入门概述 1 shiro是什么? Apache Shiro 是一个功能强大且易于使用的 Java 安全(权限)框架。Shiro 可以完成&#xff1a;认证、授权、加密、会话管理、与 Web 集成、缓存 等。借助 Shiro 您可以快速轻松地保护任何应用程序——从最小的移动应用程序到最大的 Web 和企业应用程…
阅读更多...
计算机网络网络层复习题1

计算机网络网络层复习题1

一. 单选题&#xff08;共27题&#xff09; 1. (单选题)以太网 MAC 地址、IPv4 地址、IPv6 地址的地址空间大小分别是&#xff08; &#xff09;。 A. 2^48&#xff0c;2^32&#xff0c;2^128B. 2^32&#xff0c;2^32&#xff0c;2^96C. 2^16&#xff0c;2^56&#xff0c;2^6…
阅读更多...
选对箱式压风自救装置提升煤矿生产效率

选对箱式压风自救装置提升煤矿生产效率

选对箱式压风自救装置提升煤矿生产效率&#xff0c;安全是煤矿稳定生产的基石&#xff0c;只有始终保持对安全的敬畏之心&#xff0c;才能确保矿区可持续发展和经济效益的稳步提升。 150简介 ZYJ-A型矿井压风自救装置是煤矿煤尘、瓦斯和二氧化碳突出矿井的实际情况&#xff0c…
阅读更多...
浅谈k8s中cni0和docker0的关系和区别

浅谈k8s中cni0和docker0的关系和区别

最近在复习k8s网络方面的知识&#xff0c;查看之前学习时整理的笔记和文档还有过往自己总结的博客之后发现一个问题&#xff0c;就是在有关flannel和calico这两个k8s网络插件的文章和博客中&#xff0c;会涉及到cni0和docker0这两个网桥设备&#xff0c;但是都没有明确说明他们…
阅读更多...
C# WPF自制批注工具(方便标记重点和演示)

C# WPF自制批注工具(方便标记重点和演示)

在教学和演示中&#xff0c;我们通常需要对重点进行批注&#xff0c;下载安装第三方工具批注显得很麻烦。本篇使用WPF开发了一个批注工具&#xff0c;工具小巧&#xff0c;功能丰富&#xff0c;非常使用日常免费使用&#xff0c;或者进行再次开发。 自制批注工具具有以下功能特…
阅读更多...
AUTOSAR NvM模块(五)

AUTOSAR NvM模块(五)

NvMRbCallbackSignatureAR45 改变回调函数的参数类型。 TRUE&#xff1a;根据AR44及之后版本&#xff0c;回调函数使用NvM_<Multi;Init>BlockRequestType参数类型。详细的函数调用参数请参考回调参数。 FALSE&#xff1a;根据AR43及之前版本&#xff0c;回调函数使用S…
阅读更多...
GPT-5 一年半后发布，对此你有何期待？

GPT-5 一年半后发布，对此你有何期待？

CHATGPT5&#xff1a;未来一年内的期待与挑战 随着人工智能技术的飞速发展&#xff0c;自然语言处理&#xff08;NLP&#xff09;领域的突破不断涌现。在这一背景下&#xff0c;CHATGPT系列模型作为NLP领域的佼佼者&#xff0c;其每一次的更新都牵动着业界的目光。当得知CHATG…
阅读更多...
Spring Boot中泛型参数的灵活运用：最佳实践与性能优化

Spring Boot中泛型参数的灵活运用：最佳实践与性能优化

泛型是Java中一种强大的特性&#xff0c;它提供了编写通用代码的能力&#xff0c;使得代码更加灵活和可复用。在Spring Boot应用程序中&#xff0c;泛型参数的灵活运用可以带来诸多好处&#xff0c;包括增强代码的可读性、提高系统的健壮性以及优化系统的性能。本文将深入探讨在…
阅读更多...
Flask 数据创建时出错

Flask 数据创建时出错

当我们在使用 Flask 创建数据时遇到错误&#xff0c;可能有多种原因&#xff0c;包括代码错误、数据库配置问题或依赖项错误。具体情况我会总结成一篇文章记录下&#xff0c;主要是归类总结一些常见的解决方法和调试步骤&#xff0c;帮助大家解决问题&#xff1a; 1、问题背景 …
阅读更多...
2024.7.2 随笔 控制内心的焦虑

2024.7.2 随笔 控制内心的焦虑

文章目录 前言2024.7.2 随笔 控制内心的焦虑人生的新阶段冒名顶替综合征年龄焦虑、职业焦虑未来的计划 前言 我已经记不清楚&#xff0c;好久没有这样写长篇的博文&#xff0c;或者说是&#xff0c;感悟吧。起因是刷到了一个博主的视频&#xff0c;真的治愈了我的内心&#xf…
阅读更多...
OFDM技术概述8——FBMC

OFDM技术概述8——FBMC

Filter bank multicarrier(FBMC&#xff0c;滤波器组多载波)&#xff0c;是一种类似于OFDM的调制方式&#xff0c;用滤波器抑制子载波的旁瓣大小&#xff0c;使用FFT/IFFT或多相滤波器实现&#xff0c;其应用于5G的主要优势&#xff1a; 子载波信号带限&#xff0c;带外泄漏小…
阅读更多...
最新文章

Copyright @ 2022~2023