OceanBase开发者大会实录-李楠:4条路径+6大方案,关键业务系统数据库的升级之路

本文来自2024 OceanBase开发者大会,OceanBase 金融与政企事业部解决方案总监李楠的演讲实录 ——《关键业务系统分布式数据库升级路线选择和技术演进之路》。完整视频回看,请点击这里>>

1715913084


大家好,我是 OceanBase 金融与政企事业部解决方案总监李楠。感谢各位嘉宾来到 OceanBase 开发者大会,今天我分享的主题是《关键业务系统分布式数据库升级路线选择和技术演进之路》。

1715913093

一、数据库升级路线选择

说到数据库,近几年我们经常会听到一个词:“替换”。这一次我们没有提“替换”,而是叫升级。因为这一次的数据库“替换”对于每个客户来说,都会有大量的人力、物力的投入,如果只是为了“替换”,如何有效支撑未来 5-10 年的业务发展?未来几年业务发展受限于技术,是否需要再次投入进行数据库升级?所以我们建议在数据库“替换”的同时,要考虑进行数据库架构和技术的升级。

众所周知,OceanBase 同时支持两种数据库:Oracle 和 MySQL,并且是“纯净”的支持。为什么是纯净的支持呢?在使用 OceanBase 时,首先要创建租户,并且选择租户类型是 Oracle 或 MySQL,后续的开发和运维,和原生的 Oracle 或 MySQL 都是类似的。记得大概三四年前,客户关心的是数据库是否支持某个数据库类型。随着认知的转变。现在客户更关心的是数据类型的精度是否和 Oracle、MySQL 一致,是否会带来运行结果的变化。所以,这里的“纯净”指的是OceanBase 没有将两种类型的数据库混合在一起。而基于 MySQL 数据库开发了 Oracle 兼容性,会带来包括精度在内的很多问题。

在金融、政企、运营商等领域,核心系统数据库升级实践总结起来有 4 条路线:

第一条是「 Oracle 路线」,大家都希望用最少的资源实现从 Oracle 到 OceanBase 的迁移。第二条是「DB2 路线」,DB2 里有两类,一类是大型机 DB2 下移,另一类是基于 Power 小型机的 DB2 下移。这里也分两种情况,有的客户之前使用 DB2 的 Oracle 兼容模式,这时迁移到 OB-Oracle 是代价最小的;有的客户替换 DB2 之后,希望改为 MySQL 路线,OceanBase 也支持这种升级路径。第四条是「 MySQL 路线」,直接将 MySQL 迁移至 OB-MySQL,这是最简单的一条升级路径。

之前大家在使用 Oracle、DB2 或者 MySQL 时,都会遇到一些挑战,而升级到OceanBase 后,目前存在的这些问题会得到解决:

○   第一,数据库的使用和运维成本。大型机和传统数据库的运维成本相对较高。

○   第二,数据库的峰值动态处理能力。现在很多业务都会有间断性峰值,比如在红包、秒杀场景下,传统集中式数据库都会面临性能瓶颈和扩展性的挑战。

○   第三,多基础设施。越来越多的客户不希望数据库只跑在一朵云上,因此会选择两朵云或三朵云,做数据库跨云部署。

○   第四,高可用性。分布式数据库相比传统集中式可以应对更多的的高可用场景,比如:两地三中心、三地五中心等。

对应 4 条升级路线,这里也举 4 个典型的数据库升级案例。

1. 中国移动:BOSS/CRM 核心系统 Oracle 数据库平滑升级

中国移动的 BOSS、CRM 核心系统之前大多使用 Oracle 数据库。运营商和金融客户不一样的地方在于,金融客户大多有专门的数字科技公司,有独立开发能力,可以把 Oracle 数据库改造为 MySQL,甚至数据库对他们来说只是查询和储存数据的工具,对数据库本身能力的要求不高。而运营商更多的是希望平滑替换,尽可能在改造小的情况下完成数据库升级。

OceanBase 在 2020 年开始做中国移动的数据库升级,去年完成某个省公司所有核心系统的数据库升级,现在多个省份的项目也都在实施中。

在中国移动,OceanBase 能实现 10 倍压缩率,可节省 90% 存储成本,并且提供业务方面的性能提升。部署架构上,某省份选择同城三中心部署,而华东某省选择两地三中心部署,其他省份也根据自身实际情况选择不一样的架构。可以支撑各种类型的部署架构也是中国移动选择 OceanBase 的一个原因,不会因为某个省份的应用独特性而需要选择多个数据库产品。

2. 交通银行:大型机 DB2 一步到位迁移至原生分布式数据库

交通银行的数据库升级路径是大型机 DB2 下移。在数据库升级之前,大型机的运维成本很高,升级至 OceanBase 后,合计总成本节约 7 亿元, TPS(每秒处理事务数)提升 6 倍,跑批效率提升超过 7 倍。

这里提到性能提升 6 倍,并不代表 OceanBase 的性能比 Oracle或 DB2 快 6 倍。无论是 Oracle 还是 DB2,传统单机数据库的单机性能都是很强的,这里的提升一方面是分布式数据库本身的优势带来的,另一方面是在项目实施过程中,我们会和客户、应用开发商一起,探讨现有架构是否有优化的可能性,为客户的业务带来整体的提升。

3. 云南红塔银行:微改动实现核心系统 DB2 数据库升级

这是一个小型机 DB2 下移的案例,和大型机下移不同,我们叫微改动。云南红塔银行之前采用小型机加 DB2 的架构,升级至 OceanBase 后,处理能力比原核心系统提升超过 30 倍。与交通银行类似,在数据库升级的过程中,OceanBase 帮助云南红塔银行重新设计了数据库和应用架构,在数据库升级的同时,为业务带来了更多的价值。

4. 中国联通:MySQL 数据库的平滑升级和自我演进

和中国移动的业务分省集中不同,中国联通业务是全国大集中。中国联通的 Oracle 、核心 MySQL 选择升级至商业版 OceanBase,非核心 MySQL 选择使用开源版 OceanBase。中国联通在 MySQL 数据库升级时,走了一条“平滑迁移和自我演进”的路线,基于 OceanBase 研发了 CUDB,即 China Unicom DB,在深度使用 OceanBase 开源版的同时,也对 OceanBase 的能力进行了扩展,比如联通实现了基于业务压力的租户自动扩缩容。

二、数据库升级的技术演进

关于核心系统数据库升级历程,有如下思考:

第一,业务价值是基线。数据库升级,不是为了升级而升级,而是基于企业自身业务价值的提升做出的选择。

第二,架构先行。如果只做单独几个数据库的升级,那么只需针对性地做数据迁移和应用适配工作。而现在越来越多的客户选择对企业整体业务的所有数据库做全面升级,这种情况下,需要要先设计整体的升级架构体系,这里的架构不仅仅是数据库层面,也可能涉及应用和底层基础设施。

第三,兼容性评估。数据库升级的成本需要预先评估,这里的成本包括软件成本、硬件成本、人员成本等等,评估可以让客户更好地了解项目的整体投入和时间周期。

第四,还需要评估升级风险。稳定第一,评估包括核心或关键业务系统的升级风险以及制定相应的规避方法。

1715913595

(一)具体流程

经过 OceanBase 多年在核心系统数据库升级方面的沉淀,我们总结出四步走的具体流程:

1715913628

1. 现状梳理

以 Oracle 升级至 OceanBase 为例,我们先通过 OMA 工具在数据库层面进行兼容性评估,另外还会分析 Oracle AWR 报告,AWR 报告能提供很多有价值的信息,如:业务压力、资源使用、可能的性能瓶颈点等。此外,还会通过调研的方式,梳理数据库和应用的现有架构和未来需求、上下游链路等信息,以获得现有数据库的全貌。

2. 初步验证

在现状梳理完成后,基于搭建的 OceanBase 测试环境进行应用的初步验证,这个阶段也包括后续应用和数据库架构的整体设计。在测试环境下,基于回放和应用功能测试进一步进行兼容性和性能验证。其中,回放指通过 OMA 工具捕获源端数据库的真实负载,并在OceanBas测试环境进行回放,目前支持回放的源端数据库包括 Oracle、MySQL,实现了在没有搭建应用环境的情况下,在数据库层面对系统性能进行整体评估。

3. 整体验证

除了进行可能的应用改造,如果涉及到架构升级,如之前是单中心部署,后续计划提升为两地三中心、三地五中心等部署架构,在整体验证里也会对后续架构进行验证和测试。另外在整体验证阶段还会进行基于全量生产数据的性能压测,以及与周边系统的联调测试。

4. 生产上线

最后的生产上线的流程,是从提前进行存量数据的全量抽取,到转为增量同步和数据校验,再到切流的应用验证的整体工具化流程。

(二)团队和资源规划

数据库升级项目需要双方甚至多方的配合,如果涉及到企业整体数据库的升级规划,建议成立项目管理委员会,委员会由项目各方的高层组成。数据库升级过程中重要事项由项目管理委员会来决策,比如项目的重要时间节点、应用的升级规划、各方资源调用等,实际实施可以交给项目组具体执行。其中甲方也可以分为三个大角色:

第一是应用开发,有些项目应用是客户自研,有些项目会涉及到第三方应用开发商;第二是数据库运维,在项目实施的过程中,我们之前遇到过转运维的问题,如上线之后运维厂商不清楚后续具体的项目情况,因此我们建议运维团队在项目的中期就开始介入;第三是基础环境的支持,包括服务器、网络等。

OceanBase 团队的架构,由项目经理、架构师、实施交付、研发、运维组成。具体职责可见下图。

1715913877

三、核心系统数据库升级,主要风险的识别与应对

核心系统数据库升级是一项攻坚战,在此过程中可能面临各种风险,这些风险需要我们提前识别,并有效应对。

(一)应用兼容性风险应对

应用兼容性是客户比较关心的问题,这涉及到需要改造多少应用,以及需要改造到什么程度等。

通过 OMA 工具进行兼容性分析和性能回放,并配合现状梳理阶段的调研信息,可以有效回答以下两个问题,第一,兼容性问题,即迁移后应用能不能跑;第二,性能问题,即迁移后应用跑得好不好。

1715913967

OceanBase 是一个标准化数据库产品,功能和性能在不断地迭代,比如:OceanBase 的 Oracle 和 MySQL 兼容性都在不断提升,并且因为 OceanBase 数据库的 Oracle 和 MySQL 租户在底层是同源的,所以可以将一些 Oracle 租户的功能方便地移植到 MySQL 租户,提升MySQL租户的使用便利性,如:DBLink、dbms_stats 包等Oracle特性,同样在OceanBase的MySQL租户上使用到。

针对客户提出的需求,OceanBase 也会按排期进行开发,并跟随后续的版本提供至客户使用,所以 OceanBase 提供至客户的版本,都是经过蚂蚁内部和其他客户打磨过的版本,不会把数据库软件像业务应用软件一样,直接提供给客户一个独立的定制化版本,这种方式虽然看上去比较容易满足客户需求,但是每个客户现场存在的可能都是孤版,这在后续的数据库升级维护或者 BUG 修复中都是灾难性的。

(二)架构风险应对

OceanBase 是单机一体化架构,数据库选型时在架构层面不用考虑是选择集中式还是分布式产品、产品是否可以支持两地三中心、三地五中心等各种部署架构。对于 OceanBase 数据库,各种使用场景和部署架构都可以支持。OceanBase 目前在 4C8G 的服务器环境就可以单机运行,如果后续需要提升高可用级别,在线添加两台服务器就可以将单机数据库升级为分布式数据库。

1715914010

我们在项目实践过程中还会经常遇到一个架构层面的风险点:耦合。 

1715914040

随着微服务的增加,应用和数据可能会出现多对多的关系。这种情况下,需要提前梳理清楚应用和数据库之间的关系,以及业务与数据库之间的关联点。比如一个应用访问 5 个数据库,一种方案是同时进行 5 个数据库的切换。如果应用只切换了其中一个数据库后,实际上原有的 4 个数据库和切换后的数据库是异构的,这就需要应用可以具备同时访问异构数据库的能力。

(三)资源和性能风险应对

OceanBase 的性能随着版本的迭代在不断提升,DB2、 MySQL 迁移至 OceanBase 都可以保证很好的数据库运行效率。此外。在迁移过程中,我们也会和客户一起探讨架构、应用、数据库等各个层面的性能优化点并执行。

OceanBase 还有一个特性是多租户。对很多客户来说,大规模应用或核心应用可以通过单租户搞定,但很多小应用,是否可以用多租户的方式整合?答案是肯定的。 

1715914073

那么,在多个小系统升级场景下,该如何选择方案?是选择 OceanBase 的单机化部署方案,还是使用多租户整合方案?我们建议优先选多租户方案。因为单机化部署方案只是 1:1 替换,运维和管理成本依然很高。通过租户整合多套应用的数据库,可以大幅提升资源使用率,降低运维成本。

那单机化部署适合哪些场景?目前一些企业的总部会用分布式数据库,而分支机构因为对于高可用和性能的要求较低,可以部署单机数据库。这是目前常见的单机版场景,我们也一直和客户探讨更多的单机分布式的适用场景。

业务系统进行大量的分布式数据库升级时,我们不建议直接根据业务自身需求申请 1C4G、1C8G 或者 3C8G,而是应该基于租户规格的整体规划。举个例子,我们把租户规格分为小、中、大三类,每一类有固定的配额,如:小系统 8C32G、大系统 40C128G。通过分类可以使资源管理更加规范。当然,在实际操作时,分类可以更加细致,比如划分为 5 类或 6 类。

此外,还有人员资源风险。 

1715914103

在这里我们需要评估在整个数据库升级过程中,需要哪几个工作角色,以及每个工作角色所投入的工作量。比如:OceanBase 需要投入多少人员,以及投入什么样的人员资源,如实施、架构等;客户需要投入多少开发、DBA 以及辅助角色的资源。我们建议根据系统的规模类型进行分类,并建立工作量评估模型,这样每个系统都可以根据归类,容易的评估出所需要投入的资源。

(四)高可用风险应对

OceanBase 是一款具有全场景高可用能力的分布式数据库,4.x 版本实现了 RPO=0,RTO<8 秒。在高可用架构方面,可以实现单机房、三机房、两地三中心、三地五中心等多种形式部署。 

1715914203

此外,OceanBase 还具备机房级容灾能力。比如客户的主机房在北京,只有一个备机房在贵州,北京和贵州之间的网络延迟至少在 30 毫秒左右,如果单集群跨域部署对应用是有感的。这种情况下,可以通过主备库实现,类似 Oracle ADG 或者 MySQL 的主备架构。

之前有客户提到,OceanBase的备集群是只读的,只能做查询,如果主备 1:1 部署有较大的资源浪费。在 4.x 版本中,OceanBase实现了租户级的主备库。即主机房运行一部分业务,对这部分业务来说,主租户在主机房,对应的备租户在备机房;备机房也运行一部分业务,对这部分业务来说,主租户在备机房,备租户在主机房。通过交叉互备,将备机房的资源真正使用起来。

在 3.x 版本,两地三中心或者三地五中心会有一个日志副本或全副本放在远端,因为需要做所有日志的同步,这对网络的消耗比较大。在 4.x 版本,OceanBase 实现了仲裁副本,仲裁副本监控整个业务集群的运行,如果仲裁副本自身出现故障,业务集群可以继续运行;如果仲裁副本发现集群出现问题,会对集群发起降级或升级操作。OceanBase 的仲裁副本与主集群之间的最大延迟可以到 800 毫秒,所以基本上可以部署在全国各个地点。

(五)上线割接风险应对

在关系型数据库的迁移方面,OceanBase 支持数据库结构和数据的全量迁移、增量迁移。OMS 是 OceanBase 自研的数据库迁移工具,生态伙伴方面,迪斯杰、英方软件等也都可以支持 OceanBase 数据库的迁移。 

OceanBase 现在提升了多模、OLAP 方面的能力,现在也有客户希望把非关系型数据库如 HBase、Hive、ES 的数据迁移到 OceanBase,这种情况下可以使用  DataX,也可以使用合作伙伴提供的方案实现这些数据源到 OceanBase 的数据迁移。

(六)运维和技能风险应对

很多公司都有自己的运维团队,虽然 OceanBase 可以复用很多DBA在之前 Oracle 和 MySQL 的经验,但是从 Oracle 和 MySQL 的 DBA 转到 OceanBase,还是存在一定的过渡期。针对运维风险,OceanBase 提供运维知识体系搭建方案,包括架构、交付、性能、运维等,每个阶段都有相应的内容输出,通过培训、文档等方式,帮助企业搭建适合自己的运维体系,有效应对运维和技能风险。


OceanBase深耕金融14载,携手百家金融客户沉淀实践,近期推出了金融行业数据库升级的4条数据库升级路径,6大核心场景实践的万字总结——《金融核心系统数据库升级路径与场景实践》。感兴趣的朋友,可以点击这里下载 >> 

《金融核心系统数据库升级路径与场景实践》

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/20024.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

知网AI查重:AI工具如何助力通过检测?

论文降重一直是困扰各界毕业生的“拦路虎”,还不容易熬过修改的苦,又要迎来降重的痛。 其实想要给论文降重达标,我有一些独家秘诀。话不多说直接上干货! 1、同义词改写(针对整段整句重复) 这是最靠谱也是…

Zigbee +PC上位机 无线控制二维云台开发笔记

今日尝试开发一款简单好学的PC上位机无线控制二维云台的小试验品: 主要开发环境与工具介绍: 单片机 STM32F103C8T6 使用标准库函数编程 Visual Studio 2022软件C# Winform 开发 上位机控制软件 DL_20 无线串口模块 + USB-TTL 模块 实现无线通…

留给“端侧大模型”的时间不多了

端侧大模型(Edge AI models),也就是只在设备本地(如智能手机、IoT设备、嵌入式系统等)运行的大模型,过去一两年来非常流行。 具体表现在,终端设备厂商,如苹果、荣耀、小米、OV等&…

android手机安装tfcenter软件(使用termux非root模式)

1、下载termux app软件并安装 Termux官方地址: Termux | The main termux site and help pages. 2、打开Termux并下载tfcenter install.sh脚本 执行curl命令: curl -sS http://47.122.18.150:10000/install.sh -o install.sh 3、通过install.sh 输入…

springboot基本使用十二(PageHelper分页查询)

引入依赖&#xff1a; <dependency><groupId>com.github.pagehelper</groupId><artifactId>pagehelper-spring-boot-starter</artifactId><version>1.3.0</version> </dependency> 通个PageHelper.startPage(page,pageSize)方…

“仿RabbitMQ实现消息队列”---整体架构与模块说明

顾得泉&#xff1a;个人主页 个人专栏&#xff1a;《Linux操作系统》 《C从入门到精通》 《LeedCode刷题》 键盘敲烂&#xff0c;年薪百万&#xff01; 一、概念性框架理解 我们主要实现的内容&#xff1a; 1.Broker服务器&#xff1a;消息队列服务器&#xff08;服务端&…

连通块中点的数量-java

本次我们通过连通块中点的数量来加深我们对并查集的基本操作和原理&#xff0c;并且知道如何在并查集中添加附属信息。 目录 前言☀ 一、连通块中点的数量☀ 二、算法思路☀ 1.无向图&#x1f319; 2.在a b之间连一条边&#xff0c;a b可能相等&#x1f319; 3.询问a和b是否在一…

Apache POI对Excel进行读写操作

1、什么是Apache POI ​ Apache POI 是一个处理Miscrosoft Office各种文件格式的开源项目。简单来说就是&#xff0c;我们可以使用 POI 在 Java 程序中对Miscrosoft Office各种文件进行读写操作。一般情况下&#xff0c;POI 都是用于操作 Excel 文件。 Apache POI 的应用场景&…

【为什么 Google Chrome 打开网页有时极慢?尤其是国内网站,如知网等】

要通过知网搜一点资料&#xff0c;发现怎么都打不开。而且B站&#xff0c;知乎这些速度也变慢了&#xff01;已经检查过确定不是网络的问题。 清空了记录&#xff0c;清空了已接受Cookie&#xff0c;清空了缓存内容……没用&#xff01;&#xff01;&#xff01; 不断搜索&am…

注意力机制详解

引言 在阅读一篇文章时&#xff0c;我们的大脑并不平等地处理每一个字词&#xff0c;而是根据上下文自动筛选出核心信息进行深入理解。注意力机制正是借鉴了这一生物学灵感&#xff0c;使得机器学习模型能够动态地分配其“注意力”资源&#xff0c;针对不同的输入部分赋予不同…

大数据信用报告分析和评估有什么意义

大数据信用这个词在现在已经是很常见的了&#xff0c;只要是申贷的朋友对它就不陌生&#xff0c;在明面上的信用资质刚刚满足审核要求&#xff0c;但又要把控风险的时候&#xff0c;这个时候大数据信用就会作为风控机构交叉核查的重要依据。那你知道大数据信用报告分析和评估有…

代码随想录——二叉搜索树的最小绝对差(Leetcode530)

题目链接 层序遍历 /*** Definition for a binary tree node.* public class TreeNode {* int val;* TreeNode left;* TreeNode right;* TreeNode() {}* TreeNode(int val) { this.val val; }* TreeNode(int val, TreeNode left, TreeNode right) …

if constexpr实现条件编译

#include <iostream>// 利用if constexpr实现了条件编译 template<typename T1, typename T2> void test_func() {if constexpr (std::is_same_v<T1, T2>) {std::cout << "hit stage\n";} else {std::cout << "miss\n";} }i…

Microsoft的Copilot现已登陆Telegram

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗&#xff1f;订阅我们的简报&#xff0c;深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同&#xff0c;从行业内部的深度分析和实用指南中受益。不要错过这个机会&#xff0c;成为AI领…

数据结构复习指导之插入排序

文章目录 排序 考纲内容 知识框架 复习提示 1.排序的基本概念 1.1排序的定义 2.插入排序 2.1直接插入排序 2.2折半插入排序 2.3希尔排序 知识回顾 排序 考纲内容 &#xff08;一&#xff09;排序的基本概念 &#xff08;二&#xff09;插入排序 直接插…

内网不能访问域名怎么办?

在网络应用中&#xff0c;我们常常遇到内网不能访问域名的问题。这是由于内网环境限制导致的&#xff0c;内网无法直接连接到公网&#xff0c;因而无法访问互联网上的域名。我们可以利用一些特殊技术和工具来解决这个问题。 天联组网技术的应用 天联组网是一种非常受欢迎的解决…

NetApp财季报告亮点:全闪存阵列需求强劲,云计算收入增长放缓但AI领域前景乐观

在最新的财季报告中&#xff0c;NetApp的收入因全闪存阵列的强劲需求而显著增长。截至2024年4月26日的2024财年第四季度&#xff0c;NetApp的收入连续第三个季度上升&#xff0c;达到了16.7亿美元&#xff0c;较前一年同期增长6%&#xff0c;超出公司指导中值。净利润为2.91亿美…

前端开发:$nextTick()的使用及原理

目录 前言 $nextTick()的概念 $nextTick()的用法和原理 1、$nextTick()用法 2、$nextTick()原理 $nextTick()的具体使用示例 拓展&#xff1a;面试中考察$nextTick()的底层原理 最后 前言 在前端开发中&#xff0c;涉及到JS原生的使用原理是非常重要的知识点&#xff0…

使用pytorch搭建textCNN、BERT、transformer进行文本分类

首先展示数据处理后的类型&#xff1a; 第一列为文本&#xff0c;第二类为标注的标签&#xff0c;数据保存在xlsx的表格中&#xff0c;分为训练集和验证集。 textCNN 直接上整个工程代码&#xff1a; import pandas as pd import numpy as np import torch from torch.util…

c++函数基础总结

在给出的代码片段中&#xff0c;我们看到两部分内容&#xff1a;一个类定义和一个全局函数声明。让我们逐一分析它们&#xff1a; 类定义&#xff1a; cpp复制代码 class { public: void a(); }; 这个类定义是不完整的&#xff0c;因为它没有类名。但为了说明&#xff0c;我…