2.8万字总结:金融核心系统数据库升级路径与场景实践

OceanBase CEO    杨冰

谈及数字化转型,如果说过去还只是头部金融机构带动效应下的“选择题”。那么现在,我相信数字化转型已经成为不论大、中、小型金融机构的“必答题”。

本文为OceanBase最新发布的《万字总结:金融核心系统数据库升级路径与场景实践》部分摘要。

请可点击下载完整版电子书 >> 


走向现代数据架构,数据库成为金融数字化转型关键环节

数字化转型的本质是利用数据,重塑传统业务与组织模式,构建企业的新型竞争力。随着数字经济时代的到来,数据量正在从TB级跃升至PB级、甚至ZB级。根据IDC测算,我国数据总量预计2025年将高达48.6ZB,占全球总量的27.8%。如今数据总量的 “大”已经和过去不是一个级别,IT领域“旧瓶”(旧的数据架构)难装“新酒”(新的数据量级),数字化转型需要一套现代数据架构有力支撑

近年来,数据架构的演进大多从最易升级、风险相对可控的SaaS层开始,再到对业务影响较小且相对标准化的IaaS层,最后才到与业务相关、有状态的PaaS层。而在最难的PaaS层中,考虑到与应用的耦合度以及状态数据的重要性,最难升级的又属数据库。

图片

图1    IaaS 层、PaaS 层、SaaS 层的演进关系

数据库相当于“大树”(数据架构)的“根基”,“根基”决定了“果实”(数字化转型)的优良。传统数据库已然不能满足现代数据架构的需求,金融机构亟需彻底重构“根基”。

从边缘到核心,数据库升级全面提速

核心系统是金融机构的交易中枢,不仅沉淀了大量的数据资产,更是与周边系统盘根错节,可以说是“牵一发而动全身”。因此,大多数金融机构在信息化系统数据库升级时,通常采取循序渐进、风险可控的策略,即先边缘系统再核心系统,不仅是为了新数据库技术的逐步掌握,更是为了业务的风险可控。

赛迪顾问显示,OceanBase已经成为核心系统升级首选,并在中国金融行业分布式数据库占有率第一。我们累计服务数百家金融机构,大部分都涉及核心系统。尤其以头部银行、头部保险为代表的金融机构开始涉足“无人区”,均取得了不错的成绩。这些先行者的尝试,已经验证了金融核心系统升级的可行性,并积累了大量方法论。

根据我们的经验,从核心系统开始升级,有助于彻底抛弃原有的陈旧数据架构,更快地使用新数据库技术满足现代金融业务发展。当然,核心系统数据库升级改造工作的同时,也伴随着边缘系统的数据库升级改造工作,并且得益于核心系统的经验积累,部分边缘系统上线更快。

此外,核心系统(含数据库)的整体升级大概需要持续需2~3年。加之时间窗口有限,核心系统数据库的升级已经到了必须提上日程的时期。

金融行业需要怎样的数据库

1. 金融行业数据库技术架构演进

回溯IT技术的发展史,金融行业的IT应用基本走在行业前列。到了移动互联网时代,金融机构纷纷开启加速数字化转型。柜面交易量逐步被替代,由智能手机承载的金融服务方便随身携带。并且在业务范围上延伸服务客户的范围,开放金融、供应链金融、全场景金融等不断涌现。

传统集中式数据库依赖单机的处理能力,因而存在架构上的单点。随着摩尔定律的失效,依靠垂直扩展的集中式走到了尽头,而金融业务的发展要求数据库具备海量数据下的高并发的事务处理能力。部分金融架构在转型中尝试中间件架构的分布式,在国外开源数据库上做二次开发,并取得一定效果,但随着深入应用依然出现瓶颈。为彻底解决海量数据、高并发场景的数据库的问题,原生分布式数据库架构诞生。

中国信息通信研究院在《大数据白皮书(2018年)》中给出了数据库架构的发展方向,包含两重含义:一是分布式替代集中式是发展的必然,而原生分布式数据库是数据库发展的方向;二是中间件架构的分布式只是过渡态。

图片

图2    数据库架构演进图

 * 中国信息通信研究院《大数据白皮书(2018年)》

2. 中国场景驱动数据库技术创新,新一代数据库需要具备四大核心能力

Forrester 相关报告指出,传统数据库在数字经济时代面临技术架构、使用成本以及安全性等严峻的挑战。新一代数据库需要具备低成本的极致性能、全维度的弹性灵活、洞察驱动的融合分析,以及全方位的安全可靠性四大核心能力。

数据库是用出来的。OceanBase 过去 14 年的发展,基于“根自研”这条完全自主研发的路线,得益于中国独特的场景,带来前所未有的对海量数据、高并发的数据处理需求,以及这些年大量企业尤其是金融核心系统,带来复杂业务场景下的数据处理需求,倒逼分布式数据库技术的再次突破、创新和成熟。

这条成长路径对基础软件的发展而言在全球都很难复制,使得 OceanBase 能够始终坚持创新探索,穿越无人区。

3. 一体化数据库:支持不同规模金融机构/业务系统

我们在不断解决各种场景问题,尤其是关键业务的数据存储、处理、使用过程中,摸索出分布式架构数据库的最佳实践,逐步形成了“一体化”的解决思路。

从 2010 年至今,OceanBase 专注于 OLTP 场景,开始逐步打造满足现代数据架构需求的TP&AP一体化、多模、云上云下一体化、单机分布式一体化等核心能力,推出一体化数据库,支持不同规模金融机构/系统的关键业务负载。“一体化”的理念包含两个方面:

第一,“一体化”的体验;
第二,一个数据库解决 80% 的问题。

图片

图3     OceanBase 一体化数据库

OceanBase如何解决金融行业面临的数据库升级挑战

对于数据库产品,无论是架构升级还是自身能力迭代演进,首要目标都需要确保稳定可靠,数据库升级过程要平滑,分层解耦,风险可控。同时,作为基础软件的数据库,对应用系统的影响要尽可能做到最小,除了自身要提供完善的功能,还要对应用系统屏蔽自身的架构复杂度,让应用简单地使用数据库。比较一致的是,数据库要具备独立演进能力,保证技术栈的可持续发展和自主掌控。

OceanBase主要通过以下5点解决金融行业面临的数据库升级挑战:

1. 深度强化稳定可靠,保障服务不中断、数据不丢失;

2. 持续平衡性能与成本,助力性能不回退、成本不增加;

3. 不断降低运维复杂度,集中式体验享受分布式性能;

4. 完善平滑迁移方案,打造应用基本无感的稳妥升级;

5. OLTP-Based HTAP,实时分析回归业务本质需求。

核心系统数据库升级最佳路径实践

金融核心系统更换数据库,就好比飞机在运行过程中更换发动机。如何在更换发动机的过程中不影响飞机的正常飞行,甚至让乘客感受不到这个过程,对金融机构和数据库厂商而言都是一场“大考”。

1. 八个步骤

从应用演进的角度,常见的金融核心系统数据库升级有“平滑迁移”和“完全新建”两种,迁移侧重应用不改或者仅有少量修改,保持库表结构基本不变的情况下,将数据库替换成分布式数据库;完全新建是建设一套新的核心系统,然后将老核心的数据与新核心的数据结构映射后完成数据的转换和迁移。

OceanBase 在服务众多金融机构的核心系统数据库升级过程中,沉淀出一套升级替换的八个步骤,包括需求分析与战略规划、技术选型与方案设计、应用适配&业务测试与评估、系统迁移与优化、业务验证与持续监控、安全与合规、培训与文档、持续迭代与优化。

图片

图4    传统方式 VS HTAP方式

2. 四条路径

此外,我们也总结出核心系统数据库升级的四条技术路径

图片

图5    核心系统数据库升级的四条技术路径

路径一:Oracle平滑升级迁移

该路径的特点是,应用代码少改或者不改的情况下,依靠分布式数据库的兼容性实现。OceanBase基于自身对于Oracle的高度兼容及多年积累的体系化的迁移工具与迁移经验,通过“全面语法兼容”配合客户实现平滑迁移。采用此路径的有某国有特大型保险机构、中国太平洋保险的“P17核心客户服务系统”、金华银行新一代核心系统,以及广发证券的核心估值系统等。

路径二: 大型主机DB2迁移分布式数据库+单元化方案

在金融行业的头部国有大行中,因业务规模大、范围广、复杂度高等,是分布式转型中的难点,同时国有大行在新一代核心建设中有单元化等架构方面的建设要求。某国有大行的贷记卡核心、借记卡核心、ECIF核心这三大核心系统均已转型分布式,其中,贷记卡核心采用“阿里云+SOFA中间件+OceanBase分布式数据库”整体技术栈,实现“两地四中心”多地多活+单元化设计。

路径三:小型机DB2升级OceanBase

小型机DB2在中小银行核心系统的数据库中占用重要位置,而中小银行普遍采用新建的方式建设新一代核心系统。其中,一部分选择OB-Oracle模式,实现一套核心应用分别部署在OB-Oracle和DB2-Oracle两种数据库上,实现双逃生;另一部分选择OB-MySQL模式,分批切换,一步到位。采用此路径的有常熟农商行、云南红塔银行、深圳农商银行的新一代核心系统等。

路径四:MySQL平滑升级迁移

诚然,MySQL主要用在互联网核心或非核心系统,且大部分情况下为“完全新建”,“平滑迁移”为少数。与“Oracle平滑迁移方案”类似,得益于高兼容性,选择OB-MySQL模式即可在应用基本零改动的情况下,从源数据库完成平滑迁移。采用此路径的有西安银行的快捷支付系统改造等。

3. 核心系统数据库选型建议概述

赛迪顾问在2023年2月发表的《核心数据库升级选型参考》报告显示,核心数据库选型因素涵盖数据、功能、效果三个层面,为金融机构的核心系统数据库选型提供了清晰的思路。

图片

图6    核心系统数据库选型因素

*赛迪顾问《核心系统升级选型参考》

首先是数据层面,主要包括数据一致性、数据安全性以及底层代码安全性。数据层面的选型考量相当于“1”,只有这个层面具备足够能力的数据库,后续拥有其他的“0”,比如更高的性能、更低的成本等,才有意义。其次是功能层面,主要包括兼容与迁移、双写及回迁能力、事务处理能力、大数据实时分析能力。最后是效果层面,主要包括稳定性与可靠性、性价比。

典型金融场景实践

1. 银行

 场景一:跑批类场景

跑批类场景,天生就是高并发的联机交易,最重要的是时效。若跑批时间过长,轻则客诉,重则资损,甚至出现舆情事件。这类场景对数据库处理能力的有效检验方式之一就是如何快速完成批量交易,因为需要频繁地对数据库进行增删改查,进行大量的I/O物理读和逻辑读计算操作,应用访问数据库的吞吐量也尤为关键。

原生分布式数据库通过多台机器的并发能力,并通过弹性扩缩实现动态的资源调整,因而对跑批场景具备优势。如避免分布式事务和远程访问,让所有服务器全部参与批量结息过程,提高处理速度;分散负载到多个节点,减少单一节点的压力;迅速扩容以应对流量高峰,同时在低峰期自动缩减资源以节约成本;允许读操作分散到多个副本,而写操作则在主节点上进行,减少读写竞争等,大幅提升批量场景效率。

场景二:交易类场景

交易类场景,最重要的是单笔交易耗时和交易吞吐量。若单笔交易耗时过长,则影响用户体验;若性能容量的TPS不足,则会造成高并发场景下部分客户的业务连续性无法保障。

伴随新一代核心系统的分布式转型,分布式数据库在交易性能容量方面有天然优势。在单笔耗时方面,应用和数据库同时转型分布式时,耗时增加有限,业务上完全可接受。例如,某大行信用卡核心转型分布式从60毫秒提升80毫秒,在耗时有限增长的情况下,提供了机房级容灾能力,为业务连续性提供更好的保障。

银行新一代核心系统中无论是跑批场景还是交易场景,原生分布式数据库都能够为业务提供更好的支撑力。某国有大行、常熟农商银行、云南红塔银行、深圳农商银行等新一代核心系统,以及某国有大行ECIF系统等均选择升级至原生分布式数据库。

2. 保险

场景一:寿险核心场景

保险机构的寿险核心业务系统重构频率相对银行较低,很多都有超过10年、甚至20年的历史,这些业务代码完全推翻重构难度和风险极高,可以说既是宝贵财富也是沉重负担。寿险业务主要具有业务场景复杂、业务数据量大、业务突发流量高的特点。

过去,寿险核心业务系统基本90%以上使用Oracle数据库,面对以上业务特点,随着数据经济的加速前行,传统集中式数据库在容量、性能、云化、多模等方面都已经愈发力不从心。一是面对复杂SQL、大数据量的性能挑战;二是面对突发流量的挑战。

某国有特大型保险机构的寿险核心系统数据库升级至OceanBase后,最大化资源利用,通过动态弹性调整租户计算资源,敏捷应对业务负载要求的变化,经受住开门红TPS 5 万+、QPS 21万+ 的严苛考验,稳妥保障业务连续性和数据准确性。

场景二:客服系统场景

客户服务系统通常是保险机构关联关系最为复杂、商业数据库绑定程度最深、业务影响最多的核心业务系统之一。秉承“以客户为中心”,该系统要求7X24小时服务,此外还呈现数据量庞大、割接要求高等特点。

以中国太平洋保险的“P17核心客户服务系统”(以下简称“P17”)为例,是其产、寿、健康、长江等所有子公司客户服务系统的整合,为公司6的8个电话中心超过2000坐席提供系统服务,对接周边系统超过200个。升级难度主要体现在对Oracle兼容性要求高、周边对接产品多。

凭借OceanBase的高度Oracle兼容性、完善的迁移工具链,经过近一年的技术攻坚,将“P17”完全迁移到OceanBase,百万行PL/SQL代码平迁复用,至今已经稳定运行了接近一年。全面升级后,数据库软件的运维费用大幅降低,每年可节省设备投入数亿元。特别是OceanBase的高级压缩技术,结合“数据库瘦身”,将存储容量节省80%以上。升级后的应⽤系统弹性扩缩容、处理速度、数据加⼯能⼒均实现⼤幅提升。

3. 证券&基金

场景一:UF3.0核心交易系统

证券机构的集中交易系统, “委托”和“成交”是最主要的功能,也称为“路由”功能,同时还有资金买空或者证券卖空的“监控”功能,以及“查询”功能。

传统集中交易系统通常直接引入Oracle一体机解决性能问题,但是众多系统仍以“竖井”的方式建设,配套硬件成本、部署成本等整体成本投入大。且由于单体架构的先天限制,在容量和性能遇到瓶颈时无法横向动态扩容,制约系统的整体处理能力。

恒生的 UF3.0 采用分布式微服务架构实现交易、清算、管理的三大模块,整体架构设计与 OceanBase 相契合,提升业务处理能力,加快交易结算速度,提高证券客户满意度。

图片

图7    10:UF3.0业务架构

招商证券、东方证券等券商公司新一代核心交易系统选用基于OceanBase 的 UF3.0 支持整体 IT 业务平台,提供综合金融服务。以招商证券为例,OceanBase 承载了包括 UF3.0、数据中台服务、Level2 行情数据等共计百套业务系统,节约整体拥有成本约70%。

场景二:ETF_TA系统

TA系统全称为开放式基金登记过户系统,与典型的OLTP业务(比如在线联机交易)不同,清算跑批必须在规定的窗口时间内完成。同时,TA系统属于比较复杂的“跑批”业务,涉及的数据量较大,计算逻辑也比较复杂,存在多表关联和复杂查询,并且步骤多。因此,TA系统对数据库的综合要求较高,不仅要高稳定、高可靠,同时也要高性能。

OceanBase通过稳定的SQL引擎保障复杂查询的执行效率,完全满足系统的高并发、数据高并行的业务特性,通过多租户架构,支撑TA系统的分布式微服务架构,提升资源利用率。分布式数据库的扩展性,让TA系统跑批效率随数据库节点增加而提升,未来基金用户数、交易数上升时,能在不调整业务架构的前提下,通过数据库层的横向扩展支撑业务发展。

图片

图8    OceanBase多租户的TA数据分布

易方达基金、安信证券等金融机构的TA系统均选择搭载OceanBase。以安信证券为例,新一代TA系统上线后登记过户的跑批清算时间由2小时降低为1小时,TA系统的清算时间缩短为原先的50%,对上下游业务系统而言,登记过户相关的整体运营效率得到显著提升。

写在最后

“九层之台,起于累土”。 作为一款“根自研”的分布式数据库,OceanBase致力于打造负载关键业务系统的一体化数据库,让更多金融机构在数字化转型升级的过程中,用一个数据库就能解决80%的问题,数据架构更加适应现代应用开发、AI延展等,享受一体化架构带来的技术红利;我们将继续携手服务、技术、ISV等生态伙伴攻坚关键业务系统,为金融数字化转型贡献更多的、更大的力量。


点击下载《万字总结:金融核心系统数据库升级路径与场景实践》完整版电子书 >> 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/17372.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ubuntu安全加固

知识背景: 项目背景: 常用命令: useradd: adduser: getent passwd: getent group: id username: adduser newname sudo: 修改shell为/bin/bash 新用户默认为/bin/sh,可以通过echo $SHELL查询,默认不能使用TAB…

QT加载CAD文件(二)LibreCAD源码编译

一、LibreCAD LibreCAD是一个开源软件,不用破解激活,可以打开编辑DXF格式的文档,软件大小只有二十多M,对于一些比较简单的图纸还是可以胜任的。本文主要讲该软件源码编译。如果了解软件的基本使用可以参考https://blog.csdn.net/…

Vulnhub靶机 whowantsobeking :1 打靶 渗透详细过程(萌新)

Vulnhub靶机搭建配置 先搭建vulnhub靶机:https://www.vulnhub.com/entry/who-wants-to-be-king-1,610/ 下载镜像之后whowantsobeking.ova后,用VMware Workstation Pro打开依次点击文件-打开,选择我们刚才下载的ova文件打开,修改…

【小米手环7】表盘制作指南

2024年了还有人用小米手环7么? 目录 表盘.bin文件情况介绍表盘文件修改/制作教程1、表盘.bin文件组成介绍2、表盘.bin文件获取3、制作表盘的必备工具4、表盘.bin文件修改step 1 模拟器设置step 2 修改app.jsonstep 3 修改index.jsstep 4 更新.bin文件 参考文献 表盘…

全网首发!精选32个最新计算机毕设实战项目(附源码),拿走就用!

Hi 大家好,马上毕业季又要开始了,陆陆续续又要准备毕业设计了,有些学生轻而易举就搞定了,有些学生压根没有思路怎么做,可能是因为技术问题,也可能是因为经验问题。 计算机毕业相关的设计最近几年类型比较多…

为什么Facebook Marketplace无法使用?如何解决?

Facebook Marketplace是一个允许用户买卖商品的平台,由于其在Facebook内的便捷性,它逐渐成为了一个受欢迎的在线交易市场。然而,做Facebook跨境电商,很多人会面临的情况就是无法使用Facebook Marketplace。这到底是什么原因&#…

WordPress建网站公司 建易WordPress建站

建易WordPress建网站公司是一家专业从事WordPress网站建设、网站维护、网站托管、运营推广和搜索引擎优化(SEO)等服务的公司。建易WordPress建网站公司提供多种服务,包括模板建站和定制网站,并且明码标价,价格透明,竭诚为全国各地…

广告案例全解码:让你的品牌广告效果翻倍的分析技巧

进行广告案例分析是一个系统化的过程,它可以帮助你深入理解广告活动的各个方面,包括目标、策略、执行和效果。 以下是进行广告案例分析的十大步骤: 1. 确定广告案例的关键问题: 识别案例中的主要问题和挑战,这将是你…

民国漫画杂志《时代漫画》第28期.PDF

时代漫画28.PDF: https://url03.ctfile.com/f/1779803-1248635321-5c67ad?p9586 (访问密码: 9586) 《时代漫画》的杂志在1934年诞生了,截止1937年6月战争来临被迫停刊共发行了39期。 ps: 资源来源网络!

防火墙技术基础篇:NAT转发之——Smart NAT(No-PAT和NAPT结合)

防火墙技术基础篇:NAT转发之——Smart NAT(No-PAT和NAPT结合) 传统的NAT技术在处理大规模网络和复杂应用场景时存在一定的局限性。为了解决这些问题,一种名为Smart NAT的新型网络技术应运而生。本文将详细介绍Smart NAT的概念、原…

【链表】Leetcode 82. 删除排序链表中的重复元素 II【中等】

删除排序链表中的重复元素 II 给定一个已排序的链表的头 head , 删除原始链表中所有重复数字的节点,只留下不同的数字 。返回 已排序的链表 。 示例 1: 输入:head [1,2,3,3,4,4,5] 输出:[1,2,5] 解题思路 由于链表…

openssh升级

原因:因为低版本出现了漏洞 过程: 此时,root不能登录。 修改/etc/pam.d/login 第2行前面加上#,保存退出 /etc/pam.d/remote 第2行前面加上#,保存退出 此时root可以通过telnet登录了 二、升级openssl和openssh 【L…

C++容器之栈(std::stack)

目录 1 概述2 使用实例3 接口使用3.1 construct3.2 empty3.3 size3.4 top3.5 push3.6 emplace3.7 pop3.8 swap1 概述 堆栈是一种容器适配器,专门设计用于在后进先出(后进先出)环境中操作,其中元素仅从容器的一端插入和提取。   堆栈被实现为容器适配器,容器适配器是使用…

下半年开考,仅考1次,系统集成项目管理工程师考试安排!

《系统集成项目管理工程师教程》第3版官方教材将在下半年开始使用,相对于之前的版本,变化很大。新老考生都需要重新学习。历年真题显示,官方教材非常重要,考试题目大部分都可以在教材中找到原文。因此,对于下半年的考试…

Go 实现 WebSocket 的双向通信

在Go语言中实现WebSocket的双向通信通常需要使用第三方库,其中 gorilla/websocket 是一个非常流行和广泛使用的库。 1、安装 go get github.com/gorilla/websocket 2、编写WebSocket服务器代码 package mainimport ("fmt""github.com/gorilla/we…

【C++】构造函数、析构函数、拷贝构造与运算符重载

文章目录 1.类的六个默认构造函数2.构造函数2.1特性2.1.1 函数名与类名相同2.1.2. 无返回值(不能写void)2.1.3. 对象实例化时编译器自动调用对应的构造函数2.1.4 构造函数可以重载2.1.5编译器生成默认的构造函数2.1.6编译器生成的默认构造有何用&#xf…

linux开发之设备树写法

设备树的根节点 设备树子节点和子子节点,子节点在根节点范围内 包含子节点以及子子节点 节点名称 比如这里led就是这个gpio的小名,可以直接用 gpio22020101是这里的名字,也就是要用这个gpio,符号后面的一串数字使用了这个gpio的寄存器地址,因为可能会用很多gpio,所以加入寄存…

如何测试大型语言模型

围绕使用AI助手来减少手动工作、通过代码生成器提高软件开发者的生产力,以及利用生成式AI进行创新,这些话题一直为公众所热议。同时,商业机会正推动许多开发团队构建知识库、使用向量数据库,并在其应用中嵌入大型语言模型&#xf…

console.log——NPM库

前期回顾 Vue3 TS 项目实战 - 后台管理系统 - 按钮权限_vue3ts后台管理-CSDN博客 目录 🚩不使用NPM插件的方式 第一步:创建log函数-源码 第二步:注册到window上 第三步:扩展Window接口 第四步:确保类型文件…

南卡、韶音、Cleer开放式耳机如何选?全面对比测评拒绝智商税!

随着开放式耳机在生活中日益流行,市场上的多样化选择有时也伴随着质量参差不齐的问题,部分产品因成本控制而牺牲了材质和音质,给消费者在寻找高质量耳机时增添了困扰。 作为一名耳机评测领域的从业者,近期我投入大量精力对多款开…