机构数据服务

一、背景说明

券商/基金/银行等金融机构的数据中心,基本都外购有数十家各类数据,自有业务每天也在产生海量信息。如何有效管理和使用这些数据,通过数据服务,沉淀数据资产,机构研发和运维部门也在不断尝试和改进。

传统数据中台,是一种中心化应用模式:外购数据直接写入数据仓库;湖仓中数据,主从节点部署,对需要数据的下游场景,授权子节点访问权限。

这种高耦合性的构架,很容易导致死锁等冲突,从而影响系统整体性能。业内头部券商,如G信/海T等,借着信创改造契机,做了较大的结构调整,让数据服务更加稳定可靠:

图片

外购数据不能直接写中心数据,做一层隔离:

  • 保护中心数据,尽可能规避库表结构变更/死锁等行径,减少源端数据清洗影响;

  • 加强管理,增加机构标准化字段,如更新时间、统一时间戳等;数据清洗,格式转换,满足要求再融合。

  • 数据留痕,尤其对已采信数据的再次更新和删除,需要做一些必要的记录,以便在纠纷发生时,能有据可依。

下游具体应用场景,也不能直接访问中心服务器,只能使用分发后的数据:

  • 降低耦合,规避单一任务故障所导致的系统整体性能下降甚至崩溃风险;

  • 广泛兼容,不管目标应用部署何种数据库(SqlServer、Mysql、Oracle、DB2、GaussDB、TIDB、TDSQL、OceanBase、达梦等等),均可从中心数据同步过去;

  • 定制化服务,按需同步:源端多库拆分合并,单表部分字段或记录等。

UTS(统一数据传输系统)作为金融行业被广泛使用的系统工具,在帮助相关机构进行信创改造和构架升级中,积攒了大量经验,能对数据服务提供更好的支持。

二、数据库服务:冗灾容错,高效兼容

1、最大特色:绝对不丢数据。

  • 数据强一致性对齐:

实际传输中,多种原因导致更新失败:网络故障、数据库异常、数据冲突等等,甚至事务或异步模式下,结果返回成功但实际更新失败更是屡见不鲜。在异地和异库同步中,单轮同步必定存在数据丢失这种丢失,不会因为客户的不检查就能否认存在,也不会因为失败时多重复几次操作就可以解决。

系统构架和管理者还需要考虑更多的异常:数据误删除如何补救。

UTS基于时间戳强制对比的同步模式,即使目标数据本次写入丢失,即使目标数据人为破坏,也能在下轮同步时,自动发现目标库与源库的差异,并增量补齐缺失数据。

  • 数据留痕:

UTS通过同步镜像库的方式进行数据留痕:对比源库和镜像库的差异,可以记录数据DML明细。这种镜像+留痕模式,可以确保即使源库发生了删除,也能将误删除数据很快补救回来。

UTS支持源库物理删除映射成目标库的逻辑删除。这让机构对外购数据的操作能一目了然,更是纠纷时的关键证据。

2、极限同步速度:

信创版UTS是批量传输模式,多线程并行同步,抢占式任务处理。一小时能同步日线行情级别表5000万~1亿条,速度是历史版本的10倍以上。可以满足机构灾备、迁移等多种应用场景。

UTS优先增量同步,可以完成机构即时性要求高的,要求在10秒内的数据热备同步需求。

3、兼容所有关系型数据库,包括国产信创:

所有数据库无需逐一版本适配,统一驱动,统一配置方法。

所有数据库之间可以交互同步,最大兼容目标数据库,包括字符集、编码映射、字段类型、字段宽度等等。

4、丰富的行业经验,避免少踩雷:

作为金融行业的老牌同步系统,已经支持各种数据商和机构的更多需求:高可用集群部署、数据库附件字段与附件文件同步保持一致性,内容替换,名称映射,编码映射,脚本执行。。。

冗灾容错是UTS的核心思想,让机构运维对数据同步高枕无忧是UTS的方向,让数据服务更高效更便捷是UTS的一贯目标。

三、数据服务:数据可用不可见

国务院在2021年提出数据服务的一个指导思想:“数据不出域,数据可用不可见”。用API服务(接口服务)替换直接数据库分发,就是其中的一种使用方式。

传统的API接口,都是由开发人员完成的,用Java/Python/C#等语言,外包或者自建团队。UTS的API可以由数据运维人员自己完成:

1、SQL=API

图片

  • SQL语法+变量替换,即可完成API的数据接口定义。参数请求和结果返回,都是标准Json格式。

  • 记录缓存时间、API版本号、数据分页等,由配置或者请求指定。

  • 支持防范SQL注入攻击。

2、碎片化开发

图片

UTS也支持如上图的高级语言(子函数、变量、条件、循环、函数库等)开发API。编码者无需拥有复杂的编程经验,无需精通数据库和网络底层接口,依葫芦画瓢,即可批量提供海量的API。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/75394.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

中和农信:让金融“活水”精准浇灌乡村沃土

2025年政府工作报告首提“投资于人”概念,并22次提及“金融”,强调要着力抓好“三农”工作,深入推进乡村全面振兴;一体推进地方中小金融机构风险处置和转型发展;扎扎实实落实促进民营经济发展的政策措施,切…

JavaScript重难点突破:期约与异步函数

同步和异步 ​同步(Synchronous)​ ​定义:任务按顺序依次执行,前一个任务完成前,后续任务必须等待。 ​特点:阻塞性执行,程序逻辑直观,但效率较低 ​异步(Asynchron…

学习总结 网格划分+瞬态求解设置

网格划分部分 1.导入几何文件 导入我们的几何模型,他的格式为.scdocx 2.添加局部尺寸BOI 因为要对对前缘和尾缘进行局部加密,所以进行一个BOI的局部加密,目标尺寸取的几何尺寸的最小尺寸的0.1,就是0.4mm。 3.生成表面网格 表面…

.NET 使用 WMQ 连接Queue 发送 message 实例

1. 首先得下载客户端,没有客户端无法发送message. 安装好之后长这样 我装的是7.5 安装目录如下 tools/dotnet 目录中有演示的demo 2. .Net 连接MQ必须引用bin目录中的 amqmdnet.dll 因为他是创建Queuemanager 的核心库, 项目中引用using IBM.WMQ; 才…

风电行业预测性维护解决方案:给风机装上 “智能医生”,实现故障 “秒级预警”

引言:风电设备故障为何成为 “运维黑洞”? 某海上风电场因齿轮箱轴承故障停机 3 天,直接损失 50 万元发电量。传统维护模式下,人工巡检覆盖率不足 40%,故障修复平均耗时 72 小时。而预测性维护通过物联网 AI 技术&am…

5、无线通信基站的FPGA实现架构

基站(Base Station,BS),也称为公用移动通信基站,是无线电台站的一种形式,具体则指在一定的无线电覆盖区中,通过移动通信交换中心,与移动电话终端之间的信息传递的无线电收发信电台。…

笔记2——网络参考模型

一、OSI参考模型: 应用层: 报文 给应用程序提供接口 表示层: 进行数据格式的转换 会话层: 在通讯双方之间建立、管理和终止会话 传输层: 数据段;建立、维护、取消一次端到端的数据传输过程;控制…

最短路径:Bellman-Ford算法

Bellman-Ford的操作步骤 1.初始化距离:将起点的dist值设置为0,其他点的dist值设置为无穷大。 2.执行n-1轮松弛操作:遍历所有边,更新最短距离,收敛后可获得最短路径。 3.检测负权环:额外遍历一次&#xf…

0402-对象和类(访问器 更改器 日期类)

OOP:面向对象程序设计 类:构造对象的模板或蓝图 类构造对象的过程称为创建类的实例 封装:对外隐藏数据的真实实现方式,提供简单的方法 (类比方向盘) 对象:本质上是内存中的一小块空间 识别类&a…

【 <二> 丹方改良:Spring 时代的 JavaWeb】之 Spring Boot 中的文件上传与下载:实现文件管理功能

<前文回顾> 点击此处查看 合集 https://blog.csdn.net/foyodesigner/category_12907601.html?fromshareblogcolumn&sharetypeblogcolumn&sharerId12907601&sharereferPC&sharesourceFoyoDesigner&sharefromfrom_link <今日更新> 一、开篇整…

搜索算法------DFS练习2

1. 题目 2. 思路和题解 从题目中可以看出&#xff0c;如果一个格子上有雨水&#xff0c;那么就可以流到周围比他高度低的单元格&#xff0c;如果单元格和海洋相邻&#xff0c;那么雨水也会流入海洋。总而言之一句话就是水从高处流向低处。从这里的流向可以联想到深度优先搜索这…

[python] 正则表达式

1.分割str s"1-2--3---4" are.findall(r\d|[-],s) # 输出&#xff1a;[1, -, 2, --, 3, ---, 4]s"-4(2(3)" # ? 表示 - 可以出现0次或1次 # \d 表示匹配一个或多个连续数字 # \D 表示匹配非数字字符 sre.findall(r-?\d|\D,s) # 输出&#xff1a;[-4, (,…

定制化管理系统与通用管理系统,谁更胜一筹?

一、定制化管理系统与通用管理系统的定义与特点 定制化管理系统 定制化管理系统是根据企业的具体业务需求和流程进行个性化开发的软件系统。它能够深度贴合企业的管理需求&#xff0c;提供高度灵活的解决方案。其特点包括&#xff1a; 高度适应性&#xff1a;能够精准匹配企业…

gitee 配置git上传

Git入门&#xff1f;查看 帮助 , Visual Studio / TortoiseGit / Eclipse / Xcode 下如何连接本站, 如何导入仓库 简易的命令行入门教程: Git 全局设置: 以 176fuguM2项目为例 git config --global user.name "堕落圣甲虫" git config --global user.email "11…

SpringBoot+Vue 中 WebSocket 的使用

WebSocket 是一种在单个 TCP 连接上进行全双工通信的协议&#xff0c;它使得客户端和服务器之间可以进行实时数据传输&#xff0c;打破了传统 HTTP 协议请求 - 响应模式的限制。 下面我会展示在 SpringBoot Vue 中&#xff0c;使用WebSocket进行前后端通信。 后端 1、引入 j…

STM32 FATFS - 在SDIO的SD卡中运行fatfs

参考文章 STM32CubeMX | SD Card FATFS - 知乎 [STM32F4]基于F407的硬件移植Free RTOSFATFS&#xff08;SDIO&#xff09;_freertosfatfs-CSDN博客 例程地址&#xff1a;STM32FatFS: 基于stm32的fatfs例程&#xff0c;配合博客文章 基于梁山派天空星开发板&#xff0c;STM3…

Java 进化之路:从 Java 8 到 Java 21 的重要新特性

Java 进化之路&#xff1a;从 Java 8 到 Java 21 的重要新特性 开篇介绍 在软件开发领域&#xff0c;Java 作为一门历史悠久且广泛应用的编程语言&#xff0c;始终保持着其核心竞争力和持续创新能力。自 Java 8 发布以来&#xff0c;Java 经历了一系列重要版本更新&#xff0…

Reactor 事件流 vs. Spring 事件 (ApplicationEvent)

Reactor 事件流 vs. Spring 事件 ApplicationEvent Reactor 事件流 vs. Spring 事件 (ApplicationEvent)1️⃣ 核心区别2️⃣ Spring 事件 (ApplicationEvent)✅ 示例&#xff1a;Spring 事件发布 & 监听1️⃣ 定义事件2️⃣ 发布事件3️⃣ 监听事件&#x1f539; 进阶&…

JVM生产环境问题定位与解决实战(六):总结篇——问题定位思路与工具选择策略

本文已收录于《JVM生产环境问题定位与解决实战》专栏&#xff0c;完整系列见文末目录 引言 在前五篇文章中&#xff0c;我们深入探讨了JVM生产环境问题定位与解决的实战技巧&#xff0c;从基础的jps、jmap、jstat、jstack、jcmd等工具&#xff0c;到JConsole、VisualVM、MAT的…

【5090d】配置运行和微调大模型所需基础环境【一】

RuntimeError: Failed to import transformers.integrations.bitsandbytes because of the following error (look up to see its traceback): No module named triton.ops 原因&#xff1a;是因为在导入 transformers.integrations.bitsandbytes 时缺少必要的依赖项 triton.op…