XX数字中台技术栈及能力

XX数字中台技术栈及能力

1 概述

XX数字中台面向数据开发者、数据管理者和数据应用者,提供数据汇聚、融合、治理、开发、挖掘、共享、可视化、智能化等能力,实现数据端到端的全生命周期管理,以共筑数字基础底座,共享数据服务能力,数字化赋能为战略,助力企业数字化转型。

2 技术架构图

XX数字中台的技术架构图,如下图所示:

在这里插入图片描述

大数据公共计算环境:主要采用Hadoop技术体系,支持大规模数据的采集、计算、治理和智能分析,是数字中台的重要技术基础。

  • 数据采集:包括实时采集和离线采集。采用开源的批流一体采集引擎FlinkX和自研的实时采集管理、离线采集采集管理实现将不同业务场景数据采集到数据中台。实时采集和离线采集管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据计算:包括实时计算和离线计算。实时计算引擎采用开源的Flink引擎。离线计算采用开源的Kettle、Spark引擎。实时计算和离线计算的管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据治理:包括元数据、数据标准、数据质量、数据资产完成对数据的治理。 元数据采集引擎采用开源的Apache
    Atlas,元数据管理和元数据采集节点采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据标准、数据资产采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据质量的规则引擎使用Rule
    Engine,数据质量管理、数据质量节点采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据智能分析:包括深度学习、机器学习、智能视觉。
    深度学习系统的算法开发采用开源的TensorFlow、PyTorch、JupterLab,算法开发管理端包括数据集服务、训练服务、算法服务、模型服务、在线服务、网关服务和前端界面,算法开发管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    机器学习的机器学习组件采用开源的Alink、Pytorch,分布式计算用开源的Flink技术,机器学习的管理端采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    智能视觉的算法采用开源的SeaweedFS、TensorFlow、PyTorch。模型采用开源的Triton-Server推理引擎,智能视觉管理和模型执行采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
  • 数据运营:包括指标管理、数据服务、数据大屏可视化。
    指标管理基于先进的大数据底层技术,支持Hive、Presto等大数据存储计算引擎实现指标的开发、发布下线、计算落地,分析应用等全周期的管理过程;指标管理系统采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    数据服务基于微服务架构提供全面的数据服务及数据共享能力;数据服务管理采用前后端分离技术,前端使用HTML5+CSS控制页面布局,React、JavaScript作为交互框架,后端使用SpringCloud+Mybatis微服务技术。
    数据大屏可视化基于Apche Apache Calcite、Spring Boot、Vue、Element等技术实现帮助用户快速分析数据并洞察业务趋势,从而实现业务的改进与优化。

3 能力

数据存储和融合

海量数据存储和处理能力:实现跨部门数据的传输,加载,清洗,转换和整合,支持自定义调度和图形化监控,实现统一调度,统一监控,满足运维可视化,支持大数据接口与应用。

数据资产梳理

打通数据治理全工程,提升数据质量:通过数据治理实现增效降本运营,提升数据质量,提升风控水平,促进管理创新,优化流程管控,促进开发共享

多维度资产管理:强大的数据资产检索、丰富的数据资产应用
、高效全面的数据资产分析。

数据分析和决策

深耕BI的一体化应用:面对企业灵活多样的数据分析需求,一站式提供该服务。

  • 深度学习:为用户提供一站式开发和管理功能,通过智能数据处理、模型开发和训练,打通数据、算法模型和部署全链路的解决方案。
  • 传统机器学习:实现了丰富高效的算法,提供了方便的python使用接口,帮助数据分析和应用开发人员能够从数据处理、特征工程、模型训练、预测, 端到端地完成整个流程。
  • 智能视觉分析:依托XX公司AI中台的人脸、人体、车辆、图像识别等领先的视觉能力,集成各种(不断增加)人工智能图像识别算法模型、预置丰富的AI业务技能,将通用对象检测和行为分析两大类算法应用于视觉分析的一种智能识别平台,广泛应用于安全生产、园区管理、校园监控、智能安防、智慧交通、智慧城市等场景。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/841321.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Java核心: 脚本引擎和动态编译

静态语言和动态语言的在相互吸收对方的优秀特性,取人之长补己之短。脚本引擎和动态编译就是其中一个关键特性,扩展了Java的能力边界。这一篇我们主要讲两个东西: ScriptEngine,执行脚本语言代码,如JavaScript、Groovy JavaCompile…

插入排序(概述)

描述 插入排序为将一个数插入到以排序好的数组中 目录 描述 原理 特性 代码 原理 我们以升序为例 先将新数插入到数组的最后一位,记录下新数的值 从新数的位置开始往前遍历,如果前一位大于新数的值 则将当前位置修改为前一位的值 如果前一位小…

爬虫案例:有道翻译python逆向

pip install pip install requestspip install base64pip install pycrytodome tools 浏览器的开发者工具,重点使用断点,和调用堆栈 工具网站:https://curlconverter.com/ 简便请求发送信息 flow 根据网站信息,preview,respon…

php之sql代码审计

1 SQL注入代码审计流程 1.1 反向查找流程 通过可控变量(输入点)回溯危险函数 查找危险函数确定可控变量 传递的过程中触发漏洞 1.2 反向查找流程特点 暴力:全局搜索危险函数 简单:无需过多理解目标网站功能与架构 快速:适用于自动化代码审…

RK3588 opencv maliGPU图像拼接

1 左边图 图像大小:1920*1080 2右边图 图像大小:1920*1080 3拼接好的图像 图像大小&#xff1a;1920 *1080 4代码 #include <iostream> #include <opencv2/opencv.hpp> #include <opencv2/highgui.hpp>//图像融合 #include <opencv2/xfeatures2d.…

基于SpringBoot和Mybatis实现的留言板案例

目录 一、需求及界面展示 二、准备工作 引入依赖 .yml文件相关配置 数据库数据准备 三、编写后端代码 需求分析 代码结构 Model Mapper Service Controller 前端代码 四、测试 一、需求及界面展示 需求&#xff1a; 1. 输入留言信息&#xff0c;点击提交&…

qt-C++笔记之使用QtConcurrent异步地执行槽函数中的内容,使其不阻塞主界面

qt-C笔记之使用QtConcurrent异步地执行槽函数中的内容&#xff0c;使其不阻塞主界面 code review! 文章目录 qt-C笔记之使用QtConcurrent异步地执行槽函数中的内容&#xff0c;使其不阻塞主界面1.QtConcurrent::run基本用法基本用法启动一个全局函数或静态成员函数使用 Lambda…

iOS--锁的学习

iOS--锁的学习 锁的介绍线程安全 锁的分类自旋锁和互斥锁OSSpinLockos_unfair_lockpthread_mutexpthread_mutex的属性 NSLockNSRecursiveLockNSConditionNSConditionLockdispatch_semaphoredispatch_queuesynchronizedatomicpthread_rwlock&#xff1a;读写锁dispatch_barrier_…

摸鱼大数据——Hive基础理论知识——Hive基础架构

1、Hive和MapReduce的关系 1- 用户在Hive上编写数据分析的SQL语句&#xff0c;然后再通过Hive将SQL语句翻译成MapReduce程序代码&#xff0c;最后提交到Yarn集群上进行运行 2- 大家可以将Hive理解成有道词典&#xff0c;帮助你翻译英文 2、Hive架构 用户接口: 包括 CLI、JDBC/…

Java+Swing+Mysql实现飞机订票系统

一、系统介绍 1.开发环境 操作系统&#xff1a;Win10 开发工具 &#xff1a;Eclipse2021 JDK版本&#xff1a;jdk1.8 数据库&#xff1a;Mysql8.0 2.技术选型 JavaSwingMysql 3.功能模块 4.数据库设计 1.用户表&#xff08;users&#xff09; 字段名称 类型 记录内容…

脑机接口习题

9-12章习题 填空题 EEG电极分为 主动电极 和 被动电极 &#xff0c;其中 被动电极 直接与放大器连接&#xff0c; 主动电极 包含一个1~10倍的前置放大。除抗混淆滤波器&#xff0c;放大系统也包含由电阻器、电容器构成的模拟滤波器&#xff0c;把信号频率内容限制在一个特定的…

B树与B+树区别

B树和B树是常见的数据库索引结构&#xff0c;都具有相较于二叉树层级较少&#xff0c;查找效率高的特点&#xff0c;它们之间有以下几个主要区别&#xff1a; 1.节点存储数据的方式不同 B树的叶子结点和非叶子节点都会存储数据&#xff0c;指针和数据共同保存在同一节点中B树…

当标签中出现输入了字母或者数字直接在一行上,没有换行的 情况时怎么办

当标签块中输入的是包含字母或者数字的时候&#xff0c;他不会换行&#xff0c;在一行上显示滚动条的形式&#xff0c;而我们想让他走正常文档流&#xff0c;该换行的时候换行 想要的如下效果 给相应的元素块添加该代码即可 word-break: break-all; .card-content { …

酷开科技大屏营销,多元需求唤醒“客厅经济”

随着科技的发展和消费者习惯的变化&#xff0c;OTT大屏营销正逐渐成为客厅经济的新风向。OTT不仅改变了人们获取信息和娱乐的方式&#xff0c;也为品牌营销提供了新的机遇和挑战&#xff0c;OTT大屏营销已经成为客厅经济的重要组成部分。酷开科技通过其自主研发的智能电视操作系…

一文了解 - GPS/DR组合定位技术

GPS Global Position System 全球定位系统这个大家都很熟悉&#xff0c; 不做太多介绍。 DR Dead Reckoning 车辆推算定位法&#xff0c; 一种常用的辅助的车辆定位技术。 DR系统的优点&#xff1a; 不需要发射和接收信号&#xff1b; 不受电磁波干扰。 DR系统的缺点&#x…

项目管理-质量管理

目录 一、质量管理概述 1.1 GB/T16260.1-2006 定义 1.2 GB/T19000-ISO 9000(2000)系列标准定义 二、软件质量模型 2.1 软件全生命周期质量模型 2.1.1 内部和外部质量的质量模型 2.1.2 使用质量的质量模型 2.1.3 McCall 质量模型 2.1.4 质量特性度量 2.1.5 相关概念 三…

【全开源】多功能投票小程序(ThinkPHP+FastAdmin+Uniapp)

打造高效、便捷的投票体验 一、引言 在数字化快速发展的今天&#xff0c;投票作为一种常见的决策方式&#xff0c;其便捷性和效率性显得尤为重要。为了满足不同场景下的投票需求&#xff0c;我们推出了这款多功能投票小程序系统源码。该系统源码设计灵活、功能丰富&#xff0…

spark实战:实现分区内求最大值,分区间求和以及获取日志文件固定日期的请求路径

spark实战&#xff1a;实现分区内求最大值&#xff0c;分区间求和以及获取日志文件固定日期的请求路径 Apache Spark是一个广泛使用的开源大数据处理框架&#xff0c;以其快速、易用和灵活的特点而受到开发者的青睐。在本文中&#xff0c;我们将通过两个具体的编程任务来展示S…

罗德里格斯公式(旋转矩阵)推导

文章目录 1. 推导2. 性质3. 参考 1. 推导 r r r为旋转轴&#xff0c; θ \theta θ为旋转角度。 先将旋转轴单位化 u r ∣ ∣ r ∣ ∣ u\frac{r}{||r||} u∣∣r∣∣r​ 旋转可以被分为垂直和旋转两个方向&#xff0c; 我们求沿轴方向的分量其实就是在求 p p p向量在 u u u方…