88页精品PPT | 某电信集团大数据平台建设方案技术交流

这份PPT文档是关于某电信集团大数据平台建设的技术交流方案,内容涵盖了现状分析、规划思路、产品设计、成功案例以及干货附录等多个部分。文档详细介绍了集团大数据平台的建设背景、技术特点、面临的挑战和痛点,以及具体的技术架构和实施策略。还包括了数据资产管理、数据治理、安全和运营等方面的深入探讨,旨在通过构建一个高效、安全、可扩展的大数据平台,以支持企业的数字化转型和业务创新。

122ba9cc8d2b2a6731fecb8c964c951a.jpeg


现状及规划思路


一、现状分析

  1. 数据割裂与共享困难:集团内部数据孤岛现象严重,数据共享难度大,导致数据价值释放有限。

  2. 数据量巨大:集团大数据平台每天处理的数据量达到1.2PB,现有规模为700台+服务器,预计未来将扩展至数千台。

  3. 数据资产管理:数据资产管理旨在解决系统间数据孤岛问题,通过集中化管理形成企业数据资产,服务于业务。

  4. 业务层面:通过模块去重和沉淀,共享通用模块,使前台业务更敏捷地面向市场,实现新业务快速上线与迭代。

  5. 技术层面:避免重复开发,技术迭代升级更高效,按需扩展服务,使技术架构更开放。

  6. 痛点分析:包括数据割裂、数据分散、数据冗余、数据质量、数据服务便捷性等问题。

ea11a282e90ea17213a14bd9570bdf76.jpeg

f18cc802e383cb87d9f5f21bf839d5bf.jpeg

cdf917f6ea5e2cf4516cc5f62d9a8b71.jpeg

二、规划思路

  1. 整体目标:建立集团数据中心,打通网络侧、终端侧、内外业务侧,构建跨区域、跨机房、集约化集群管控。

  2. 基础集群能力:数据治理、降本增效,贯通生态,强化网络能力输出。

  3. 数据变现能力:提供行业精准画像、应用产业影响和发展支撑。

  4. 行业垂直数据:以O域为主,融合B域及全国平台侧数据、网络侧、终端侧、内外业务侧,实现网络数据变现能力。

  5. 总体架构:采用云化集群技术架构,包括服务模块、计算模块、存储模块等,以及多集群和混合云管理。

  6. 技术特点:包括多集群容器云平台、集群资源管理与监控、节点扩容、应用分区及应用管理等。

  7. 集团与各省份关系:集团云化集群与各省大数据平台之间的服务适配、数据同步和语义加工处理。

  8. 技术发展趋势:走向AI + Big data + Cloud融合,构建能力共享生态,支持租户自助使用云化大数据资源,保障数据安全开放。

1a2a1f2e551c8b653b5ffa3456858485.jpeg

8b11754a284d821b13ce47e70b2ae165.jpeg

83ade300308b95d4d7f9e12907e372d1.jpeg

dacb6d5e1da9e35bb17d2236b2dcb253.jpeg

11cfde7da00273ae03670127f56415dc.jpeg

ebc43b12929178d9b6d28423568aa422.jpeg

28d39d5911aec31768abe6d795724c2e.jpeg

416c38267adb1b046212fd0ed8de1759.jpeg

08d952eba5099e0f577e2ff69cb044d5.jpeg

d0031d20eb8cb28d6560554bcc63f213.jpeg

a169ef52cb6fc57d0577ea499bb4921c.jpeg

85934786e5d43c1db99af9efc94038ad.jpeg

5ca8891364d0100c5e655735d57d021e.jpeg

109104440e231f8a49575b02db46ce9c.jpeg

10e8c109324896d69f7350f734296e95.jpeg

b70b35e03436aaf9cd8c54530b38b95b.jpeg

33c7a90c35cf7a485e025a753b6d3b62.jpeg

0f313a2e21e0668891c8a31ce95b7efd.jpeg

15c7d78443ecadd3f457104690372941.jpeg

dc4ce0b8bf94daabf95446f681f54507.jpeg

0dac360c306105a3ce9dbd85a6682c87.jpeg

8e2893dbabcf72c3bbf4d1d89b2b5a61.jpeg

f19a961e65d65ba4009a0588efbfe88b.jpeg

8d29f76a6157b1fb675240078d55b325.jpeg

8ade6967af63f8d7b7a1e00bc96477c7.jpeg

297ac2eb82053a671c1fb9aa2ac4b6cf.jpeg

75ce7ea91ea75470c9cf76bf68a0e706.jpeg

f3d20241ee7fb661eab22bf88903e78e.jpeg

0874aebf2a742529bbf70c57955dec3b.jpeg


产品设计


某电信集团大数据平台的产品设计聚焦于资产注册、建模分发、数说工厂以及跨集群管理等核心功能。旨在通过集中化的数据资产管理解决数据孤岛问题,提升数据价值,同时确保数据的安全性和合规性。产品设计还包括了对数据项和模型的精细管理,以及数据同步和加工,以支持数据的全生命周期管理。

该设计强调了跨集群的用户管理能力,通过统一调度和监控系统实现对大数据任务的高效管理和运维。安全方面,产品设计考虑了从仓库到容器的全方位安全管理措施,确保数据在采集、传输、存储和使用过程中的安全。

9e8a6ea171221bfbb569ed47b435d46c.jpeg

f06c887b5740aea9f23d38a539e40d1e.jpeg

4d57e4c9371d3daa059aba4904c42f08.jpeg

5445d84122d45d0613c3d0f4bb45705a.jpeg

26dccc26ac55b5aca73f0bc7c2f0f11a.jpeg

dd6dc3ee340a644c994b1634ceec3545.jpeg

a442b4bc51357ef1f62fa4e40edb6847.jpeg

9dd1b92e4a88cbfb0915b9ff51b77483.jpeg

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/887535.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Java设计模式笔记(一)

Java设计模式笔记(一) (23种设计模式由于篇幅较大分为两篇展示) 一、设计模式介绍 1、设计模式的目的 让程序具有更好的: 代码重用性可读性可扩展性可靠性高内聚,低耦合 2、设计模式的七大原则 单一职…

在使用PCA算法进行数据压缩降维时,如何确定最佳维度是一个关键问题?

一、PCA算法的基本原理 PCA算法的核心思想是通过正交变换,将一组可能相关的变量转换成一组线性不相关的变量,称为主成分。这组主成分能够以最小的信息损失来尽可能多地保留原始数据集的变异性。具体来说,PCA算法包括以下几个步骤&#xff1a…

shodan(7)

声明! 学习视频来自B站up主 泷羽sec 有兴趣的师傅可以关注一下,如涉及侵权马上删除文章,笔记只是方便各位师傅的学习和探讨,文章所提到的网站以及内容,只做学习交流,其他均与本人以及泷羽sec团队无关&#…

三维地形图计算软件(三)-原基于PYQT5+pyqtgraph旧代码

最先入手设计三维地形图及平基挖填方计算软件时,地形图的显示方案是:三维视图基于pyqtgraph.opengl显示和二维视图基于pyqtgraph的PlotWidget来显示地形地貌,作到一半时就发现,地形点过多时,将会造成系统卡顿(加载时主…

从入门到精通数据结构----四大排序(上)

目录 首言: 1. 插入排序 1.1 直接插入排序 1.2 希尔排序 2. 选择排序 2.1 直接选择排序 2.2 堆排序 3. 交换排序 3.1 冒泡排序 3.2 快排 结尾: 首言: 本篇文章主要介绍常见的四大排序:交换排序、选择排序、插入排序、归并排…

集合Queue、Deque、LinkedList、ArrayDeque、PriorityQueue详解

1、 Queue与Deque的区别 在研究java集合源码的时候,发现了一个很少用但是很有趣的点:Queue以及Deque; 平常在写leetcode经常用LinkedList向上转型Deque作为栈或者队列使用,但是一直都不知道Queue的作用,于是就直接官方…

Qwen2.5-7B大模型微调记录

Qwen2.5-7B大模型微调记录 研究需要,需要搞一个大模型出来,没有太多的时间自己训练,准备用现成的开源大模型,然后结合研究方向进行微调 前前后后折腾大半个月,总算做完了第一个微调的大模型,模型基于阿里…

docker 的各种操作

Docker pull拉取镜像报错“Error response from daemon: Get "https://registry-1.docker.io/v2”解决办法: 解决方法:将 /etc/docker/daemon.json 中的"registry-mirrors"的内容换成如下内容 { "registry-mirrors": [ "…

动态规划之背包问题

0/1背包问题 1.二维数组解法 题目描述:有一个容量为m的背包,还有n个物品,他们的重量分别为w1、w2、w3.....wn,他们的价值分别为v1、v2、v3......vn。每个物品只能使用一次,求可以放进背包物品的最大价值。 输入样例…

蓝桥杯模拟题不知名题目

题目:p是一个质数&#xff0c;但p是n的约数。将p称为是n的质因数。求2024最大质因数。 #include<iostream> #include<algorithm> using namespace std; bool fun(int x) {for(int i 2 ; i * i < x ; i){if(x % i 0)return false;}return true; } int main() …

cocoscreater3.8.4生成图集并使用

1.安装texturepacker&#xff0c;去官网下载https://www.codeandweb.com/texturepacker 2.将图片拖动进来&#xff0c;即可自动生成精灵表&#xff0c;这里输出选用cocos2d-x&#xff0c;打包用免费版的“基本”就行&#xff0c;高级模式是收费的&#xff0c;然后点击“发布精…

解决SSL VPN客户端一直提示无法连接服务器的问题

近期服务器更新VPN后&#xff0c;我的win10电脑一致无法连接到VPN服务器&#xff0c; SSL VPN客户端总是提示无法连接到服务端。网上百度尝试了各种方法后&#xff0c;终于通过以下设置方式解决了问题&#xff1a; 1、首先&#xff0c;在控制面板中打开“网络和共享中心”窗口&…

从零开始学GeoServer源码(二)添加支持arcgis切片功能

文章目录 参考文章环境背景1、配置打包好的程序1.1、下载GeoServer的war包1.2、下载GeoWebCache1.3、拷贝jar包1.4、修改配置文件1.4.1、拷贝geowebcache-arcgiscache-context.xml1.4.2、修改geowebcache-core-context.xml1.4.3、修改geowebcache-servlet.xml 1.5、配置切片信息…

【Docker】Centos7 Jenkins 踩坑笔记

文章目录 1. docker pull 超时2. 初始化找不到 initialAdminPassword 1. docker pull 超时 docker pull 命令拉不下来 docker pull jenkins/jenkins:lts-jdk17 Error response from daemon: Get "https://registry-1.docker.io/v2/": 编辑docker配置 sudo mkdir -…

Java中的JSONObject详解

文章目录 Java中的JSONObject详解一、引言二、JSONObject的创建与基本操作1、创建JSONObject2、添加键值对3、获取值 三、JSONObject的高级特性1、遍历JSONObject2、从字符串创建JSONObject3、JSONObject与JSONArray的结合使用4、更新和删除键值对 四、错误处理1. 键值存在性检…

【大数据学习 | Spark-Core】Spark中的join原理

join是两个结果集之间的链接&#xff0c;需要进行数据的匹配。 演示一下join是否存在shuffle。 1. 如果两个rdd没有分区器&#xff0c;分区个数一致 &#xff0c;会发生shuffle。但分区数量不变。 scala> val arr Array(("zhangsan",300),("lisi",…

111.有效单词

class Solution {public boolean isValid(String word) {if(word.length()<3){return false;}int countV0,countC0;//分别统计原音和辅音for(int i0;i<word.length();i){if(Character.isLetterOrDigit(word.charAt(i))){if(word.charAt(i)a||word.charAt(i)e||word.charA…

安装python拓展库pyquery相关问题

我采用的是离线whl文件安装, 从官方库地址: https://pypi.org/, 下载whl文件, 然后在本地电脑上执行pip install whl路径文件名.whl 但是在运行时报错如下图 大体看了看, 先是说了说找到了合适的 lxml>2.1, 在我的python库路径中, 然后我去看了看我的lxml版本, 是4.8.0, 对…

如何启动多个libvirtd进程

导语:如何启动多个libvirtd,咋一想这不简单,多运行几个libvirtd不就完事,其实不然?为什么启动多个libvirtd,有何应用场景?当前libvirt代码架构是否支持启动多个libvirtd? 一、如何启动libvirtd # /usr/local/sbin/libvirtd --listen --listen 必须参数,监控tcp/ip c…

架构-微服务-服务网关

文章目录 前言一、网关介绍1. 什么是API网关2. 核心功能特性3. 解决方案 二、Gateway简介三、Gateway快速入门1. 基础版2. 增强版3. 简写版 四、Gateway核心架构1. 基本概念2. 执行流程 五、Gateway断言1. 内置路由断言工厂2. 自定义路由断言工厂 六、过滤器1. 基本概念2. 局部…