flink集群与资源@k8s源码分析-总述

1 简介

集群和资源模块提供动态资源能力,是分布式系统关键基础设施,分布式datax,分布式索引,事件引擎都需要集群和资源的弹性资源能力,提高伸缩性和作业处理能力。本文分析flink的集群和资源的k8s模块,深入了解其设计原理,为开发自有的集群和资源组件做技术准备, 同时涉及作业管理器,slot pool,但不深入调度器。

本文分析基于flink 1.17版本,不同版本代码差异比较大

2 关键词

作业管理器

资源管理器

任务管理器

3 参考资料

flink官方网站 https://flink.apache.org/

4 flink整体架构

上图展示flink整体架构,本文分析集群和资源

5 flink运行架构

运行架构,按调用顺序展示flink集群启动,作业提交处理组件互动

总体上,集群是mater-worker架构,上图是flink的抽象架构,一个优秀架构可以抽象,第六章介绍架构”具体” k8s实现

6 flink@k8s运行架构

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/89759.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

云计算与大数据——部署Hadoop集群并运行MapReduce集群(超级详细!)

云计算与大数据——部署Hadoop集群并运行MapReduce集群(超级详细!) Linux搭建Hadoop集群(CentOS7hadoop3.2.0JDK1.8Mapreduce完全分布式集群) 本文章所用到的版本号: CentOS7 Hadoop3.2.0 JDK1.8 基本概念及重要性 很多小伙伴部署集群用hadoop用mapr…

运动控制:音圈电机

在运动平台中,对于微小运动,例如1-5毫米,甚至更小的行程,常用音圈电机来驱动。 因为它们具有体积小,运动质量小,高加速度等显著特征。 无论是在工业领域,还是在医用内窥镜,呼吸机&…

python - 超详细实现 csv 文件单个、批量读取和输出功能,读取数据并保存导出为 csv 文件教程(详细示例源码,一键复制开箱即用)

介绍 实现了在python中,cvs文件的单个或批量读取,以及导出输出详细示例代码教程,新手小白一看就懂! 简单改下代码,就可以轻松用到你的项目中去了。 示例源码 按照以下示例代码,完成复制。<

Linux服务器自定义登陆提示信息

背景 最近在搭建zookeeper和应用服务环境&#xff0c;需要配置很多东西&#xff0c;然后不同服务器的文件路径之类的东西可能会有一些不同&#xff0c;比较麻烦&#xff0c;就准备给每个服务器配置一个登陆提示&#xff0c;让每一个登陆的用户能很快了解配置信息和文件路径。 …

2023年9月28日历史上的今天大事件早读

公元前551年9月28日 孔子诞辰 1864年9月28日 第一国际成立 1868年9月28日 上海江南制造总局第一号火轮船竣工 1898年9月28日 “戊戌六君子”被处死 1908年9月28日 十三世达赖抵京 1927年9月28日 汾水战役 1928年9月28日 崇安起义 1945年9月28日 中国军队赴越南接受日军投降 195…

写代码生成流程图

我们在写文档&#xff0c;博客的时候&#xff0c;一般都会使用markdown语法&#xff0c;最常见的就是一些github开源项目的README。有时候会去画一些流程图&#xff0c;例如使用process.on或者xmind等第三方网站&#xff0c;然后截图插入到文档中。 今天我们介绍一种使用代码直…

Podfile文件对ios,osx的支持

def import_podspod CoreKit endtarget :ios doplatform :ios, 7.0import_pods endtarget :osx doplatform :osx, 10.9import_pods end

AI AIgents时代 - (四.) HuggingGPT MetaGPT

&#x1f7e2; HuggingGPT HuggingGPT是一个多模型调用的 Agent 框架&#xff0c;利用 ChatGPT 作为任务规划器&#xff0c;根据每个模型的描述来选择 HuggingFace 平台上可用的模型&#xff0c;最后根据模型的执行结果生成总结性的响应。 这个项目目前已在 Github 上开源&am…

python:数据拟合求解方程参数

大家早好、午好、晚好吖 ❤ ~欢迎光临本文章 如果有什么疑惑/资料需要的可以点击文章末尾名片领取源码 首先引入三件套和scipy import numpy as np import pandas as pd import matplotlib.pyplot as plt from scipy.optimize import curve_fit拿到实验数据,通过pandas读取为…

‘Could not find first log file name in binary log index file‘的解决办法

mysql主从报异常Got fatal error 1236 from master when reading data from binary log: Could not find first log file name in binary log index file 数据库主从出错: Slave_IO_Running: No 一方面原因是因为网络通信的问题也有可能是日志读取错误的问题。以下是日志出错…

知识图谱02——使用python将信息录入neo4j

将文档传入chatgpt&#xff0c;生成对应的cypher语句 链接: https://pan.baidu.com/s/1Ny-ttbBSpqYEigwYiCWMeA?pwdc7sc 提取码: c7sc 使用命令行安装对应的包 pip install neo4jchatgpt生成出的txt文档中的内容如下&#xff1a; MERGE (Node1:Entity {name: 原始舱单提运单…

ClickHouse(15)ClickHouse合并树MergeTree家族表引擎之GraphiteMergeTree详细解析

GraphiteMergeTree该引擎用来对Graphite数据(图数据)进行瘦身及汇总。对于想使用ClickHouse来存储Graphite数据的开发者来说可能有用。 如果不需要对Graphite数据做汇总&#xff0c;那么可以使用任意的ClickHouse表引擎&#xff1b;但若需要&#xff0c;那就采用GraphiteMerge…

实验室没人导该怎么办

实验室没人教该怎么办 Q: 国内top5高校研一,课题开始老板就给了一个大方向,之后怎么做实验都是自己看文献研究的,终于开始动手做实验,才发现别人根本不想管你,宁愿抱着电脑看剧也不想教你,十分焦虑,该怎么办? A: 按照大多数实验室的惯例,老板一定会指派一个小老板…

电子学会Python二级知识点(自己整理)

序列 Python的变量不需要声明&#xff0c;每个变量在使用之前必须赋值&#xff0c;变量被赋值以后&#xff0c;该变量才会被创建。常见的6个数据类型&#xff1a;数字(Number)、字符串(String)、列表(List)、元组(Tuple)、集合(Set)、字典(Dictionary)。6中数据类型分为两大类…

解决键盘长按才有反应

问题分析&#xff1a; 排除键盘自身没有问题&#xff0c;那就应该是电脑设置的问题&#xff0c;目前我遇到的不小心长按shift键设置了【筛选键】 解决方式&#xff1a; 打开设置搜索筛选建&#xff0c;关闭&#xff0c;粘带键也会出现类似问题。

HCQ1-1300-D【故障笔记】

常用查错网址&#xff1a; SMC_ERROR (ENUM) 34&#xff1a;【实轴从正常状态转到错误状态】FB放错线程&#xff0c;&#xff08;要放ecat线程内&#xff09;&#xff0c;比如 MC_Jog 36&#xff1a; 删除 Web 小于4.9 可使用4.6

acwing算法基础之基础算法--归并排序

目录 1 知识点2 代码模板 1 知识点 归并排序算法步骤&#xff1a; step1&#xff1a;确定分界点&#xff0c;比如mid (left right) / 2。 step2&#xff1a;递归排序分界点左边部分、分界点右边部分。 step3&#xff1a;归并。将有序的左边序列和有序的右边序列&#xff0c;…

港联证券:为什么股票不能买跌?

股票商场是一个布满变数和风险的商场&#xff0c;出资者经常会遇到这样一个问题&#xff1a;为什么股票不能买跌&#xff1f;在商场中&#xff0c;有许多的股票价格不断地走低&#xff0c;为什么不能趁低买入呢&#xff1f;这一问题的答案并不简略&#xff0c;需要从多个角度去…

习题6-3 使用函数输出指定范围内的完数 (20分)

本题要求实现一个计算整数因子和的简单函数&#xff0c;并利用其实现另一个函数&#xff0c;输出两正整数m和n&#xff08;0<m≤n≤10000&#xff09;之间的所有完数。所谓完数就是该数恰好等于除自身外的因子之和。例如&#xff1a;6123&#xff0c;其中1、2、3为6的因子。…