【Kafka】2.深入理解Kafka事件流平台及其核心概念

1.事件流(Event streaming)

事件流是人体中枢神经系统的数字化的等价物。它是构建“始终在线”世界的技术基础,在这个世界中,企业越来越多地被定义为软件化和自动化,而软件的用户本身也是软件。

从技术上讲,事件流是从数据库、传感器、移动设备、云服务和软件应用程序等事件源实时捕获数据的做法,以事件流的形式;将这些事件流持久化存储以供以后检索;实时以及回顾性地操作、处理和响应事件流;并根据需要将事件流路由到不同的目标技术。因此,事件流确保了数据的持续流动和解释,以便正确的信息在正确的地点,正确的时间可用。

2.事件流作用

事件流适用于各种用例,跨越众多行业和组织。它的许多例子包括:

  • 实时处理支付和金融交易,例如在证券交易所、银行和保险公司。
  • 实时跟踪和监控汽车、卡车、车队和货物,例如在物流和汽车行业。
  • 持续捕获和分析来自IoT设备或其他设备的传感器数据,例如在工厂和风力公园。
  • 收集并立即响应客户互动和订单,例如在零售、酒店和旅游行业以及移动应用程序中。
  • 在医院护理中监测患者并预测病情变化,以确保在紧急情况下及时治疗。
  • 连接、存储并使公司不同部门产生的数据可用。
  • 作为数据平台、事件驱动架构和微服务的基础。

3.Kafka是一个事件流平台意味着什么?

Kafka结合了三个关键能力,因此您可以使用一个经过实战考验的解决方案端到端实现您的事件流用例:

  • 发布(写入)和订阅(读取)事件流,包括从其他系统中持续导入/导出您的数据。
  • 持久可靠地存储事件流,只要您需要。
  • 实时或回顾性地处理事件流。

所有这些功能都以分布式、高度可扩展、弹性、容错和安全的方式提供。Kafka可以在裸机硬件、虚拟机上部署,也可以在容器中部署,在本地以及云中。您可以选择自行管理Kafka环境或使用各种供应商提供的全托管服务。

4.Kafka如何运作?

Kafka是一个由服务器和客户端组成的分布式系统,通过高性能的TCP网络协议进行通信。它可以在本地硬件、虚拟机和容器上部署,在本地以及云环境中。

服务器: Kafka作为一台或多台服务器的集群运行,可以跨越多个数据中心或云区域。其中一些服务器形成存储层,称为代理。其他服务器运行Kafka Connect,以持续地将数据作为事件流导入和导出,将Kafka与您现有的系统集成,例如关系数据库以及其他Kafka集群。为了让您实现关键任务用例,Kafka集群具有高度的可扩展性和容错性:如果任何服务器失败,其他服务器将接管它们的工作,以确保不间断的操作,而不会丢失任何数据。

客户端: 它们允许您编写分布式应用程序和微服务,以并行、大规模和容错的方式读取、写入和处理事件流,即使在网络问题或机器故障的情况下也是如此。Kafka随附了一些这样的客户端,这些客户端由Kafka社区提供的数十个客户端增强:客户端可用于Java和Scala,包括更高级别的Kafka Streams库,适用于Go、Python、C/C++等许多其他编程语言,以及REST API。

5.主要概念和术语

事件记录了“某事发生”的事实,无论是在世界还是您的业务中。它也称为记录或消息(Message)。当您读取或写入Kafka中的数据时,您是通过事件的形式进行的。概念上,一个事件有一个键、值、时间戳和可选的元数据头。这里是一个示例事件:

  • 事件键:“Alice”
  • 事件值:“向Bob支付了200美元”
  • 事件时间戳:“2020年6月25日下午2:06”
    生产者(Producer)是发布(写入)事件到Kafka的客户端应用程序,消费者(Consumer)是订阅(读取和处理)这些事件的应用程序。在Kafka中,生产者和消费者是完全解耦的,并且彼此不知情,这是实现Kafka众所周知的高可扩展性的关键设计元素。例如,生产者永远不需要等待消费者。Kafka提供了各种保证,例如能够精确处理事件的能力。

事件被组织并持久地存储在主题(Topic)中。非常简化地说,主题类似于文件系统中的文件夹,事件是该文件夹中的文件。一个示例主题名称可能是“payments”。Kafka中的主题始终是多生产者和多订阅者:一个主题可以有零、一个或多个生产者将事件写入其中,以及零、一个或多个消费者订阅这些事件。主题中的事件可以根据需要读取尽可能多次 - 与传统的消息系统不同,事件在消费后不会被删除。相反,您通过每个主题的配置设置定义Kafka应该保留您的事件多长时间,之后旧的事件将被丢弃。Kafka的性能对于数据大小实际上是恒定的,因此长时间存储数据完全没有问题。

主题是分区(Partition)的,这意味着主题分布在位于不同Kafka代理上的“桶”上。您的数据的分布式放置对于可扩展性非常重要,因为它允许客户端应用程序同时从/向许多代理读取和写入数据。当发布到主题的新事件时,它实际上被追加到主题的某个分区中。具有相同事件键(例如,客户或车辆ID)的事件被写入到同一个分区中,并且Kafka保证任何给定主题-分区的消费者总是能够按照它们被写入的完全相同的顺序读取那些分区中的事件。
 图示:这个示例主题有四个分区P1-P4。两个不同的生产者客户端正独立于彼此地向主题发布新事件,通过在网络中向主题的分区写入事件。具有相同键(在图中用颜色表示)的事件被写入同一个分区。请注意,如果适当,两个生产者都可以向同一个分区写入。
为了使您的数据具有容错性和高可用性,每个主题都可以复制,甚至可以跨地理区域或数据中心复制,以便在出现问题、您想要对代理进行维护等情况下,始终有多个代理拥有数据的副本。一个常见的生产设置是3的复制因子,即,您的数据将始终有三份副本。这种复制是在主题-分区级别上执行的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/12761.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

SHELL编程(一)

目录 一、 Linux操作系统(一)内核与操作系统(二)操作系统的功能 二、Linux高级命令(一) 离线安装 dpkg1. 安装2. 使用3. 查看安装详细信息4. 安装路径5. 不完全删除6. 完全删除 (二)…

KNN算法用于回归分析

生成数据集 from sklearn.datasets import make_regression import matplotlib.pyplot as plt# 生成特征数量为1, 噪音为50的数据集 X, y make_regression(n_features1, n_informative1, noise50, random_state8)# 散点图 plt.scatter(X, y, c"orange",…

什么是TCP的粘包、拆包问题?

一、问题解析 TCP粘包和拆包问题是指在进行TCP通信时,因为TCP是面向流的,所以发送方在传输数据时可能会将多个小的数据包粘合在一起发送,而接收方则可能将这些数据包拆分成多个小的数据包进行接收,从而导致数据接收出现错误或者数…

欢乐钓鱼大师攻略大全,新手钓鱼入坑必备攻略!

《欢乐钓鱼大师》是一款深受玩家喜爱的钓鱼手游,在游戏中,玩家可以通过升级和更换鱼竿来享受钓鱼的乐趣,并有机会钓到各种稀有鱼类。然而,很多玩家在闯关过程中遇到了不少困难。为了帮助大家更好地掌握游戏技巧,小编特…

4 软件定义安全综合:使用c/s模式进行控制器数据安全交互管理

在SDN三层结构中,我们通过OpenFlow 协议可以控制数据转发设备的相关行为(包括收集设备的信息),那么控制器上的数据能否通过应用层的程序进行管理调用呢? SDN(软件定义网络)的北向开发是指通过编…

二进制搭建k8s

实验环境: k8s集群master01:192.168.1.11 k8s集群master02:192.168.1.22 master虚拟ip:192.168.1.100 k8s集群node01:192.168.1.33 k8s集群node01:192.168.1.44 nginxkeepalive01(master):192.168.1.55 nginxkeepalive02&a…

渲染农场是什么意思?瑞云渲染为你解答

渲染农场是一种通过集合多台计算机的计算能力来加速图像渲染过程的系统。它尤其适用于动画、电影特效和高端视觉效果的制作,这些领域通常需要处理非常复杂和计算密集型的渲染任务。 渲染农场就是一大群电脑,他们一起可以快速渲染出漂亮的图像。在做动画片…

客观需求验证的常见5大步骤(实施版)

我们在挖掘用户需求时,往往容易犯伪需求或需求错位等问题,因此需要进行客观需求验证。通过客观的验证,我们可以有效减少主观判断误差问题,确保需求的准确性,从而降低需求变更和项目风险的概率,减少开发成本…

LeetCode算法题:11. 盛最多水的容器(Java)(双指针问题总结)

给定一个长度为 n 的整数数组 height 。有 n 条垂线&#xff0c;第 i 条线的两个端点是 (i, 0) 和 (i, height[i]) 。 找出其中的两条线&#xff0c;使得它们与 x 轴共同构成的容器可以容纳最多的水。 返回容器可以储存的最大水量。 提示&#xff1a; n height.length2 <…

第十四届蓝桥杯大赛软件赛国赛C/C++ 大学 B 组 数三角

//枚举顶点。 //不存在等边三角形 #include<bits/stdc.h> using namespace std; #define int long long const int n2e311; int a,b,c,l[n],r[n]; signed main() {ios::sync_with_stdio(false);cin.tie(0),cout.tie(0);cin>>a;for(int i1;i<a;i){cin>>…

UE4_环境_局部雾化效果

学习笔记&#xff0c;不喜勿喷&#xff01;侵权立删&#xff01;祝愿大家生活越来越好&#xff01; 本文重点介绍下材质节点SphereMask节点在体积雾中的使用方法。 一、球体遮罩SphereMask材质节点介绍&#xff1a; 球体蒙版&#xff08;SphereMask&#xff09; 表达式根据距…

2024红帽全球峰会:CEO行业洞察分享

作为全球IT领域一年一度的行业盛宴&#xff0c;2024红帽全球峰会于近日盛大召开。生成式AI与大模型是当前IT行业最受关注的热点话题&#xff0c;而红帽在生成式AI与大模型领域的最新动作&#xff0c;也理所当然地成为了本届峰会观众目光聚集的焦点。 作为世界领先的开源解决方案…

使用vcpkg与json文件自动安装项目依赖库

说明 本文记录自己使用vcpkg.json文件自动安装依赖库并完成编译的全过程。 关于vcpkg是什么这里就不多详细解释&#xff0c;可以看一下专门的介绍及安装的文章&#xff0c;总之了解这是一个C的包管理工具就可以了。 流程 下面介绍从GitHub上克隆C项目以及为这个项目安装所需…

二叉树的常见操作

建立树 复制二叉树 计算深度 计算总结点数 计算叶子结点数

OpenHarmony标准设备应用开发(二)——布局、动画与音乐

本章是 OpenHarmony 标准设备应用开发的第二篇文章。我们通过知识体系新开发的几个基于 OpenHarmony3.1 Beta 标准系统的样例&#xff1a;分布式音乐播放、传炸弹、购物车等样例&#xff0c;分别介绍下音乐播放、显示动画、动画转场&#xff08;页面间转场&#xff09;三个进阶…

AI工具的热门与卓越:揭示AI技术的实际应用和影响

文章目录 每日一句正能量前言常用AI工具创新AI应用个人体验分享后记 每日一句正能量 我们在我们的劳动过程中学习思考&#xff0c;劳动的结果&#xff0c;我们认识了世界的奥妙&#xff0c;于是我们就真正来改变生活了。 前言 随着人工智能&#xff08;AI&#xff09;技术的快…

深度剖析MyBatis的二级缓存

二级缓存的原理 MyBatis 二级缓存的原理是什么&#xff1f; 二级缓存的原理和一级缓存一样&#xff0c;第一次查询会将数据放到 缓存 中&#xff0c;然后第二次查询直接去缓存读取。但是一级缓存是基于 SqlSession 的&#xff0c;二级缓存是基于 mapper 的 namespace 的。也就是…

Qt运行时,如何设置第一个聚焦的控件

问题&#xff1a;Qt第一个聚焦的控件&#xff0c;如何自行设置&#xff1f; 尝试&#xff1a; 1.在代码中设置 lineEdit->setFocus() 。无效&#xff01; 2.Qt Designer–打开form1.ui–菜单栏下一行–Edit Tab Order–按顺序点击–菜单栏下一行–Edit Widgets–退出。无效…

【easyX】动手轻松掌握easyX 1

01 简单绘图 在这个程序中&#xff0c;我们先初始化绘图窗口。其次&#xff0c;简单绘制两条线。 #include <graphics.h>//绘图库头文件 #include <stdio.h> int main() {initgraph(640, 480);//初始化640✖480绘图屏幕line(200, 240, 440, 240);//画线(200,240)…

MySQL是如何选择索引的?

2.3.5. 索引选择 MySQL是如何选择索引的&#xff1f; 优化器决定了具体某一索引的选择&#xff0c;也就是常说的执行计划。而优化器的选择是基于成本&#xff08;cost&#xff09;&#xff0c;哪个索引的成本越低&#xff0c;优先使用哪个索引。 SQL 优化器会分析所有可能的执…