【物联网】Qinghub Kafka 数据采集

基础信息

组件名称 : kafka-connector
组件版本: 1.0.0
组件类型: 系统默认
状 态: 正式发布
组件描述:通用kafka连接网关,消费来自kafka的数据,并转发给下一个节点做相关的数据解析。

配置文件:

注: 配置文件仅供修改升级组件式利用,一般情况下对用户透明。无需做任何更改,除非用户需要手动维护组件心跳或通信端口时,一般情况下禁止修改。

df:component:##全局参数name: tcp-connectortype: 2                               #1:采集器;2:接收器;3:转换器;4:存储器;5:解析器;6:状态解析器:7:同步器;8:消息通知transportPort: 49096                  #内部akkaheartbeatCron: 0/30 * * ? * * *       #网关心跳数据上报时间##全局参数结束##组件参数parameter:connection[0]:name: TCP服务端口号key: tcp.portrequired: truedefault-value: 16060input-type: inputdescription: TCP服务占用的端口value-type: intbase[0]:name: 数据包类型key: tcp.packet.typerequired: truedefault-value: 1value-type: intinput-type: selectselect-option: 字符串类型|1,字节类型|2base[1]:name: 数据包固定分割字节数组ASCII值key: tcp.delimiterrequired: falsedefault-value: 13,10input-type: inputdescription: TCP数据包固定分割符十进制ASCII值,多个用英文,分割value-type: stringbase[2]:name: Byte类型数据包长度字节数key: tcp.length.field.lengthrequired: falsedefault-value: 2input-type: inputdescription: 整个Byte类型的TCP数据包,包长度字节段一共有几个字节,用于长度拆包模式value-type: intbase[3]:name: Byte类型数据包长度数据段起始位置偏移key: tcp.length.field.offsetrequired: falsedefault-value: 0input-type: inputdescription: 长度字节段在整个数据包中从起始位置的偏移,用于长度拆包模式value-type: intbase[4]:name: Byte类型数据包长度含义key: tcp.length.meaningrequired: falsedefault-value: 1input-type: selectselect-option: 长度字节后数据长度|1,整个TCP包长度|2description: 数据包中字节长度的含义,是长度字节后面的字节长度,还是整个TCP包的长度value-type: intadvance[0]:name: 连接最大空闲时间秒数key: tcp.timeout.secondsrequired: falsevalue-type: intdefault-value: 60input-type: inputdescription: TCP连接最大空闲时间,单位秒,默认60秒advance[1]:name: TCP包每一帧最大字节数key: tcp.max.frame.lengthrequired: falsevalue-type: intdefault-value: 2048input-type: inputdescription: TCP包每一帧最大字节数,超过最大字节数会丢弃数据并关闭连接,默认2048

组件测试

针对所有网关,操作方式均为,拖动网关-》配置网关-》启动网关

  1. 配置网关

image.png

  1. 参数说明

image.png
image.png
image.png

  1. 启动网关

注意观察执行日志,确保网关正常运行,状态status 字段为1时表示正常运行中
image.png

  1. 测试验证

1)前提准备:
已经安装好kafka 节点并一正常启动,测试环境kafka信息如下:

IP: 192.168.3.195
PORT: 19092
用户/密码: NONE

2)配置参数
image.png
我们只关注到主要的配置信息。高级配置保持默认即可。
3)启动网关
确保kafka-connector已经正常启动image.png
通过kafka客户端直接发送测试数据:

/opt/kafka_2.13-3.3.1/bin
[develop@itserver01 bin]$ ./kafka-console-producer.sh --broker-list 192.168.3.195:19092 --topic test-topic

4)状态确认
使用TCP 测试工具连接tcp-connector并发送数据执行测试
观察tcp-connector网关日志信息确认是否成功
image.png
如果收到与发送的消息一致即配置成功。

注意:这里返回消息日志中大量的null,请不用关注,在整个架构设计中,我们数据发送的格式全都采用的统一的格式,而所有结构网关类型的组件上传的数据完全不关心数据格式,只负责转发数据,由其他对应的组件做相关的数据处理。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/770860.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

网络七层模型之物理层:理解网络通信的架构(一)

🤍 前端开发工程师、技术日更博主、已过CET6 🍨 阿珊和她的猫_CSDN博客专家、23年度博客之星前端领域TOP1 🕠 牛客高级专题作者、打造专栏《前端面试必备》 、《2024面试高频手撕题》 🍚 蓝桥云课签约作者、上架课程《Vue.js 和 E…

Visual Studio 常用快捷键大全

前言 对于开发者而言,熟悉快捷键的使用,能够起到事半功倍的作用,提高工作效率。以下是我整理的一份Visual Studio常用快捷键清单,希望能够帮助到你。 常用快捷方式 快捷键功能Ctrl K C注释选定内容Ctrl K U取消注释选定内容…

Vue 3.0 中一些主要的生命周期钩子

Vue 3.0 的生命周期钩子与 Vue 2.x 有所不同,但基本的概念和用途是相似的。这些钩子函数允许你在组件的不同阶段执行特定的逻辑。以下是 Vue 3.0 中一些主要的生命周期钩子: setup():这是 Vue 3 引入的一个新钩子,它在组件创建之前…

如何忽略Chrome最小字号的限制

通过控制台调整字体大小时,可以发现即便设置了小于12px的字号,也并不会变小,这是因为Chrome默认最小字号为12px。 在Chrome设置中的外观选项卡中可以发现,默认字体是16px。将最小字号改为0,就能随意设置小于12px的字号…

spring boot商城、商城源码 欢迎交流

一个基于spring boot、spring oauth2.0、mybatis、redis的轻量级、前后端分离、防范xss攻击、拥有分布式锁,为生产环境多实例完全准备,数据库为b2b2c设计,拥有完整sku和下单流程的商城 联系: V-Tavendor

文件编辑命令—vim

1.vim vim 是vi的升级版本.vi 文件名(vi方向键用不了) vim 的官方网站 (welcome home : vim online) 自己也说 vim 是一个程序开发工具而不是文字处理软件。 2.安装vim sudo apt install vim 如果出错了:apt update:刷新软件源; 出现"无法获得锁 之类的"sudo rm 文件…

Java 如何针对不同类型判断一个对象是否为空

在Java中,要判断一个对象是否为空,通常需要考虑不同类型的对象。下面是针对不同情况的一些常用方法: 判断引用类型对象是否为null: 对于引用类型的对象,可以使用简单的判空操作来检查是否为null。 Object obj null…

后端常问面经之并发

volatile 关键字 volatile关键字是如何保证内存可见性的?底层是怎么实现的? "观察加入volatile关键字和没有加入volatile关键字时所生成的汇编代码发现,加入volatile关键字时,会多出一个lock前缀指令”lock前缀指令实际上相…

2015年认证杯SPSSPRO杯数学建模D题(第二阶段)城市公共自行车全过程文档及程序

2015年认证杯SPSSPRO杯数学建模 D题 城市公共自行车 原题再现: 城市交通问题直接影响市民的生活和工作。在地形平坦的城市,公共自行车出行系统是一种很好的辅助手段。一般来说,公共自行车出行系统由数据中心、驻车站点、驻车桩、自行车&…

吴恩达深度学习笔记:浅层神经网络(Shallow neural networks)3.1-3.5

目录 第一门课:神经网络和深度学习 (Neural Networks and Deep Learning)第三周:浅层神经网络(Shallow neural networks)3.1 神经网络概述(Neural Network Overview)3.2 神经网络的表示(Neural Network Representation…

2024年碑林区软科学研究项目申报类型方向、时间流程要求

一、征集类型及研究方向 项目类型:重点支持综合运用自然科学、社会科学和工程技术多门类、多学科知识,为科技和经济社会发展的重大决策提供支撑。 项目支持以“五大发展理念”为指导,围绕科技、经济、民生等社会发展问题,开展对策研究,包含但不限于:加快培育新质生产力、秦创…

【Java八股面试系列】中间件-Redis

目录 Redis 什么是Redis Redis解决了什么问题 Redis的实现原理 数据结构 String 常用命令 应用场景 List(列表) 常用命令 应用场景 Hash(哈希) 常用命令 应用场景 set(集合) 常见命令​编辑 应用场景 Sorted Set(有序集合) 常见命令​编辑 应用场景 数据持…

idea中gradle编译下运营main方法报CreateProcess error=206

问题描述 CreateProcess error206 文件名或扩展名太长 问题分析 解决方案 build.gradle文件里添加 buildscript {repositories {maven {url "https://plugins.gradle.org/m2/"}}dependencies {classpath "gradle.plugin.ua.eshepelyuk:ManifestClasspath:1.…

kali MSF网络安全框架

MSF,全称The Metasploit Framework,简称MSF,是一个强大的网络安全框架,主要用于进行渗透测试和漏洞利用。它提供了丰富的模块和工具,帮助安全研究人员和渗透测试人员发现、利用和修复系统中的安全漏洞。 操作: 不夸张…

web渗透测试漏洞流程:红队资产信息收集之单个目标信息收集

端口爆破工具用法 Hydra 参数详解: -R 根据上一次进度继续破解 -S 使用SSL协议连接 -s 指定端口 -l 指定用户名 -L 指定用户名字典(文件) -p 指定密码破解 -P 指定密码字典(文件) -e 空密码探测和指定用户密码探测(ns) -M <FILE>指定目标列表文件一行一条 -…

Pandas操作MultiIndex合并行列的Excel,写入读取以及写入多余行及Index列处理,插入行,修改某个单元格的值

Pandas操作MultiIndex合并行列的excel&#xff0c;写入读取以及写入多余行及Index列处理 1. 效果图及问题2. 源码参考 今天是谁写Pandas的 复合索引MultiIndex&#xff0c;写的糊糊涂涂&#xff0c;晕晕乎乎。 是我呀… 记录下&#xff0c;现在终于灵台清明了。 明天在记录下直…

【Python百日进阶-Web开发-Peewee】Day287 - Peewee 的扩展(六)字段等

文章目录 13.10 字段class CompressedFieldclass PickleField 13.11 混合属性 Hybrid Attributes13.11.1 混合 APIclass hybrid_methodclass hybrid_property 13.12 键/值存储 Key/Value Storeclass KeyValue 13.10 字段 这些字段可以在playhouse.fields模块中找到。 class C…

Ubuntu22.04安装WordPress教程

Ubuntu22.04安装LEMP堆栈(Nginx MariaDB PHP)教程 Ubuntu22.04安装WordPress教程&#xff08;利用nginx环境和MariaDB数据库&#xff0c;安装使用WordPress&#xff09; 本教程将展示如何在 Ubuntu22.04 上安装 LEMP 堆栈。 一个软件堆栈是捆绑在一起的一组软件工具。 LEMP …

华为全套企业管理资料合集(21专题)

华为全套企业管理资料合集-知识星球下载 1.绩效考核 华为内训绝密资料:绩效管理与绩效考核.ppt 华为绩效管理与绩效考核制度.docx 华为公司实用性各种绩效图表汇总.doc 华为公司考勤管理制度.doc 华为IPD模式中跨部门团队成员的考核激励制度.doc 2.企业管理 华为公司人力资源…

NetCore itext7 创建、编辑PDF插入表格、图片、文字(三)

NetCore 创建、编辑PDF插入表格、图片、文字 NetCore 创建、编辑PDF插入表格、图片、文字(二) NetCore 创建、编辑PDF插入表格、图片、文字(三) 直接上代码 nuget引入 itext7 using System; using System.IO;using iText.IO.Image; using iText.Kernel.Colors; // 导入颜色…