Flink CDC基本概念以及MySQL同步到MySQL

目录

欢迎来到Flink CDC

核心概念

数据管道(Data Pipeline)

数据源(Data Source)

数据接收器(Data Sink)

表ID(Table ID)

转换(Transform)

路由(Route)

连接器(connectors)

管道连接器(pipeline connectors)

支持连接器

开发自己的连接器

Flink源

支持的连接器

 支持的Flink版本

特征

MySQL同步到MySQL

DataStream方式实现

需要的依赖pom.xml

准备工作

代码 

测试

​编辑

 SQL方式实现

需要的依赖pom.xml

代码

测试


        本文基于Flink CDC v2.4.2版本和Flink 1.17.1版本。

欢迎来到Flink CDC

        Flink CDC是一个流数据集成工具,旨在为用户提供更强大的API。它允许用户通过YAML优雅地描述他们的ETL管道逻辑,并帮助用户自动生成自定义Flink算子和提交作业。Flink CDC优先优化任务提交过程,并提供增强的功能,如模式演化(schema evolution)、数据转换(data transformation)、全数据库同步(full database synchronization)和仅一次语义(exactly-once semantic)。

        与Apache Flink深度集成并由其提供支持,Flink CDC提供:

✅端到端数据集成框架
✅基于数据集成API用户可轻松构建作业
✅源端/目标端中多表支持
✅整个数据库的同步
✅模式演化能力


核心概念

数据管道(Data Pipeline

        由于Flink CDC中的事件(events)以管道( pipeline)方式从上游流向下游,因此整个ETL

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/51547.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

WebSocket程序设计

协议说明 WebSocket 是一种在单个TCP连接上进行全双工通信的协议。WebSocket 使得客户端和服务器之间的数据交换变得更加简单,允许服务端主动向客户端推送数据。Websocket主要用在B/S架构的应用程序中,在 WebSocket API 中,浏览器和服务器只…

[算法题]装箱问题

题目链接: 装箱问题 1. 动态规划(0、1背包问题) 2. 定义状态表示:dp[i][j] 表示在 1 - i 个物品中,选出不超过容量为 j 的物品的最大体积是多少。 3. 状态转移方程: 1)不选第 i 个物品:dp[i]…

2024全面解析:从零基础到精通的大模型学习路线,非常详细零基础入门到精通,收藏我这一篇就够了

大模型学习路线规划 第一阶段:基础理论入门 目标:了解大模型的基本概念和背景。 内容: 人工智能演进与大模型兴起。 大模型定义及通用人工智能定义。 GPT模型的发展历程。 第二阶段:核心技术解析 目标:深入学习大模…

C++ primer plus 第16章string 类和标准模板库, 函数和容器方法

C primer plus 第16章string 类和标准模板库, 函数和容器方法 C primer plus 第16章string 类和标准模板库, 函数和容器方法 文章目录 C primer plus 第16章string 类和标准模板库, 函数和容器方法16.6.4 函数和容器方法程序清单 16.18 16.6.4 函数和容器方法 有时可以选择使…

python 图片转文字、语音转文字、文字转语音保存音频并朗读

一、python图片转文字 1、引言 pytesseract是基于Python的OCR工具, 底层使用的是Google的Tesseract-OCR 引擎,支持识别图片中的文字,支持jpeg, png, gif, bmp, tiff等图片格式 2、环境配置 python3.6PIL库安装Google Tesseract OCR 3、安…

mac下通过brew安装mysql的环境调试

mac安装mysql 打开终端,运行命令(必须已经装过homebrew哦): 安装brewbin/zsh -c "$(curl -fsSL https://gitee.com/cunkai/HomebrewCN/raw/master/Homebrew.sh)"已安装brew直接运行:brew install mysql8.0报…

洛科威岩棉板在生产生活中广泛应用,以优秀表现实现隔热性能最大化

无论是在住宅领域还是工业生产领域,隔热保温都扮演着极其重要的角色,选用的材料是否足够出色,决定了大家居家生活的舒适度,以及生产过程中能耗的高低。近些年来,洛科威岩棉优秀的隔热性能逐渐得到了各行各业的青睐&…

HomeDepot commercedesk 平台EDI自测流程

Home Depot Canada 是一家全球知名的家居建材零售公司,在加拿大拥有多家分店。它是美国的家居建材零售巨头 Home Depot 在加拿大的子公司。Home Depot 主要销售各种家庭装修和建筑材料,包括工具、家具、装饰品、电器等。公司提供广泛的产品选择和专业的顾…

机器学习(二十四):信息增益、独热编码和回归树

一、纯度测量方式——熵 第一步,定义:一个子集里,某一类别的数据在子集中的占比 例如,下图这组输入数据,根据耳朵形状划分为两个子集,尖耳朵子集里,有四只猫,1只狗。则是4/5 第二步…

Pyppeteer 爬取实战

爬取目标 https://spa2.scrape.center/ 本节工作 遍历每页列表,获取每部电影详情页的 URL 爬取每部电影的详情页, 提取电影名称, 评分,类别,封面,简介等信息 将爬取的数据保存为 JSON数据 准备工作 安…

半监督学习方法的种类

半监督学习方法结合了少量标记数据和大量未标记数据,利用未标记数据来改进模型的性能。以下是几种常见的半监督学习方法: 1. **自训练(Self-training)**:模型先用少量标记数据进行训练,然后使用这个模型来…

NVIDIA正偷偷复活卡皇泰坦,性能秒杀5090Ti

PC 硬件圈的瓜年年有,但最近似乎格外的多噢! 首先针对 13、14 代酷睿 CPU 不稳定问题,Intel 终于做出了正式回应: 他们在对退回的 CPU 进行大量分析后得出,确认是过高的运行电压和微代码算法错误导致了不稳定情况。 …

2-48 基于matlab的EM算法聚类可视化程序

基于matlab的EM算法聚类可视化程序,通过期望最大化算法(EM)优化类别间距,使得类别间距最大、类内间距最小。输出聚类前后结果及收敛曲线。程序已调通,可直接运行。 2-48 期望最大化算法(EM) 聚类…

微信小程序教程002:代码结构介绍和新建小程序页面

文章目录 代码介绍1、小程序代码构成2、小程序页面组成部分3、JSON配置文件的作用3.1 app.json文件3.2 project.config.json文件3.3 sitemap.json文件3.4 页面的.json文件 新建小程序页面WXML和WXSS介绍1、什么是WXML2、什么是WXSS 小程序的JS文件1、JS文件2、小程序中JS文件分…

使用abpcli创建项目时提示数据库迁移失败

问题描述 使用abpcli创建项目时提示数据库迁移失败! 解决方案: 1、检查数据库连接字符串 {"ConnectionStrings": {"Default": "serverlocalhost;port3306;databaseAcmeBookStore;userroot;passwordyour_password;"} }2、…

你真的会提问吗?如何有效提问?

学会提问,其实就是学会了一种优秀的思维方式,提问的过程,本身就是思考的过程。学会提问,也是我们提升领导力非常重要的一步。 一个又一个优秀的提问,会把我们引向人生巅峰;而低质量的提问,只会…

MySQL数据库的DQL的高级数据查询语句

目录 非等值联查: 等值联查: eg:5张表联查 连接查询——left/right/inner join on eg: 连接查询——union Eg: 不去重的并集——union all 子查询(内部查询) 1、where型子查询 2、from型子查询&a…

微信小程序之用户登录

用户登录是小程序的一个常用功能,当用户在浏览文章想要收藏时,在线上购买商品时,只有用户登录自己账号以后,才可以进一步使用这些功能。此文论述了小程序用户登录功能的设计流程 一、设计思路 1、界面 小程序界面效果如下所示&…

【Golang 面试 - 基础题】每日 5 题(六)

✍个人博客:Pandaconda-CSDN博客 📣专栏地址:http://t.csdnimg.cn/UWz06 📚专栏简介:在这个专栏中,我将会分享 Golang 面试中常见的面试题给大家~ ❤️如果有收获的话,欢迎点赞👍收藏…

vue3pinia

pinia 一.pinia的理解及其搭配pinia环境二.使用二.修改数据(三种方式)三.storeToRefs 目录是store Store 包含了状态(state)、获取器(getters)和操作(actions),相当于组件中的&#…