Maxwell介绍

一、介绍

介绍:它读取MySQL binlog并将数据更改作为JSON写入Kafka、Kinesis和其他流媒体平台(目前支持:kafka、RabbitMQ、Redis、file、Kinesis、Nats、Google Cloud Pub/Sub、Google Cloud Bigquery、SNS)
版本:从v1.30.0版本开始不支持jdk1.8,支持jdk11,所以推荐使用v1.29.2版本
在这里插入图片描述

官网:https://maxwells-daemon.io/

二、安装配置

下载地址:https://github.com/zendesk/maxwell/releases/tag/v1.29.2

2.1、开启mysql binlog

# /etc/my.cnf[mysqld]
#数据库id
server-id = 1
#启动binlog,该参数的值会作为binlog的文件名
log-bin=mysql-bin
#binlog类型,maxwell要求为row类型
binlog_format=row
#启用binlog的数据库,需根据实际情况作出修改
binlog-do-db=demo

2.2、解压缩

tar -zxvf maxwell-1.29.2.tar.gz -C maxwell

三、启动

启动命令执行之后会自动在对应的数据库中创建maxwell数据库用于存放元数据

3.1、将数据发送到kafka

bin/maxwell --user='maxwell' --password='XXXXXX' --host='127.0.0.1' \--producer=kafka --kafka.bootstrap.servers=localhost:9092 --kafka_topic=maxwell

3.2、将数据发送到rabbitmq

bin/maxwell --user='maxwell' --password='XXXXXX' --host='127.0.0.1' \--producer=rabbitmq --rabbitmq_host='rabbitmq.hostname'

3.3、将数据发送到redis

bin/maxwell --user='maxwell' --password='XXXXXX' --host='127.0.0.1' \--producer=redis --redis_host=redis.hostname

3.4、使用docker的方式将数据发送到kafka

docker run -it --rm zendesk/maxwell bin/maxwell --user=$MYSQL_USERNAME \--password=$MYSQL_PASSWORD --host=$MYSQL_HOST --producer=kafka \--kafka.bootstrap.servers=$KAFKA_HOST:$KAFKA_PORT --kafka_topic=maxwell

四、高可用

官网:https://maxwells-daemon.io/high_availability/
maxwell v1.29.2 版本不支持高可用,但是提供了采用 jgroups-raft 算法的高可用方案

五、过滤表

同步指定数据库的数据,支持一下两种方式进行过滤

--filter = 'exclude: foodb.*, include: foodb.tbl, include: foodb./table_\d+/'--filter = 'exclude: *.*, include: db1.*'

六、全量同步

bin/maxwell-bootstrap --database fooDB --table barTablebin/maxwell-bootstrap --database fooDB --table barTable --where "my_date >= '2017-01-07 00:00:00'"

七、总结

maxwell是一款采用Java开发的mysql数据同步中间件,支持全量/增量数据的同步,数据采用JSON的方式传输,无其他格式,不支持高可用,使用简单。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/634523.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【车载开发系列】Autosar DCM诊断管理模块

【车载开发系列】Autosar DCM诊断管理模块 【车载开发系列】Autosar DCM诊断管理模块 【车载开发系列】Autosar DCM诊断管理模块一. DCM模块概念二. DCM模块与Autosar其他模块关系1)Dcm和PduR的交互2)Dcm和ComM模块的交互3)Dcm和Dem的交互4&a…

RocketMQ常见面试题及答案梳理

1、RocketMQ有什么作用? 异步:数据的产生方不需要关心谁来使用数据,只需要将数据发送到broker,后续需要管消费流程,Rocket也有保证消息可靠性的方案消峰:正常业务系统当流量激增时,有可能会将系统压垮,有了…

H12-821_324

324.以下关于AC漫游组的描述,说法错误的是? A.漫游组的AC需要部署一台Master Controller B.AC可担任多个漫游组的漫游组服务器,同时自身可加入多个漫游组 C.Master Contoller必须为漫游组内的AC D.STA只能在同一个漫游组内的AC间才能进行漫游 答案:BC …

ChatGPT正确打开方式与GPT-4.5的key最新获取方式

前言 前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家:https://www.captainbed.cn/z ChatGPT体验地址 文章目录 前言4.5key价格泄漏ChatGPT4.0使用地址ChatGPT正确打开方式最新功能语音助手存档…

【2015~2024】大牛直播SDK演化史

大牛直播SDK的由来 大牛直播SDK始于2015年,最初我们只是想做个低延迟的RTMP推拉流解决方案,用于移动单兵等毫秒级延迟的场景下,我们先是实现了Android平台RTMP直播推送模块,当我们用市面上可以找到的RTMP播放器测试时延的时候&am…

网络设备的分类和功能、机柜布局、网络设备安装

网络互连设备根据不同层实现的机理不一样,又具体分为五类: 1、网络传输介质互联设备 2、网络物理层互联设备 3、数据链路层互联设备 4、网络层互联设备 5、应用层互联设备 常用设备 网络互联设备--互联设备 1、中继器 中继器是局域网互连的最简单…

恒创科技:云存储和网盘怎么区分出来?

随着互联网的发展,数据存储已成为人们日常生活中不可或缺的一部分。云存储和网盘是经常被人们提及的两种存储方式,均通过网络进行数据存储和访问的服务。但,它们在技术实现、数据安全性、访问方式和数据容量等方面存在一定的差异。要区分&…

三甲医院预约挂号系统源码,具备后台管理端和用户使用端,用户使用端包括:微信公众号、支付宝小程序

随着医疗行业的不断发展,预约挂号管理系统已成为医院管理中不可或缺的一部分。 预约挂号管理系统是一款综合性的预约挂号管理系统,帮助医院实现全方位的信息化管理,提高医疗服务质量和效率。支撑公众号、小程序、手机网上预约。 一款服务适用…

openssl3.2 - 官方demo学习 - kdf - argon2.c

文章目录 openssl3.2 - 官方demo学习 - kdf - argon2.c概述笔记END openssl3.2 - 官方demo学习 - kdf - argon2.c 概述 设置KDF算法的参数, 并获得key 笔记 /*! \file argon2.c \note openssl3.2 - 官方demo学习 - kdf - argon2.c 设置KDF算法的参数, 并获得key *//** Copy…

企业用户注册阿里云账号:为何选择企业实名认证及其五大优势

在数字化时代,云计算已成为企业运营不可或缺的一部分。阿里云,作为领先的云服务提供商,为企业用户提供了丰富的云产品和解决方案。但在享受这些服务之前,企业用户需要完成阿里云账号的注册和实名认证。本文将深入探讨为何企业用户…

Nginx Proxy反向代理

Nginx Proxy 反向代理 1. 反向代理原理2. 正/反向代理的区别2.1. 正向代理2.2. 反向代理 3. 知识扩展3.1. HTTP Server 和 Application Server的区别和联系3.2. 静态资源和动态资源的区别 4. Nginx Proxy 配置4.1. 配置源站服务器4.2. 配置 Nginx 反向代理服务器4.3. Nginx pro…

小程序打包发行流程

工具 HBuilder X 、微信开发者工具、微信公众平台地址(微信公众平台) 配置 一、manifest.json 配置 通过 HBuilder X 打开 manifest.json 文件,找到 微信小程序配置,填写 微信小程序AppID,此 AppID 必须是本人有权…

Jvm相关知识(面试高级必备)

类的实例化顺序 先静态、先父后子 先静态:父静态>子静态 优先级:父类>子类 静态代码块>非静态代码块>构造函数 一个类的实例化过程: ①.父类的static代码块,当前类的static; ②.顺序执行…

freeswitch on centos dockerfile模式

概述 freeswitch是一款简单好用的VOIP开源软交换平台。 centos7 docker上编译安装fs的流程记录,本文使用dockerfile模式。 环境 docker engine:Version 24.0.6 centos docker:7 freeswitch:v1.6.20 dockerfile 创建空目录…

力扣电话号码的组合

文章目录 题目说明做题思路代码实现代码解析 题目链接 题目说明 首先我们先分析一下这个题目题目中说呢先给出一个字符串这个字符串其实就是这个九键数字我们要按照要求将数字所代表的字符进行自由组合形成一个字符串并且这个字符串的长度和输入的数字字符串长度相同&#xff0…

DAY25:回溯算法组合题216、17

Leetcode: 216 组合总和III 经过了昨天组合的题目的学习,这道题比较简单,套用之前的模板就可以 基本思路 终止条件,遇到向量的个数一样,并且sum等于n的时候终止。输入变量,n,k,还有起始的idx和基于当前元…

2024.1.19

今天狠狠地复习了一下C语言,不复习不知道,一复习吓一跳昂,这感觉好多都忘却了,这并非一件好事,所以说还好复习了,不然考试就有点问题了,但是还好写一下这些代码就马上想起来了,所以说…

如何快速申请GPT账号?

详情点击链接:如何快速申请GPT账号?​​​​​​​ 一OpenAI 1.最新大模型GPT-4 Turbo 2.最新发布的高级数据分析,AI画图,图像识别,文档API 3.GPT Store 4.从0到1创建自己的GPT应用 5. 模型Gemini以及大模型Claude…

search——Bloom Filter

详情,看这一篇博客 package mainimport ("fmt""math""strconv" )type BloomFilter struct {*bitMapk uint64 // hash function countm uint64 // bits array lengthn uint64 // insert n numberp float64 //…

递归组件怎么实现无线滚动

递归组件实现无限滚动的方法通常涉及到对数据的递归处理和组件的自我调用。以下是一个简单的示例,展示如何使用递归组件实现无限滚动: 首先,定义一个递归组件,该组件可以调用自己来渲染下一组数据。假设我们要展示一个滚动列表&a…