大数据基础设施搭建

大数据基础设施搭建 - Maxwell

文章目录

一、上传压缩包
二、解压压缩包
三、启用MySQL Binlog
- 3.1 修改MySQL配置文件
- 3.2 重启MySQL服务
- 3.3 测试
四、创建Maxwell所需数据库和用户
- 4.1 创建数据库
- 4.2 调整MySQL数据库密码级别
- 4.3 创建Maxwell用户并赋予其必要权限
- 4.4 测试
五、修改配置文件
- 5.1 修改Maxwell配置文件名称
- 5.2 修改Maxwell配置文件
六、增量数据同步
- 6.1 创建Kafka Topic
- 6.2 启动/停止
- 6.3 测试
- - 6.3.1 向MySQL中插入数据
  - 6.3.2 Maxwell采集到的json数据
八、历史数据全量同步
- 8.1 全量同步
- 8.2 遇到问题
- - 8.2.1 重命名8.0jar包
  - 8.2.2 拷贝5.1jar包到Maxwell的lib目录
  - 8.2.3 重启Maxwell

一、上传压缩包

下载地址：https://github.com/zendesk/maxwell/releases/download/v1.29.2/maxwell-1.29.2.tar.gz
注意1：Maxwell是用java写的，需要JDK环境。
注意2：Maxwell-1.30.0及以上版本不再支持JDK1.8。

二、解压压缩包

[mall@mall software]$ tar -zxvf maxwell-1.29.2.tar.gz -C /opt/module/

三、启用MySQL Binlog

MySQL Binlog默认是不开启的。

3.1 修改MySQL配置文件

[mall@mall module]$ sudo vim /etc/my.cnf

新增内容：

注意：需要在[mysqld]下面添加mysql相关配置！
server-id：开启binlog后，MySQL就以为要搞主从复制了，所以需要给服务器编上号，然后标记哪个是主哪个是从。

[mysqld]#数据库id
server-id = 1
#启动binlog，该参数的值会作为binlog的文件名
log-bin=mysql-gmall-binlog
#binlog类型，maxwell要求为row类型
binlog_format=row
#启用binlog的数据库，需根据实际情况作出修改
binlog-do-db=gmall

3.2 重启MySQL服务

[mall@mall module]$ sudo systemctl restart mysqld

3.3 测试

File：binlog文件名，文件写满后会滚动后缀。
Position：偏移量

[mall@mall module]$ mysql -uroot -p
mysql> show master status;

四、创建Maxwell所需数据库和用户

Maxwell需要在MySQL中存储其运行过程中的所需的一些数据，包括binlog同步的断点位置（Maxwell支持断点续传）等等，故需要在MySQL为Maxwell创建数据库及用户。

4.1 创建数据库

msyql> CREATE DATABASE maxwell;

4.2 调整MySQL数据库密码级别

每次创建/修改用户、密码都得执行此命令。

mysql> set global validate_password_policy=0;
mysql> set global validate_password_length=4;

4.3 创建Maxwell用户并赋予其必要权限

创建用户：创建maxwell用户，开放给所有host连接地址，密码为maxwell。
授予权限1：把maxwell库下的所有表的ALL所有权限授予给maxwell用户的%任意的host地址连接。
授予权限2：任意库里的任意表的基础读权限（SELECT, REPLICATION CLIENT, REPLICATION SLAVE），给到maxwell用户的任意地址连接

mysql> CREATE USER 'maxwell'@'%' IDENTIFIED BY 'maxwell';
mysql> GRANT ALL ON maxwell.* TO 'maxwell'@'%';
mysql> GRANT SELECT, REPLICATION CLIENT, REPLICATION SLAVE ON *.* TO 'maxwell'@'%';

4.4 测试

select_priv：查询权限
repl_slave_priv：成为主服务器的从属服务器的权限
repl_client_priv：从主服务器接收binlog文件的权限

mysql> select user,select_priv,repl_slave_priv,repl_client_priv from user;

五、修改配置文件

5.1 修改Maxwell配置文件名称

[mall@mall module]$ cd /opt/module/maxwell-1.29.2/
[mall@mall maxwell-1.29.2]$ cp config.properties.example config.properties

5.2 修改Maxwell配置文件

[mall@mall maxwell-1.29.2]$ vim config.properties

内容：

#Maxwell数据发送目的地，可选配置有stdout|file|kafka|kinesis|pubsub|sqs|rabbitmq|redis
producer=kafka
#目标Kafka集群地址
kafka.bootstrap.servers=hadoop102:9092,hadoop103:9092
#目标Kafka topic，可静态配置，例如:maxwell，也可动态配置，例如：%{database}_%{table}
kafka_topic=maxwell_gmall#MySQL相关配置
host=mall
user=maxwell
password=maxwell
jdbc_options=useSSL=false&serverTimezone=Asia/Shanghai

六、增量数据同步

6.1 创建Kafka Topic

maxwell不会自动去创建topic，必须手动创建topic，否则maxwell会启动失败。

[hadoop@hadoop102 kafka_2.11-2.4.1]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --replication-factor 2 --partitions 2 --topic maxwell_gmall

6.2 启动/停止

# 启动
[mall@mall ~]$ /opt/module/maxwell-1.29.2/bin/maxwell --config /opt/module/maxwell-1.29.2/config.properties --daemon
# 停止
[mall@mall ~]$ ps -ef | grep maxwell | grep -v grep | awk '{print $2}'
[mall@mall ~]$ kill

6.3 测试

6.3.1 向MySQL中插入数据

mysql> INSERT INTO `activity_info` VALUES (2, 'oppo专场', '3102', 'oppo满减', '2020-10-22 18:49:12', '2020-11-30 18:49:15', NULL);

6.3.2 Maxwell采集到的json数据

ts：10为时间戳，单位是秒s，表示采集到json数据的时间
xid：事务id
commit：事务是否提交成功

{"database": "gmall","table": "activity_info","type": "insert","ts": 1701337924,"xid": 10012,"commit": true,"data": {"id": 2,"activity_name": "oppo专场","activity_type": "3102","activity_desc": "oppo满减","start_time": "2020-10-22 18:49:12","end_time": "2020-11-30 18:49:15","create_time": null}
}

八、历史数据全量同步

本质是select，性能差。
在进行增量同步之前，先进行一次历史数据的全量同步，这样才能保证得到一个完整的数据集。
注意1：第一次全量同步只能用Maxwell，因为Maxwell采集到是json串，用其他工具同步会造成首次全量和每日增量数据格式不一致。
注意2：第一条type为bootstrap-start和最后一条type为bootstrap-complete的数据，是bootstrap开始和结束的标志，不包含数据，中间的type为bootstrap-insert的数据才包含数据。
注意3：一次bootstrap输出的所有记录的ts都相同，为bootstrap开始的时间。

8.1 全量同步

[mall@mall ~]$ /opt/module/maxwell-1.29.2/bin/maxwell-bootstrap --database gmall --table activity_info --config /opt/module/maxwell-1.29.2/config.properties

8.2 遇到问题

问题描述：连接MySQL失败！
报错info：MaxwellBootstrapUtility: Connections could not be acquired from the underlying database!
原因：Maxwell的lib中的MySQL连接包是mysql-connector-java-8.0.17.jar，MySQL的版本是5.7，8.0的jar包无法连接5.7的数据库。
解决方案：下载5.1的jar包进行替换，替换后重启。

8.2.1 重命名8.0jar包

[mall@mall ~]$ cd /opt/module/maxwell-1.29.2/lib/
[mall@mall lib]$ mv mysql-connector-java-8.0.17.jar mysql-connector-java-8.0.17.jar.bak

8.2.2 拷贝5.1jar包到Maxwell的lib目录

[mall@mall lib]$ cp /opt/software/mysql/mysql-connector-java-5.1.27-bin.jar /opt/module/maxwell-1.29.2/lib/

8.2.3 重启Maxwell

# 停止
[mall@mall ~]$ ps -ef | grep maxwell | grep -v grep | awk '{print $2}'
[mall@mall ~]$ kill 
# 启动
[mall@mall ~]$ /opt/module/maxwell-1.29.2/bin/maxwell --config /opt/module/maxwell-1.29.2/config.properties --daemon