聊聊Flink：Docker搭建Flink

一、准备工作

查看下Docker和Docker Compose版本，确保你安装了这些软件。

在这里插入图片描述

在 Flink 官网上下载 Flink 的 Docker 镜像。您可以使用以下命令从 Docker Hub 中下载：

docker pull flink:1.18.0-scala_2.12

此命令将下载 Flink 1.18.0 版本的 Docker 镜像，并且使用 Scala 2.12 进行编译。

二、编写Docker Compose文件

Docker Compose可以通过一个YAML文件来定义和管理多个容器的服务。我们将使用Docker Compose来定义Flink集群的容器服务。

创建一个 docker-compose.yml 文件，该文件描述了您要启动的容器及其配置。下面是一个基本的示例文件：

version: '3'services:jobmanager:image: flink:1.18.0-scala_2.12command: jobmanagerports:- "8081:8081"volumes:- ./settings/:/settings- ./data/:/dataenvironment:- |FLINK_PROPERTIES=jobmanager.rpc.address: jobmanagerrestart: alwaystaskmanager:image: flink:1.18.0-scala_2.12command: taskmanagerdepends_on:- jobmanagerscale: 1environment:- |FLINK_PROPERTIES=jobmanager.rpc.address: jobmanagertaskmanager.numberOfTaskSlots: 20volumes:- ./settings/:/settings- ./data/:/datarestart: always

上述代码定义了两个服务：jobmanager和taskmanager。jobmanager用于管理Flink作业，taskmanager用于执行Flink作业的任务。

三、构建和启动容器

在终端中，切换到包含docker-compose.yml文件的目录，然后执行以下命令构建和启动容器：

docker-compose up -d

以上命令将会以后台模式启动Flink容器集群

在这里插入图片描述

四、访问Flink Web界面

一旦容器启动完成，可以通过浏览器访问Flink Web界面。在浏览器中输入http://localhost:8081，即可访问Flink的Web界面。在该界面中，可以查看作业列表、监控任务状态等信息。

在这里插入图片描述

五、提交Flink作业

现在，可以通过Flink Web界面提交和管理Flink作业。首先，将一个Flink作业的JAR文件上传到Flink Web界面。然后，通过界面上的操作，选择相应的作业并点击Submit按钮来提交作业。

另外，也可以通过命令行方式提交Flink作业。在终端中，执行以下命令来提交Flink作业：

docker exec -it <jobmanager_container_id> flink run -m taskmanager:8081 /path/to/job.jar

其中，<jobmanager_container_id>是Flink集群中jobmanager容器的ID，/path/to/job.jar是Flink作业的JAR文件路径。

注意：上面的提交是旧的方式，笔者这里用的Flink 1.18版本，上面的命令行已经舍弃了。

//先把你本地的jar包文件

docker cp /你的文件目录/flink-release-1.18.0/flink-reimann-test/target/flink-reimann-test-1.18.0.jar <jobmanager_container_id>:/opt/flink/test

docker exec -it <jobmanager_container_id> /bin/bash

bin/flink run -c org.apache.flink.PartitionerTest test/flink-reimann-test-1.18.0.jar

在这里插入图片描述