手把手教程本地调试Datax

背景:使用Datax做数仓同步数据得工具,有时需要自己开发或者修改某个reader或writer插件,那么本地调试就很重要。

一. 下载

从GitHub上下载或者clone下来Datax项目。

https://github.com/alibaba/DataX

找到Core模块,运行入口就在Core下得Engine

二. 编译

可以不编译所有模块,但common、core、transformer、plugin-unstructured-storage-util、plugin-rdbms-util这几个基本都是必要的。其他的可以注释掉,防止编译过慢。

三. 启动

1. 配置参数

编译好项目后就可以启动了。

首先配置启动的配置。

主要添加两个参数

DATAX的Home地址: -Ddatax.home=C:\xxx\DataX

任务模式:-mode standalone -jobid -1 -job C:\xxx\DataX\mailreader\target\datax\plugin\reader\mailreader\plugin_job_template.json

(C:\xxx\DataX\mailreader\target\datax\plugin\reader\mailreader\plugin_job_template.json  这个随便配置一个plugin_job_template.json就可以)

2. 添加任务JSON

来到Datax文件下的conf文件,添加你要执行的任务的JSON,文件名教core.json

3. 添加执行任务的插件

本地执行和线上执行一样,都需要在plugin中把插件的相关文件包放在plugin文件夹下,也是区分reader和writer的,这里面放和上面添加的core.json中所需要的reader和Wirter对应的插件包

这里的插件包是maven打包出来的。有时候独立插件打包失败你就打整包就行,一般独立打包失败是因为依赖的common等包没打下来。以ftpreader打包为例,maven打包成功后,找到打好的ftpreader包,放入plugin的reader中。

四, 运行

reader和writer包都打好放入plugin中后,就可以运行了。

五. 注意事项

1. 修改插件代码后需要重新编译放入plugin中,不然运行的代码都是老的,调试也会debug错乱。

2. 需要发布到线上的包可以直接从plugin中获取。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/852448.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

上海市计算机学会竞赛平台2024年5月月赛丙组棋盘问题(二)

题目描述 给定一个 𝑛∗𝑚n∗m 的棋盘,你需要在棋盘上放置黑白两个不同的皇后,请问有多少种放置方法能够使两个皇后之间互相不能攻击对方? 象棋中的皇后可以沿所在行、列及对角线移动任意距离。 输入格式 输入共一…

React <> </>的用法

React &#xff1c;&#xff1e; &#xff1c;/&#xff1e;的用法 介绍为什么使用 <>&#xff1f;例子解释 关于顶级元素总结 介绍 在 React 中&#xff0c;使用 <> 表示一个空标签或片段&#xff08;Fragment&#xff09;&#xff0c;这是一个简洁的方式来包裹一…

黑苹果/Mac如何升级 Mac 新系统 Sequoia Beta 版

Mac升级教程 有必要提醒一下大家&#xff0c;开发者测试版系统一般是给开发者测试用的&#xff0c;可能存在功能不完善、部分软件不兼容的情况&#xff0c;所以不建议普通用户升级&#xff0c;如果实在忍不住&#xff0c;升级之前记得做好备份。 升级方法很简单&#xff1a; …

编程软件要怎么学好:深入剖析与高效学习之道

编程软件要怎么学好&#xff1a;深入剖析与高效学习之道 在数字化时代&#xff0c;编程技能已成为一项不可或缺的能力。而要学好编程软件&#xff0c;不仅需要扎实的编程基础&#xff0c;还需要掌握一定的学习策略和方法。本文将从四个方面、五个方面、六个方面和七个方面&…

windows 下 docker 入门

这里只是具体过程&#xff0c;有不清楚的欢迎随时讨论 1、安装docker &#xff0c;除了下一步&#xff0c;好像也没有其他操作了 2、安装好docker后&#xff0c;默认是运行在linux 下的&#xff0c;这时我们需要切换到windows 环境下&#xff0c; 操作&#xff1a;在右下角d…

Day03 运算符

1、符号运算符 ( ) [ ] . -> 圆括号 数组 成员选择&#xff08;对象&#xff09;——结构体、联合体 成员选择&#xff08;指针&#xff09;——结构体、联合体 2、符号运算符 - () -- * & …

知从科技获得ASPICE CL3认证证书

近日&#xff0c;知从科技正式通过Automotive SPICE CL3&#xff08;汽车软件过程改进及能力评定&#xff09;评估认证&#xff0c;这是继23年3月通过ASPICE CL2级评估的又一个重要里程碑。ASPICE CL3级是目前国内汽车软件领域最高的评估认证等级&#xff0c;这标志着知从科技的…

hw面试总结

在这里给大家推荐一个阿里云的活动&#xff0c;可白嫖一年2h4g服务器 活动链接&#xff1a;https://university.aliyun.com/mobile?clubTaskBizsubTask…11404246…10212…&userCodeks0bglxp 一、漏洞分析 1.SQL注入 原理&#xff1a; 当Web应用向后台数据库传递SQL…

Day04 C语言语句

目录 1、复合语句 2、表达式语句 3、选择分支语句 4、标签语句 5、跳转语句 6、循环&#xff08;迭代&#xff09;语句 用户一般会把实现某些功能的语句整合在一起&#xff0c;构成一个语法单元&#xff1b;C语言标准的语法单位也被称为块&#xff0c;称为块语句 1、复合…

C#|Maui|BootstrapBlazor|Bootstrap Blazor 组件库改模板 | Bootstrap Blazor 组件库改布局,该怎么改?

先copy一个项目下来&#xff1a;Bootstrap Blazor 组件库 一套基于 Bootstrap 和 Blazor 的企业级组件库 发现不是很满足我的需求&#xff0c;我要把右下角的admin移动到左边去&#xff0c;该怎么移动&#xff1f; 先改代码 点进去到Layout.razor 文档&#xff0c;改成如下&am…

净化机应用领域广泛 美国是我国净化机主要出口国

净化机应用领域广泛 美国是我国净化机主要出口国 净化机&#xff0c;又称为空气清洁设备或空气清新机&#xff0c;是一种专门设计用于滤除或杀灭空气污染物、提升空气清洁度的装置。净化机具备高效的过滤功能&#xff0c;能够滤除空气中的悬浮微粒、细菌、病毒和花粉等污染物&a…

C++ const关键字有多种用法举例

C const关键字有多种用法 可以用来修饰变量、指针、函数参数、成员函数等。可以看到const在C中有多种用法&#xff0c;主要用于保证数据的不可变性&#xff0c;增强代码的安全性和可读性。在实际编程中&#xff0c;根据需要选择适当的const用法&#xff0c;可以有效避免意外修…

社区团购系统搭建部署 :便捷高效,连接消费者与商家新篇章

一、前言 随着科技的快速发展和互联网的普及&#xff0c;社区团购系统作为一种新型的购物模式&#xff0c;正以其便捷高效的特性&#xff0c;逐渐改变着消费者和商家的互动方式。社区团购系统为商家提供丰富的营销活动和便捷高效的门店管理体系&#xff0c;为消费者提供真正实惠…

微信小程序是否可以使用自建SSL证书?

在数字化时代&#xff0c;网络安全已成为企业和个人用户关注的焦点。为了保护网站和用户数据的安全&#xff0c;SSL证书应运而生。SSL证书&#xff0c;即安全套接字层证书&#xff0c;是一种用于在客户端和服务器之间建立加密连接的数字证书。它通过公钥加密和私钥解密&#xf…

css3中有哪些新属性(特性)?

在 CSS3 中引入了许多新的属性和特性&#xff0c;以下是其中一些主要的&#xff1a; Flexbox&#xff08;弹性盒子布局&#xff09;&#xff1a;通过 display: flex 及其相关属性&#xff0c;实现灵活的布局方式&#xff0c;使得元素在容器中可以自动调整大小和位置。 Grid&am…

KTH4603 3D Hall传感器在强磁入侵检测中的应用

背景介绍 电子系统一直面临强磁干扰的威胁&#xff0c;保护这些设备免受强磁干扰成为一个重要课题。非法者通过施加强磁意图篡改或干扰它们&#xff0c;窃取产品或服务。强磁场可以对电子设备产生严重的影响&#xff0c;包括但不限于&#xff1a;数据损坏、功能故障、安全隐患…

Ubuntu的文件权限介绍

Linux系统是一个多用户系统&#xff0c;每个用户都会创建自己的文件。为了防止其他人擅自改动他人的文件&#xff0c;需要拥有一套完善的文件保护机制。在Linux系统中&#xff0c;这种保护机制就是文件的访问权限。文件的访问权限决定了谁可以访问和如何访问特定的文件。 为了…

使用langchain异步获取网络信息

文章目录 前言发现问题分析问题阻塞&#xff1f;阻塞&#xff01;附&#xff1a;用什么阻塞streamlit进程 前言 从来没想过在接入通义千问的时候还会遇到NotImplementedError。实在难以理解&#xff0c;处理过后才明白问题。现在总结后给出结果。 发现问题 我们来看个例子。就…

深度学习500问——Chapter11:迁移学习(1)

文章目录 11.1 迁移学习基础知识 11.1.1 什么是迁移学习 11.1.2 为什么需要迁移学习 11.1.3 迁移学习的基本问题有哪些 11.1.4 迁移学习有哪些常用概念 11.1.5 迁移学习与传统机器学习有什么区别 11.1.6 迁移学习的核心及度量准则 11.1.7 迁移学习与其他概念的区别 11.1.8 什么…

服务器再升级!64线程服务器震撼上线,全新渲染体验等你来解锁

秉承着 “科技赋能创意&#xff0c;连接创造价值”的使命&#xff0c; 经过精心的策划和筹备&#xff0c; 蓝海创意云 64线程服务器&#xff0c; 以全新的面貌&#xff0c;优惠的价格&#xff0c; 与大家见面了&#xff01; 诚邀您一起&#xff0c;解锁全新的渲染体验&am…