六、Datax通过json字符串运行

Datax通过json字符串运行

  • 一、场景
  • 二、代码实现

一、场景

  • 制作一个web应用,在页面上配置一个json字符串,保存在数据库里面。在执行json的时候,动态在本地创建一个json文件后执行,并识别是否成功,将执行过程保存在数据库中。
    • 写一个函数,传入json字符串
    • 识别datax是否执行成功
    • 获取执行过程的打印信息
    • 提取执行成功的结果信息

二、代码实现

  • python环境支持:2.x、3.x
# -*- coding:utf-8 -*-import re
import tempfile
import subprocessdef re_search(pattern, text, default=""):search_obj = re.search(pattern, text)return search_obj.group(1) if search_obj else defaultdef parse_datax_success_result(output):# 提取执行成功的结果信息return {"start_time": re_search(r'启动时刻\s+:\s+(.*)', output),"end_time": re_search(r'结束时刻\s+:\s+(.*)', output),"total_time": re_search(r'总计耗时\s+:\s+(.*)', output),"average_flow": re_search(r'平均流量\s+:\s+(.*)', output),"write_speed": re_search(r'写入速度\s+:\s+(.*)', output),"total_records": re_search(r'读出记录总数\s+:\s+(\d+)', output),"total_failures": re_search(r'读写失败总数\s+:\s+(\d+)', output),}def datax_run(json_configuration, datax_path="/data/datax/bin/datax.py"):with tempfile.NamedTemporaryFile() as json_configuration_file:# 创建临时文件,程序运行完,文件会自动删除json_configuration_file.write(json_configuration.encode("utf-8"))# 将写入内存缓冲区中的文件,刷入到磁盘中json_configuration_file.flush()# 获取文件路径json_configuration_file_path = json_configuration_file.name# 定义要执行的 datax 命令datax_command = "python %s %s" % (datax_path, json_configuration_file_path)# 使用 subprocess 模块执行命令process = subprocess.Popen(datax_command, shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE)# output:命令输出信息# error:错误信息output, error = process.communicate()# 获取命令的返回码return_code = process.returncode# 如果返回码为0,那么是成功is_success = return_code == 0# 如果成功,那么解析datax的结果信息datax_result_info = parse_datax_success_result(output) if is_success else {}return is_success, datax_result_info, output, error, return_codeif __name__ == '__main__':with open("/data/datax/job/oracle_to_mysql.json", "r") as f:print(datax_run(f.read()))

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/684712.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C++数据结构与算法——字符串

C第二阶段——数据结构和算法,之前学过一点点数据结构,当时是基于Python来学习的,现在基于C查漏补缺,尤其是树的部分。这一部分计划一个月,主要利用代码随想录来学习,刷题使用力扣网站,不定时更…

2024年【危险化学品经营单位安全管理人员】免费试题及危险化学品经营单位安全管理人员考试总结

题库来源:安全生产模拟考试一点通公众号小程序 危险化学品经营单位安全管理人员免费试题参考答案及危险化学品经营单位安全管理人员考试试题解析是安全生产模拟考试一点通题库老师及危险化学品经营单位安全管理人员操作证已考过的学员汇总,相对有效帮助…

WordPress作者页面链接的用户名自动变成16位字符串串插件Smart User Slug Hider

WordPress默认的作者页面URL链接地址格式为“你的域名/author/admin”,其中admin就是你的用户名,这样的话就会暴露我们的用户名。 为了解决这个问题,前面boke112百科跟大家分享了『如何将WordPress作者存档链接中的用户名改为昵称或ID』一文…

Linux进程间通信(二)-----system V共享内存

共享内存的概念 共享内存让不同进程看到同一份资源的方式就是,在物理内存当中申请一块内存空间,然后将这块内存空间分别与各个进程各自的页表之间建立映射,再在虚拟地址空间当中开辟空间并将虚拟地址填充到各自页表的对应位置,使得…

书生浦语大模型实战营-课程作业(3)

下载sentence_transformer的代码运行情况。sentence_transformer用于embedding(转向量) 本地构建持久化向量数据库。就是把txt和md文件抽取出纯文本,分割成定长(500)后转换成向量,保存到本地,称…

Python算法题集_二叉树的层序遍历

Python算法题集_二叉树的层序遍历 题102:二叉树的层序遍历1. 示例说明2. 题目解析- 题意分解- 优化思路- 测量工具 3. 代码展开1) 标准求解【DFS递归】2) 改进版一【BFS迭代】3) 改进版二【BFS迭代循环】 4. 最优算法 本文为Python算法题集之一的代码示例 题102&am…

python 人脸检测器

import cv2# 加载人脸检测器 关键文件 haarcascade_frontalface_default.xml face_cascade cv2.CascadeClassifier(haarcascade_frontalface_default.xml)# 读取图像 分析图片 ren4.png image cv2.imread(ren4.png) gray cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)# 进行人脸…

数据密集型应用系统设计

数据密集型应用系统设计 原文完整版PDF:https://pan.quark.cn/s/d5a34151fee9 这本书的作者是少有的从工业界干到学术界的牛人,知识面广得惊人,也善于举一反三,知识之间互相关联,比如有个地方把读路径比作programming …

ESP32学习(4)——电脑远程控制LED灯

1.思路梳理 首先需要让ESP32连接上WIFI 然后创建udp socket 接着接收udp数据 最后解析数据,控制LED 2.代码实现 import network from socket import * from machine import Pin p2Pin(2,Pin.OUT)def do_connect(): #连接wifi wlan network.WLAN(network.STA_IF)…

122.乐理基础-五线谱-音程、度数、根音、冠音

内容参考于:三分钟音乐社 上一个内容:五线谱的临时变音记号规则 上一个内容里练习的答案: 1-121看完就可以认识乐谱、熟悉乐谱了,从现在开始与识谱无关,与创作有关 参考图:音程与和弦只是为了撬开去往和…

Vue2学习第一天

Vue2 学习第一天 1. 什么是 vue? Vue 是一套用于构建用户界面的渐进式框架。 2. vue 历史 vue 是在 2013 年创建的,vue3 是 2020 出现的,现在主要是用 vue2,创新公司用的是 vue3 vue 的作者是尤雨溪,vue 的搜索热度比 react…

jacob使用教程---OFFICE操作几乎万能公式---读写XML

参考资料: jacob的GitHub地址https://github.com/freemansoft/jacob-project jacob官网(个人感觉不重要)https://danadler.com/tech-articles/jacob-2/ microsoft官方VBA文档(很重要,jacob所有的参数都来自于这里)https://learn.microsoft.com/zh-cn/office/vba/api/o…

多线程的基本原理学习

由一个问题引发的思考 线程的合理使用能够提升程序的处理性能,主要有两个方面,第一个是能够利用多核cpu以及超线程技术来实现线程的并行执行;第二个是线程的异步化执行相比于同步执行来说,异步执行能够很好的优化程序的处理性能提…

【Day42】代码随想录之动态规划0-1背包_416. 分割等和子集

文章目录 动态规划理论基础动规五部曲:出现结果不正确: 416. 分割等和子集 动态规划理论基础 动规五部曲: 确定dp数组 下标及dp[i] 的含义。递推公式:比如斐波那契数列 dp[i] dp[i-1] dp[i-2]。初始化dp数组。确定遍历顺序&am…

【JAVA-Day87】线程终止问题

线程终止问题 线程终止问题,什么情况下需要终止线程,如何终止Java线程?摘要引言1. 理解线程终止:它代表什么?🛑线程终止的方式线程终止的含义注意事项示例代码 2. 何时需要终止线程?&#x1f91…

新机Word/PowerPoint新建空白文档后闪退问题

首先可以尝试一下常规的修复: 设置-应用-安装的应用-搜索office-点击Micros Office Home and Student...右侧三个点-选择修改-点击是-快速修复-修复 再不行就按上面的选择联机修复,这个会卸载现有Office然后自动帮你重新下载 我做了以上两个都没有解决问…

TMGM官网平台开户运作流程如下:

TMGM官网平台开户运作流程如下: 首先,投资者需要注册并登录TMGM官网平台。在平台上,投资者可以选择适合自己的交易账户类型,包括标准账户、高级账户等。 然后,投资者需要进行身份验证和资金入账操作。TMGM会要求投资…

使用 XML 和 YAML 文件的文件输入和输出

目标 您将找到以下问题的答案: 如何使用YAML或XML文件打印和读取文件和OpenCV的文本条目?如何对 OpenCV 数据结构做同样的事情?如何为您的数据结构执行此操作?使用 OpenCV 数据结构,例如 cv::…

致创新者:聚焦目标,而非问题

传统的企业创新管理方式常常导致组织内部策略不协调、流程低效、创新失败率高等问题。而创新运营作为企业管理创新的新模式,通过整合文化、实践、人员和工具,提高组织创新能力。已经采用创新运营的公司报告了一系列积极的结果,如市场推出速度…

详解函数指针变量,函数指针数组及转移表【超详细建议收藏点赞】

目录 1. 函数指针变量1.1 函数指针变量的创建1.2 函数指针变量的使用1.3 两段有趣的代码 2. 函数指针数组3. 转移表 1. 函数指针变量 什么是函数指针变量呢? 前面我们已经了解了整型指针与函数指针,通过类比我们可以知道: 函数指针变量是用…