1.15-1.16 sqoop action

一、sqoop action1

http://oozie.apache.org/docs/4.0.0/DG_SqoopActionExtension.html

1、准备文件

##
[root@hadoop-senior oozie-apps]# mkdir sqoop-import-user##job.properties
nameNode=hdfs://hadoop-senior.ibeifeng.com:8020
jobTracker=hadoop-senior.ibeifeng.com:8032
queueName=default
oozieAppsRoot=user/root/oozie-apps
oozieDataRoot=user/root/oozie/datasoozie.use.system.libpath=trueoozie.wf.application.path=${nameNode}/${oozieAppsRoot}/sqoop-import-useroutputDir=sqoop-import-user/output##
<workflow-app xmlns="uri:oozie:workflow:0.5" name="sqoop-wf"><start to="sqoop-node"/><action name="sqoop-node"><sqoop xmlns="uri:oozie:sqoop-action:0.3"><job-tracker>${jobTracker}</job-tracker><name-node>${nameNode}</name-node><prepare><delete path="${nameNode}/${oozieDataRoot}/${outputDir}"/></prepare><configuration><property><name>mapred.job.queue.name</name><value>${queueName}</value></property></configuration><command>import --connect jdbc:mysql://hadoop-senior.ibeifeng.com:3306/test --username root --password 123456 --table my_user --target-dir /user/root/oozie/datas/sqoop-import-user/output --fields-terminated-by "$$$" --num-mappers 1</command></sqoop><ok to="end"/><error to="fail"/></action><kill name="fail"><message>Sqoop failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message></kill><end name="end"/>
</workflow-app>##
<command></command>        //sqoop要执行的命令


2、运行sqoopaction

##复制mysql驱动
[root@hadoop-senior oozie-apps]# mkdir sqoop-import-user/lib[root@hadoop-senior oozie-apps]# cp /opt/softwares/mysql-libs/mysql-connector-java-5.1.27/mysql-connector-java-5.1.27-bin.jar sqoop-import-user/lib/##上传到hdfs
[root@hadoop-senior oozie-apps]# /opt/cdh-5.3.6/hadoop-2.5.0-cdh5.3.6/bin/hdfs dfs -put sqoop-import-user/ /user/root/oozie-apps/## 运行
export OOZIE_URL=http://hadoop-senior.ibeifeng.com:11000/oozie/
[root@hadoop-senior oozie-4.0.0-cdh5.3.6]# bin/oozie job -config oozie-apps/sqoop-import-user/job.properties -run


二、sqoop action2

1、准备文件

##
[root@hadoop-senior oozie-apps]# mkdir sqoop-import-user2##job.properties
nameNode=hdfs://hadoop-senior.ibeifeng.com:8020
jobTracker=hadoop-senior.ibeifeng.com:8032
queueName=default
oozieAppsRoot=user/root/oozie-apps
oozieDataRoot=user/root/oozie/datasoozie.use.system.libpath=trueoozie.wf.application.path=${nameNode}/${oozieAppsRoot}/sqoop-import-useroutputDir=sqoop-import-user/output##workflow.xml
<workflow-app xmlns="uri:oozie:workflow:0.5" name="sqoop-wf"><start to="sqoop-node"/><action name="sqoop-node"><sqoop xmlns="uri:oozie:sqoop-action:0.3"><job-tracker>${jobTracker}</job-tracker><name-node>${nameNode}</name-node><prepare><delete path="${nameNode}/${oozieDataRoot}/${outputDir}"/></prepare><configuration><property><name>mapred.job.queue.name</name><value>${queueName}</value></property></configuration><command>import --options-file imp-user.sql</command></sqoop><ok to="end"/><error to="fail"/></action><kill name="fail"><message>Sqoop failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message></kill><end name="end"/>
</workflow-app>##imp-user.sql
--connect
jdbc:mysql://hadoop-senior.ibeifeng.com:3306/test
--username
root
--password
123456
--table
my_user
--target-dir
/user/root/oozie/datas/sqoop-import-user/output
--fields-terminated-by
"\t"
--num-mappers
1


2、运行

##
[root@hadoop-senior oozie-apps]# cp /opt/softwares/mysql-libs/mysql-connector-java-5.1.27/mysql-connector-java-5.1.27-bin.jar sqoop-import-user2/lib/##
[root@hadoop-senior oozie-apps]# ls sqoop-import-user2/
imp-user.sql  job.properties  lib  workflow.xml[root@hadoop-senior oozie-apps]# 
[root@hadoop-senior oozie-apps]# /opt/cdh-5.3.6/hadoop-2.5.0-cdh5.3.6/bin/hdfs dfs -put sqoop-import-user2/ /user/root/oozie-apps##运行
[root@hadoop-senior oozie-4.0.0-cdh5.3.6]# export OOZIE_URL=http://hadoop-senior.ibeifeng.com:11000/oozie/
[root@hadoop-senior oozie-4.0.0-cdh5.3.6]# bin/oozie job -config oozie-apps/sqoop-import-user2/job.properties -run

转载于:https://www.cnblogs.com/weiyiming007/p/10862248.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/483405.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

元宇宙深度报告,共177页!

来源: 中信证券Hi听说元宇宙最近火得不得了这里有一份元宇宙深度报告内容超级详实丰富绝对值得收藏分享给大家未来智能实验室的主要工作包括&#xff1a;建立AI智能系统智商评测体系&#xff0c;开展世界人工智能智商评测&#xff1b;开展互联网&#xff08;城市&#xff09;大…

计算机网络——奈氏准则和香农定理

1. 失真 2.影响失真的因素 \qquad传输速率&#xff0c;传输距离&#xff0c;噪声干扰&#xff0c;传输媒体质量 3.一种失真现象——码间串扰 \qquad信道带宽&#xff1a;信道所能通过信号的最高频率和最低频率之差。 \qquad码间串扰&#xff1a;接收端收到的信号波形失去了码元…

VMware安装CentOS7超详细版

个人网站 博客园 个人学习笔记在线文档 欢迎访问 &#xff01; 写在前面 云计算与分布式这门课程的老师让我们使用vmware安装好centos7.6并配置好Java编译环境&#xff0c;刚好复习一波&#xff0c;下面是详细的安装过程。 准备工作 VMware&#xff0c;我用的是VMware Worksta…

转 Java jar (SpringBoot Jar)转为win可执行的exe程序

原文链接&#xff1a;http://voidm.com/2018/12/29/java-jar-transform-exe/打包Jar工程将java项目打包成jar工程,可以是文章以SpringBoot为例pom文件下的packaging改为jar, 之后执行package打包获得项目jar文件<groupId>com.voidm</groupId><artifactId>mav…

从引力波探测到RNA测序,AI如何加速科学发现

来源&#xff1a;AI科技评论编译:眉钉编辑:琰琰越来越复杂的实验和日益增长的数据为科学探索带来了新的挑战&#xff0c;而实验表明&#xff0c;机器学习&#xff0c;尤其是深度神经网络架构的通用性能够解决广泛且复杂的问题&#xff0c; ImageNet 等大型数据集的激增&#xf…

个人博客网站 Welcome All

个人博客网站 : www.serendipper-x.cn 内容一样&#xff0c;欢迎访问 &#xff01;

计算机网络——编码和调制

1.什么叫编码&#xff1f;什么叫调制&#xff1f; \qquad将数据变为数字信号&#xff0c;叫编码&#xff1b;将数据变为模拟信号&#xff0c;叫调制。 2.将数字数据编码为数字信号 \qquad将数字数据编码为数字信号的方式有&#xff1a;1&#xff09;非归零编码&#xff1b;2&…

开发相关的一些周边小问题记录

此博主要用于记录&#xff0c;持续记录更新中…… 1.Firefox默认自动检查版本并更新&#xff0c;某次更新完后&#xff0c;无法打开任何页面&#xff0c;且“选项”、“定制”等等按钮在点击之后也无任何反应&#xff0c;整个浏览器仿佛变成了僵尸。进入Firefox官网手动点击联网…

Cisco Packet Tracer的安装与汉化

同个人网站 https://www.serendipper-x.cn/&#xff0c;欢迎访问 &#xff01; 一、下载 1、官网下载 首先去思科官网下载对应的压缩包。 点击图中所示注册下载按钮按照提示步骤完成注册 注册之后登陆&#xff0c;点击导航栏中资源->所有资源&#xff0c;即可看到各版本压…

物理学家发现粒子是如何自我组装的

来源&#xff1a;诸平科学网博客作者&#xff1a;诸平链接地址&#xff1a;http://blog.sciencenet.cn/blog-212210-1310642.html据美国纽约大学&#xff08;New York University简称NYU&#xff09;2021年11月1日提供的消息&#xff0c;一组物理学家发现了DNA分子是如何根据组…

计算机网络——物理层传输介质

1.什么是传输介质&#xff1f; \qquad传输介质&#xff0c;也称为传输媒体/传输媒介&#xff0c;它是数据传输系统中在发送设备和接收设备之间的物理通路。传输介质不是物理层。 2.传输介质的分类 \qquad导向性传输介质&#xff1a;电磁波被导向沿着固体媒介&#xff08;铜线或…

《程序员修炼之道:从小工到专家》阅读笔记03

《程序员修炼之道&#xff1a;从小工到专家》阅读笔记03 第六章 当你编码时 靠巧合编程应该避免靠巧合编程&#xff0c;避免依靠运气和偶然的成功。而要深思熟虑的编程。怎样深思熟虑的编程&#xff1a;1&#xff09;总是意识到你在做什么2&#xff09;不要盲目的编程3&#xf…

PyTorch中Tensor的基本用法与动手学深度学习的预备知识

同个人博客网站 : www.serendipper-x.cn &#x1f433;&#x1f433; 第一部分是PyTorch中有关Tensor的一些基本用法&#xff0c;因为之前并没有系统学习过PyTorch&#xff0c;所以现在看书的同时慢慢学习PyTorch的知识 第二部分是原书的知识和一些自己的理解 一、PyTorch 中…

计算机网络——物理层设备

1.中继器 \qquad信号在传输过程中会有衰减&#xff0c;导致数据失真&#xff0c;所以我们需要对信号进行再生和还原&#xff0c;使其与原数据相同。这就需要中继器的发挥作用。 2.中继器的结构 \qquad中继器的两端&#xff1a;两端的网络部分是网段而不是子网&#xff0c;适用…

重磅!2020国家科学技术奖全名单公布!

来源&#xff1a;软科 2021年11月3日&#xff0c;2020年度国家科学技术奖励大会在人民大会堂正式召开。备受关注的国家最高科学技术奖&#xff0c;授予了中国航空工业集团有限公司顾诵芬院士和清华大学王大中院士。国家最高科学技术奖自2000年正式设立&#xff0c;是中国科技界…

PHP 常用数据库操作

1.建立与数据库服务器的连接&#xff08;前提数据库服务器必须打开&#xff09; 第一个参数&#xff1a;本地地址 第二个参数&#xff1a;数据库账户 第三个参数&#xff1a;数据库密码 第四个参数&#xff1a;数据库名称 $connection mysqli_connect(127.0.0.1, root, 密码, …

计算机网络——数据链路层的概述

1.数据链路层的基本概念 \qquad结点&#xff1a;主机、路由器 \qquad链路&#xff1a;网络中两个结点之间的物理通道&#xff0c;链路的传输介质主要有双绞线&#xff0c;光纤&#xff0c;微波。分为有线链路和无线链路。 \qquad数据链路&#xff1a;网络中两个结点之间的逻辑通…

中国科学家证明凯勒几何两大核心猜想

来源&#xff1a;中国科学报中国科学技术大学几何物理中心创始主任陈秀雄与合作者程经睿在偏微分方程和复几何领域取得“里程碑式结果”。他们解出了一个四阶完全非线性椭圆方程&#xff0c;成功证明了“强制性猜想”和“测地稳定性猜想”这两个国际数学界60多年悬而未决的核心…

基于交换机的PC端网络通信

1. 通信环境 \qquad两台电脑&#xff1a;一台是windows10操作系统&#xff0c;一台是Ubuntu操作系统&#xff1b; \qquad一个5口的交换机和配套的交换机电源线 \qquad两根网线 2.实现的目的 \qquad通过上述的通信环境&#xff0c;基于交换机&#xff0c;可以实现两台不同操作系…

深度学习发展下的“摩尔困境”,人工智能又将如何破局?

来源&#xff1a;AI科技大本营编译&#xff1a;禾木木前不久&#xff0c;微软和英伟达推出包含5300亿参数的语言模型MT-NLG&#xff0c;这是一款基于 Transformer 的模型被誉为“世界上最大、最强的生成语言模型”。毫无疑问&#xff0c;这是一场令人印象深刻的机器学习工程展示…