python中自定义模块导入飘红_hadoop streaming 中跑python程序,自定义模块的导入

今天在做代码重构,以前将所有python文件放到一个文件夹下,上传到hadoop上跑,没有问题;不过随着任务的复杂性增加,感觉这样甚是不合理,于是做了个重构,建了好几个包存放不同功能的python文件,历程如下:

1. 刚开始的时候,在IDE里搞,点击运行,正确、非常赞;

2. 然后搬到服务器上搞,出现了这样的问题:

ImportError: no module named XXX

啊,看样子是包引用中路径不对,于是找文章解决:

python中,每个py文件被称之为模块,每个具有__init__.py文件的目录被称为包。只要模

块或者包所在的目录在sys.path中,就可以使用import 模块或import 包来使用

如果你要使用的模块(py文件)和当前模块在同一目录,只要import相应的文件名就好,比

如在a.py中使用b.py:

import b

但是如果要import一个不同目录的文件(例如b.py)该怎么做呢?

首先需要使用sys.path.append方法将b.py所在目录加入到搜素目录中。然后进行import即

可,例如

import sys

import os

curPath = os.path.abspath(os.path.dirname(__file__))

rootPath = os.path.split(curPath)[0]

sys.path.append(rootPath)

第一个问题解决,高兴!

3. 而后尝试在hadoop-streaming上跑程序,额,一直在报错:

ImportError: no module named XXX

心想也是因为这个路径问题,试了很多种方法:

后来在stackoverflow发现有人问了同样的问题,并且我使用其中一个方案解决了:

When Hadoop-Streaming starts the python scripts, your python script‘s path is where the script file really is. However, hadoop starts them at ‘./‘, and your lib.py(it‘s a symlink) is at ‘./‘, too. So, try to add ‘sys.path.append("./")‘ before you import lib.py like this:

import sys

sys.path.append(‘./‘)

import lib

当Hadoop-Streaming启动python脚本时,您的python脚本的路径就是脚本文件的实际位置。 然而,hadoop以‘./‘开头,lib.py(它是一个符号链接)也在‘./‘。 因此,在导入lib.py之前,尝试添加“sys.path.append(”./“)”“。 import sys sys.path.append(‘./‘) import lib

并且导入模块和包时,不能用 from XXX import YYY的方式做了,必须要用 import XXX, 使用YYY的时候,要用XXX.YYY来调用;反复尝试终于发现了这点。也算没白费时间吧。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/365563.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

js 提取某()特殊字符串长度

// 提取特殊字符串长度(scrstr 源字符串 armstr 特殊字符) getStrCount: function(scrstr, armstr) {var count 0;while (scrstr.indexOf(armstr) > 1) {scrstr scrstr.replace(armstr, "")count ;}return count; } 更多专业前端知识&am…

运行jar包使用外部依赖

nohup java -Dloader.path"lib/" -Dfile.encodingutf-8 -jar test.jar > test.out 2>&1 & 转载于:https://www.cnblogs.com/hqzmss/p/9719380.html

调查内存泄漏第2部分–分析问题

这个小型系列的第一个博客介绍了如何创建一个非常泄漏的示例应用程序,以便我们可以研究解决服务器应用程序上基于堆的问题的技术。 它展示了Producer-Consumer模式的一个大问题,即消费者代码必须能够至少与生产者一样快(如果不是更快&#xf…

es6 语法 (Decorator)

修饰器是一个函数,用来修改类的行为(注意:1、函数 2、修改行为 3、对类进行操作){//修饰器函数定义 target:类本身,name名称,descriptor描述let readonly function(target, name, descriptor) {descript…

11小时 python自动化测试从入门到_从设计到开发Python接口自动化测试框架实战,资源教程下载...

课程名称从设计到开发Python接口自动化测试框架实战,资源教程下载课程简介:课程从接口基础知识入门,从抓包开始,到接口工具的运用,再到常见接口库、接口开发、Mock服务、unittest框架的运用,再讲解接口测试…

在Objc项目中调用Swift

之前的文字中记录了在Swift项目中调用OC的相关代码,比较简单直接 传送门 但是在OC中调用swift代码则不是那么的和谐,网络上很多文章业已经有点陈旧。记录步骤如下: 1.创建OC项目 (1)启动 xcode -> 创建singleView新项目 -> 命名为: obj…

「SDOI2014」数数 解题报告

「SDOI2014」数数 题目描述 我们称一个正整数 \(N\) 是幸运数,当且仅当它的十进制表示中不包含数字串集合 \(S\) 中任意一个元素作为其子串。 例如当 \(S(\)22, 333, 0233\()\) 时,233 是幸运数,2333、20233、3223 不是幸运数。 给定 \(N\) 和…

pymssql mysql_Python利用pymssql访问mysql数据库

#codingutf8#!/usr/bin/env python#-------------------------------------------------------------------------------# Name: pymssqlTest.py# Purpose: 测试 pymssql库,该库到这里下载:http://www.lfd.uci.edu/~gohlke/pythonlibs/#pymssql## Author…

调查内存泄漏第1部分–编写泄漏代码

前几天,我发现了这个小问题:该服务器运行了一段时间,然后掉下来了。 然后通过启动脚本重新启动,整个过程重复进行。 这听起来并不那么糟糕,尽管对数据的损失很大,但对业务的重要性并不重要,因此…

js正整数正则表达式

function testNumber(){ var yourinputValue$("#yourinputId").val();var reg /^[1-9]\d*$/;alert(reg.test(yourinputValue))} 更多专业前端知识,请上 【猿2048】www.mk2048.com

python打印网页成pdf_vue中将网页打印成pdf

点击下载PDFimport html2canvas from html2canvasimport JSPDF from jspdfexport default {name: home,components: {chead},data () {return {msg: home}},methods: {getPdf: () > {let pdfDom document.querySelector(#home)html2canvas(pdfDom, {onrendered: function (…

[NOIP2013]火柴排队

嘟嘟嘟 首先可以想到,最小距离一定是a中第 i 大的和b中第 i 大的在同一行。 然后先把a,b分别离散化,然后开一个标记数组,map[i]记录a中第 i 小的数在哪一个位置出现,然后对b数组处理一遍。 题中说交换次数,…

.net core 上传文件大小限制 webconfig

<?xml version"1.0" encoding"utf-8"?><configuration> <location path"." inheritInChildApplications"false"> <system.webServer> <handlers> <add name"aspNetCore" path"*&qu…

python标准日期正则表达式_Python 正则表达式验证传统日期

Pure regular exprssion(?x)(?:(?#dd/mm)(3[0-1]|[12][0-9]|0?[0-9])/(1[0-2]|0?[1-9])|(?#mm/dd)(1[0-2]|0?[1-9])/(3[0-1]|[12][0-9]|0?[0-9]))/(?#yy or yyyy)(?:[0-9]{2})?[0-9]{2}Regex with procedural codedef dateCheck(sDate):import redaysinmonth (31, …

Orika:将JAXB对象映射到业务/域对象

这篇文章着眼于使用Orika将JAXB对象映射到业务域对象。 本月初&#xff0c; 我使用基于反射的Dozer讨论 了相同的映射用例 。 在本文中&#xff0c;我假设需要映射相同的示例类&#xff0c;但是它们将使用Orika而不是Dozer进行映射 。 Dozer和Orika旨在解决相同类型的问题&…

es6 语法 (函数扩展)

//函数参数默认值(more值后不能有参数) {function test(x,y world){console.log(默认值,x,y); }test(hello);// hello worldtest(hello,kill); //hello kill } //作用域概念 {let x test;function test2(x,y x){console.log(作用域,x,y);}test2(); // undefined undefined…

python递归必须要有_python如何递归生成树?

好像比較懂你的意思了, 試寫了一個 Tree, 不知道你覺得怎麼樣XDclass Tree:def __init__(self, name):self.name nameself.children {}def __iter__(self):return iter(self.children)def __str__(self):return self.namedef __repr__(self):return Tree("{}").for…

2018秋季C语言学习总结

转载于:https://www.cnblogs.com/noacgnnolife/p/10413255.html

java取非_java运算符 与()、非(~)、或(|)、异或(^)

1.位异或运算(^)运算规则是&#xff1a;两个数转为二进制&#xff0c;然后从高位开始比较&#xff0c;如果相同则为0&#xff0c;不相同则为1。比如&#xff1a;8^11.8转为二进制是1000&#xff0c;11转为二进制是1011.从高位开始比较得到的是&#xff1a;0011.然后二进制转为十…

JOOQ事实:从JPA批注到JOOQ表映射

JOOQ是一个简洁的框架&#xff0c;它解决了我在使用高级动态过滤查询时遇到的一个长期问题。 虽然Hibernate和JPA附带了一个有用的Criteria API&#xff08;我已经使用了很长一段时间&#xff09;&#xff0c;但是使用它们时所能做的却有一些可以理解的限制。 例如&#xff0c;…