python 查询包_查找Python包的依赖包(语句)

Window 10家庭中文版,Python 3.6.4,

今天看完了urllib3的官文(官方文档),因为没有具体使用过,所以,仍然是一知半解,但是,突然想知道 urllib3以及前面学习过的requests模块都依赖了什么其它模块。

于是,就有了一段200来行的程序和本文了。

功能名称:

查找Python包的依赖包(语句)

功能介绍:

找到Python包(包括子目录)中所有Python语句中的from、import语句,from语句获取import前面的部分,import语句获取整行。

使用方法:

使用包的绝对路径建立类ModuleYilai(模块依赖)的实例,然后调用实例方法yilais就可以获得Python包的依赖包呢,以列表形式返回。

程序介绍:

class ModuleYilai

查找包依赖类;

def ispackage(dirpath)

检查文件夹是否是Python包,判断是否含有__init__.py文件;

def get_all_dirs(dirpath, level=True)

获取给定dirpath目录及其子目录的绝对路径的列表,level为True时包含目录本身;用到了递归,内部使用时,level为False;

def get_all_pyfiles(dirpath)

获取目录下的所有Python文件(*.py);

def get_pyfile_yilais(pyfile)

获取Python文件中所有的from子句、import子句;

需要说明的是,在建立正则表达时是,会忽略了from子句、import子句位于文件开头的情况,故程序中对from子句、import子句分别使用了两次正则匹配;

当然,from子句、import子句的规则还是挺多了,目前程序未能完美(100%)匹配,因此,尚有改进空间,很大;

代码如下(就不添加行号了,方便大家复制):

'''获取一个Python包的依赖包(语句列表)

2018-06-24 1625:第一版,并不完善,短时间内也不准备完善了'''

importosimportloggingimportre

zllog= logging.getLogger("zl.yilai")classModuleYilai:'''找到模块依赖的模块:'''

__module_path = ''

__module_name = ''

__yilai_modules =set()def __init__(self, module_path):'''输入模块的安装路径:绝对路径,不能为根目路“/”'''zllog.debug('ModuleYilai.__init__')#检查module_path是否符合要求

if notisinstance(module_path, str):print('moule_path (%s) is not str' %type(module_path))return

if len(module_path) == 1:print('the length of module_path (%s) is 1' %module_path)return

if notos.path.isabs(module_path):print('module_path (%s) is not an absolute path' %module_path)return

if notos.path.isdir(module_path):print('module_path (%s) is not a directory' %module_path)return

if notos.path.exists(module_path):print('module path (%s) does not exist' %module_path)return

if module_path.endswith('//') or module_path.endswith('\\\\'):print('too many forward slashes or back slashes in the end of the module_path (%s)' %module_path)return

#目录下是否有__init__.py文件

#存在此文件,那么,这是一个package

dl =os.listdir(module_path)try:

dl.index('__init__.py')except:print('module_path (%s) is not a package: there is no __init__.py' %module_path)return

#检查完毕后,设置内部_module_path

self.__module_path =module_path#找出模块名称

temp_path =module_pathif temp_path.endswith('/') or temp_path.endswith('\\'):print('module_path processing...')

temp_path= temp_path[:len(temp_path) - 1]

last_slash_index= temp_path.rfind('/')if last_slash_index <0:

last_slash_index= temp_path.rfind('\\')

self.__module_name = temp_path[last_slash_index + 1:]#寻找模块依赖,并将找打的依赖模块存放到_yilai_modules中

self._search_yilais()#寻找模块依赖

def_search_yilais(self):if self.__module_path == '':return

#1.找到模块下每一个目录(包括目录本身)

dirlist = get_all_dirs(self.__module_path)

zllog.debug('length of dirlist:', len(dirlist))#2.找到模块下每一个模块文件(*.py),将其绝对路径存入列表中

pyfiles =[]for item indirlist:

pyfiles.extend(get_all_pyfiles(item))

zllog.debug('length of pyfiles:', len(pyfiles))#3.找到每一个模块文件的依赖模块

fileyilais =[]for item inpyfiles:

fileyilais.extend(get_pyfile_yilais(item))

zllog.debug('length of fileyilais:', len(fileyilais))#4.将fileyilais转换为set并将其存入实例的_yilai_modules中

self.__yilai_modules =set(fileyilais)

zllog.debug('length of self.__yilai_modules:', len(self.__yilai_modules))#获取模块名称

defmod_name(self):return self.__module_name

#获取依赖的包的列表

defyilais(self):return list(self.__yilai_modules)#判断一个文件夹是否是Python包

defispackage(dirpath):try:

dl=os.listdir(dirpath)

dl.index('__init__.py')returnTrueexcept:returnFalse#找到dirpath下所有目录(包括目录本身),以列表形式返回#递归算法#level为True时,添加目录本身,否则,不添加(查找子目录下的目录时不添加)

def get_all_dirs(dirpath, level=True):#统一使用UNIX样式路径分隔符(/)

#替换后,Windows下也可以运行

dirpath = dirpath.replace('\\', '/')

dirlist=[]#添加目录自身

iflevel:

dirlist.append(dirpath)

dl=os.listdir(dirpath)#排除其中的__pycache__和test文件夹

try:

dl.remove('__pycache__')

dl.remove('test')except:pass

for item indl:

itempath= dirpath + '/' +itemifos.path.isdir(itempath):#将目录添加到返回列表中

dirlist.append(itempath)#执行get_all_dirs获取其下的目录并添加到dirlist中!

dirlist.extend(get_all_dirs(itempath, level=False))returndirlist#找到diapath下所有Python模块(*.py文件),以列表形式返回#dirpath为绝对路径

defget_all_pyfiles(dirpath):#统一使用UNIX样式路径分隔符(/)

#替换后,Windows下也可以运行

dirpath = dirpath.replace('\\', '/')

rs=[]if notos.path.isdir(dirpath):returndl=os.listdir(dirpath)for item indl:

itempath= dirpath + '/' +item#检查是否是文件,是否要是py文件

if os.path.isfile(itempath) and item.endswith('.py'):

rs.append(itempath)returnrs#获取一个Python模块(.py文件)导入的包#结果以列表形式返回# #可能的形式:#1.import sys#2.from __future__ import absolute_import#3.from socket import error as SocketError, timeout as SocketTimeout#4.#from .connection import (#port_by_scheme,#DummyConnection,#HTTPConnection, HTTPSConnection, VerifiedHTTPSConnection,#HTTPException, BaseSSLError,#)#5.#if six.PY2:## Queue is imported for side effects on MS Windows#import Queue as _unused_module_Queue # noqa: F401#6.import mod1, mod2, mod3#7....

defget_pyfile_yilais(pyfile):'''格式很多,尚未完善!!'''rs=[]if notos.path.isfile(pyfile):print('[get_pyfile_yilais] pyfile (%s) is not a file.' %pyfile)returnrs

with open(pyfile,'r', encoding='utf-8') as f:

content=f.read()#rs1 = re.findall('\n(from\s+.+)\s', content)

#from可以在文件的开头,或者一行的开头,或者注释中,需要前面两种

rs1 = re.findall('^(from\s+[\_\.0-9a-zA-Z]+)\s', content)

rs2= re.findall('\n(from\s+[\_\.0-9a-zA-Z]+)\s', content)#print('rs1 = ', rs1)

#print('rs2 = ', rs2)

rs3= re.findall('^(import\s+.+)', content)

rs4= re.findall('\n(import\s+.+)', content)#print('rs3 = ', rs3)

#print('rs4 = ', rs4)

rs = rs1 + rs2 + rs3 +rs4returnrsif __name__ == '__main__':#一些测试

#m1 = ModuleYilai('C:\\Python36\\Lib\\sqlite3')

#m2 = ModuleYilai('C:\\Python36\\Lib\\sqlite3\\')

#m3 = ModuleYilai('C:\\Python36\\Lib')

#m4 = ModuleYilai('C:\\Python36\\Lib\\')

#m5 = ModuleYilai('C:/Python36/Lib/sqlite3')

#m6 = ModuleYilai('C:/Python36/Lib/sqlite3/')

#m7 = ModuleYilai('C:/Python36/Lib/sqlite3//')

#m8 = ModuleYilai('C')

#m9 = ModuleYilai('/')

#m10 = ModuleYilai('\\')

#测试get_pyfile_yilais

#get_pyfile_yilais('C:\\Python36\\Lib\\sqlite3\\dbapi2.py')

#print()

#get_pyfile_yilais('C:\\Python36\\Lib\\site-packages\\urllib3\\connectionpool.py')

#测试get_all_dirs

#retlist = get_all_dirs('C:\\Python36\\Lib\\site-packages\\urllib3')

#for item in retlist:

#print(item)

#Test urllib3 module

m1 = ModuleYilai('C:\\Python36\\Lib\\site-packages\\urllib3')print('module name:', m1.mod_name())print('length:', len(m1.yilais()))print(m1.yilais())print()#Test of requests module

m2 = ModuleYilai('C:\\Python36\\Lib\\site-packages\\requests')print('module name:', m2.mod_name())print('length:', len(m2.yilais()))print(m2.yilais())print()#Test of D:\\Users\\log

m3 = ModuleYilai('D:\\Users\\log')print('module name:', m3.mod_name())print('length:', len(m3.yilais()))print(m3.yilais())

mdeps.py

测试结果:

改进方式:

本想在程序中使用logging记录日志,发现它和print混用时在Console输出的消息是混乱的;

使用setLevel函数设置了日志优先级,可是,没能输出想要的调试信息,还需继续研究;

程序使用自己的杂乱的方法进行了测试,更高质量的测试工具unittest、pytest没能用到;

对于from子句、import的抓取,目前只使用了两个简单的规则,其它的尚需进一步完善,但孤可能不会继续了;

对模块以一个点、两个点开头的方式没有做处理;

代码中的def ispackage(dirpath)函数没有用到,本想检测目录是否是Python包的,可自行添加;

本次收获:

写了一个Python类了,还用到了两个下划线开头的私有变量;

用了一些list、set、str的方法呢;

练习了正则表达式的使用,不过,还是不很熟练,需提高;

轻车熟路地使用了with语句;

今天添加了几个小时的认真时间;

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/538474.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

618选购手机正当时,好评率高达99%的手机了解一下!

一年一度的京东618年中购物狂欢节如火如荼的进行中&#xff0c;手机厂商们都使出了浑身解数&#xff0c;对消费者进行争夺。对于用户来说&#xff0c;618绝对是更换手机的好时机。不过&#xff0c;小伙伴们面对市场上的众多机型&#xff0c;也有可能挑花了眼&#xff0c;不知道…

IntelliJ IDEA 2017.2 x64 安装Scala

从官网下载好IntelliJ IDEA 和scala IntelliJ IDEA 安装scala插件 新建scala项目 建好后&#xff0c;发现src右键--新建---没有 .scala选项 解决方法

Django-ORM数据库操作

背景 Django框架功能齐全自带数据库操作功能&#xff0c;由于工作中设计巨量的api接口&#xff0c;需要一个很好的web后端服务框架&#xff0c;Django给了莫大的帮助。本文主要介绍Django的ORM框架我们一般对数据库的使用的认识是&#xff1a; 创建数据库&#xff0c;设计表结构…

python查询缺失值所在位置_Python Pandas找到缺失值的位置方法

问题描述&#xff1a;python pandas判断缺失值一般采用 isnull()&#xff0c;然而生成的却是所有数据的true&#xff0f;false矩阵&#xff0c;对于庞大的数据dataframe&#xff0c;很难一眼看出来哪个数据缺失&#xff0c;一共有多少个缺失数据&#xff0c;缺失数据的位置。首…

快学Scala习题解答—第二章 控制结构和函数

原文地址&#xff1a;http://blog.csdn.net/ivan_pig/article/details/8253068 ---------------------------------------------------------------------------------- 3 控制结构和函数 3.1 一个数字如果为正数&#xff0c;则它的signum为1;如果是负数,则signum为-1;如果为0…

java barrier_Java - Latch和Barrier的区别

之所以把Latch与Barrier放在一起比较是因为他们给人一种相似的感觉。他们都是阻塞一些行为直至某个事件发生&#xff0c;但Latch是等待某个事件发生&#xff0c;而Barrier是等待线程。先比较一下JCIP中对二者的描述&#xff1a;LatchA latch is a synchronizer that can delay …

Kingback小组冲刺博客

一、6月13日 1、今日完成的任务 李可欣 项目首页的框架设计 项目首页的导航栏部分 对于项目的配色进行了改进&#xff0c;并且设计了logo 杨帆 今天进行了数据库的设计&#xff0c;完成了数据库的增删改查&#xff0c;并建立了两个jsp页面&#xff0c;还学习了一些数据库设计的…

用python前端html后端django_浅谈Django前端后端值传递问题

前端后端传值问题总结前端传给后端通过表单传值1、通过表单get请求传值在前端当通过get的方式传值时&#xff0c;表单中的标签的name值将会被当做action的地址的参数此时&#xff0c;在后端可以通过get请求相应的name值拿到对应的value值例子:html中:{% csrf_token %}类别{% fo…

使用Git上传本地项目到oschina

原文地址&#xff1a;https://my.oschina.net/158/blog/530112 --------------------------------------------- 1.首先看一下自己是否有公钥&#xff0c; 在 我的资料-->SSH公钥 查看&#xff0c;如果没有&#xff0c;添加自己的SSH 公钥&#xff1a; SSH key 可以让你在…

手动创建git忽略push清单,node_module以及自身

1.文件夹内右键git bash&#xff0c;输 touch .gitignore&#xff0c;注意中间有空格 2.编辑器打开生成的 .gitignore 文件&#xff0c;加入 .gitignore node_modules12 3.保存 4.以后再push到仓库的就会过滤这俩了&#xff0c;想加啥自己加

整数数组按绝对值排序

2019独角兽企业重金招聘Python工程师标准>>> 题目&#xff1a; 给出一组整数数组&#xff0c;要求按照绝对值从小到大进行排序后输出。 可以用经典的冒泡排序法来计算此问题&#xff0c;计算过程&#xff1a; 1、比较相邻两个元素绝对值&#xff0c;如果第一个比第二…

python定时任务是异步的吗_定时任务、异步任务

------------定时任务、异步任务--------pip install celery --targetD:\Users\ex-ouyangl003\PycharmProjects\data_new\dg_meta_system\metadata_system\venv\Lib\site-packages# coding:utf-8from apscheduler.schedulers.blocking import BlockingSchedulerimport datetime…

java excel自动保存_java读取excel的内容(可保存到数据库中)

//**poi jar包//public classReadExcel {SuppressWarnings("static-access")private staticString getValue(HSSFCell hssfCell) {if (hssfCell.getCellType() hssfCell.CELL_TYPE_BOOLEAN) {//返回布尔类型的值returnString.valueOf(hssfCell.getBooleanCellValue()…

《快学Scala》勘误

原文链接&#xff1a;http://www.blogjava.net/sean/archive/2012/11/15/391386.html ---------------- 第11页&#xff08;练习&#xff09;&#xff1a; 在Scala REPL中键入3&#xff0c;然后按Tab键 应为 在Scala REPL中键入3.&#xff0c;然后按Tab键 第19页&#xff0…

二分排序java实现

1.什么是二分排序&#xff1a; 二分排序是指利用二分法的思想对插入排序进行改进的一种插入排序算法&#xff0c;不同于二叉排序&#xff0c;可以利用数组的特点快速定位指定索引的元素&#xff1b; 算法思想&#xff1a;二分法插入排序是在插入第i个元素时&#xff0c;对前面的…

pearson相关系数_pearson相关系数与典型相关性分析(CCA)

本文主要介绍相关系数的概念&#xff0c;以及简单相关系数中的pearson相关系数及其局限性。随后介绍pearson相关系数无法解决的问题(两个变量组之间的相关性问题)的解决方案。1、pearson相关系数在日常中&#xff0c;我们经常会遇到一些关于相关性的分析&#xff0c;例如&#…

快学Scala习题解答—第三章 数组相关操作

原文链接&#xff1a;http://blog.csdn.net/ivan_pig/article/details/8257365 -------------------------------------------------- 4 数组相关操作 4.1 编写一段代码&#xff0c;将a设置为一个n个随机整数的数组&#xff0c;要求随机数介于0(包含)和n(不包含)之间 random和…

seo自动工具_爱站SEO工具包详细介绍

爱站SEO工具-seoer的瑞士军刀&#xff01;这个工具主要是为了方便SEOer查询一些网站的问题&#xff0c;监控关键词排名收录等等&#xff0c;新手老手都可以用的工具&#xff0c;更快的让SEOer上手。相信有很多SEOer都使用过爱站SEO工具包&#xff0c;也有很多新入行的小伙伴可能…

人物三(依芙蒂法)

转载于:https://www.cnblogs.com/song1900/p/9189921.html

常用Oracle分析函数详解

原文链接&#xff1a;http://www.cnblogs.com/benio/archive/2011/06/01/2066106.html --------------------------------------------------------------------------- 学习步骤&#xff1a; 1. 拥有Oracle EBS demo 环境 或者 PROD 环境 2. copy以下代码进 PL/SQL 3. 配合解…