python win10 连接hive_使用win10+python3.5+impyla 连接大数据平台hive表的步骤与问题解决...

环境硬件配置及Hadoop,Hive版本

一、安装步骤

pip install pure-sasl

Downloading https://pypi.tuna.tsinghua.edu.cn/packages/16/83/30eaf3765de898083

75a8358f9c15d45a3dd44ed26be991471abc0b4480b/pure_sasl-0.5.1-py2.py3-none-any.whl

pip install thrift_sasl==0.2.1 --no-deps

Downloading https://pypi.tuna.tsinghua.edu.cn/packages/80/36/16dfe92d32df63cc2

b7b7be8d0e4a736617b7e52daaa7f83ae386a89d179/thrift_sasl-0.2.1.tar.gz

pip install thrift==0.9.3

Downloading https://pypi.tuna.tsinghua.edu.cn/packages/ae/58/35e3f0cd290039ff8

62c2c9d8ae8a76896665d70343d833bdc2f748b8e55/thrift-0.9.3.tar.gz

pip install impyla (上面安装的都是依赖包)

Downloading https://pypi.tuna.tsinghua.edu.cn/packages/80/93/f0d226061ee4679d5

b593c88c7b2e9e077a271c799d29facf31bf03666c1/impyla-0.14.1.tar.gz (151kB)

在安装pip install impyla时报错: error: Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ Build Tools": Downloads | IDE, Code, & Team Foundation Server | Visual Studio

2fc3911ad1020fc5b20890c0d7d955a2.png

解决方法:在这个网址上下载了Microsoft Visual C++ 2019安装后,问题没有解决。后来下载了别人分享的工具包安装后,再执行pip install impyla安装成功

别人的分享地址:忘记了.....

83fa23b3717318a6c88232adc82e2333.png
下载这个安装后就可以安装impyla了

二、写脚本

#此时可以开始写脚本连接数据库了

from impala.dbapi import connect

from impala.util import as_pandas

conn = connect(host='***', port=10000, auth_mechanism='PLAIN', user='***', password='***', database='***')

cursor = conn.cursor()

cursor.execute('show databases')

print(as_pandas(cursor))

三、问题解决

执行数据库连接后,出现问题

ThriftParserError: ThriftPy does not support generating module with path in protocol ‘c’

定位到 Libsite-packagesthriftpyparserparser.py的

if url_scheme == '':

with open(path) as fh:

data = fh.read()

elif url_scheme in ('http', 'https'):

data = urlopen(path).read()

else:

raise ThriftParserError('ThriftPy does not support generating module '

'with path in protocol '{}''.format(

url_scheme))

更改为

if url_scheme == '':

with open(path) as fh:

data = fh.read()

elif url_scheme in ('c', 'd','e','f''):

with open(path) as fh:

data = fh.read()

elif url_scheme in ('http', 'https'):

data = urlopen(path).read()

else:

raise ThriftParserError('ThriftPy does not support generating module '

'with path in protocol '{}''.format(

url_scheme))

执行数据库连接后,再次出现问题

TypeError: can’t concat str to bytes

定位到错误的最后一条,在init.py第94行

...

header = struct.pack(">BI", status, len(body))

self._trans.write(header + body)

...

修改为

...

header = struct.pack(">BI", status, len(body))

if(type(body) is str):

body = body.encode()

self._trans.write(header + body)

...

执行连接 成功

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/502042.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

python将excel表按地方拆分_Python将一个Excel拆分为多个Excel

本文实例为大家分享了Python将一个Excel拆分为多个Excel的具体代码,供大家参考,具体内容如下 原始文档如下图所示将销售部门一、二、三科分别存为三个Excel 代码如下 # -*- coding: utf-8 -*- """ Created on Mon Jul 9 20:25:31 2018 au…

华为申请注册鸿蒙商标,华为申请“鸿蒙商标”,企业注册商标有什么价值?

原标题:华为申请“鸿蒙商标”,企业注册商标有什么价值?国家知识产权局商标局网站显示,华为已申请“华为鸿蒙”商标。申请日期为2018年8月24日,注册公告日期为2019年5月14日,专用权限期是从2019年5月14日到2…

html5音乐播放器设计论文,基于微信小程序的音乐播放器设计和毕业论文

摘 要随着通信技术的发展和智能设备的普及,移动互联网在近两年发展迅猛,新兴的移动社交软件“微信”逐渐走进了手机用户的生活,深受全国数亿用户的欢迎。随着微信版本的不断更新,微信也从单纯的聊天应用逐变成媒体信息、游戏娱乐…

python后端开发学什么_零基础学Python,这是阿里Python8年开发经验写给你的学习路线图...

今天给大家分享一位前辈整理的一个Python web学习路线。这位前辈由于有编程基础,所以采用了自学Python的方式。学完后主要做后端开发。希望对你有所启发。 整理的一个 python web 学习路线,这基本就是笔者自学后做后端的学习路线。入门基础 编程语言: Py…

如何把meshlab中的圆环去掉_如何设计一座太空城?

整整半个世纪前的今天,1969年7月20日,执行阿波罗11号计划的美国宇航员阿姆斯特朗和奥尔德林登上月球。而同一年,伍德斯托克音乐节的舞台前聚集了几十万名追求和平与爱的青年。在神奇的1969年,人类文明向着更为广袤与深邃的境地突飞…

axure html 360安装扩展,win10系统360浏览器添加Axure扩展的操作方法

win10系统360浏览器添加Axure扩展的操作方法?很多win10用户在使用电脑的时候,会发现win10系统360浏览器添加Axure扩展的的现象,根据小编的调查并不是所有的朋友都知道win10系统360浏览器添加Axure扩展的的问题怎么解决,不会的朋友也不用担心…

电信计算机知识考试,2020中国电信考试试题——专业知识一

1、我国对独立型STP设备要求其信令链路数不得小于( )A、7000MSU/s;B、10000MSU/s;C、14000MSU/s;D、20000MSU/s2、GSM的多址方式为( )A、FDMA; B、TDMA; C、CDMA; D、FDMA-TDMA混合技术3、以下属于被叫控制…

full outer join 与full join的区别_sleep、yield、join都是干啥的? sleep与wait有啥区别?中篇[十五]...

点击上方 “ 布衣码农 ” ,免费订阅~选择“ 设为星标 ”,第一时间免费获得更新~「布衣码农」用不到却又不得不学习了解的底层方法1。Object中的wait、notify、notifyAll,可以用于线程间的通信,核心原理为借助于监视器的入口集与等…

npu算力如何计算_异构计算神器来了,它能带来性能革命吗

前言:优化差有多要命?3A大作告诉您说到最近游戏圈子里的热门话题,刚刚在全平台上线的某“国产3A大作”显然绝对值得一提。一方面来说,靠着“抽卡化单机游戏”的设计,以及投入几十万元都难以实现全角色满状态的高氪金程…

画股票图csdn_这个股票今天是要弄啥?

点击上方蓝色字体,关注我们作者 | 四叶草编辑 | 易小投大盘点评今天市场上午走势相对弱势,盘中只有杀出一点点急跌的恐慌盘,有一些盘中的做T机会,但是确定性不是特别高,毕竟盘中的急跌相对幅度有限。下午指数随着一些概…

淮阴工学院计算机学院机房,实验室开放

计算机工程实验中心坚持每天14小时开放(7:30-21:30),在完成基础和专业等实验教学任务外,还承担了各级各类培训及考试、计算机技能实训、工程设计与开发等任务,同事开展了多种形式的社会服务,以及对周边学校的服务。本中心每天坚持…

照片识别出错_云投诉丨四川德阳市民文明手册咋满篇乱码?回应:电脑识别问题,已全部收回...

封面新闻记者 王攀 王祥龙“这是密码吗?”9月23日,有四川德阳市民反映,该市发放的《德阳市民文明手册》看不懂。从市民提供的照片上看,手册内页上全是乱码。当前,德阳市正争创全国文明城市,有市民表示&…

好身材大姐姐学计算机惊喜用英语,英语作文:一个大大的惊喜A Big Surprise

英语作文:一个大大的惊喜A Big Surprise在日常学习、工作或生活中,大家一定都接触过作文吧,作文一定要做到主题集中,围绕同一主题作深入阐述,切忌东拉西扯,主题涣散甚至无主题。那么,怎么去写作文呢&#x…

2篇word文档比较重复率_本科论文写作重复率高的原因,毕业论文降重技巧总结!...

论文重复率的问题,是大学高等院校都比较关心的一点,大学生在论文写完以后,都要经过知网论文检测,在查看重复报告的时候,无法直视,因为论文重复率提高啦。经过几次论文降重修改还是没法降低论文重复率。那么…

如何做电脑桌面应用_CAD批量转PDF?一分钟教会你CAD如何转PDF,两种方法任你选择!...

作为从事CAD设计的我,已经深深的了解到了CAD设计行业的辛苦。dwg格式的文件作为CAD文件格式常见的专业格式,它能够很好的帮助我们保存好绘制好的CAD图纸。现在几乎在很多领域都可以见到,有的时候会根据需要对CAD图纸进行格式转换。很多的网友…

添加列属性_css多列属性

多列属性多列布局类似报纸或杂志中的排版方式,主要用以控制大篇幅文本。1、column-count : 分隔列数说明:属性规定元素应该被分隔的列数用于:除table外的非替换块级元素, table cells, inline-block元素2、column-gap : 设置列与列…

pyautogui typewrite_解放双手:Pyautogui帮你work

今天介绍一个很有用的python库——Pyautogui,它可以通过屏幕的xy坐标系统来确定目标位置,进而控制鼠标和键盘发送虚拟的点击和输入任务。这对于你要完成机械重复枯燥的电脑操作来说非常地方便。安装Pyautogui库很简单,命令窗口输入&#xff1…

win7 右键计算机 服务 设备管理器,win7系统计算机右键菜单添加设备管理器的操作方法...

今天和大家分享一下关于对win7系统计算机右键菜单添加设备管理器设置的方法,在使用win7系统的过程中经常不知道如何去对win7系统计算机右键菜单添加设备管理器进行设置,有什么好的办法去设置win7系统计算机右键菜单添加设备管理器呢?在这里小…

年月跨度_不畏困难,砥砺前行 ——国内最大跨度管桁架工程成功首滑

8月3日下午,由陕建机施(江苏)第二总部第一工程公司承建的330米大跨度管桁架工程——芜湖新兴铸管综合料场封闭工程顺利实现首跨滑移,创下国内最大跨度管桁架工程滑移记录。该工程包含一个管桁架主体大棚结构,两个东西毗屋网架附属结构以及一个…

python 定时器_python定时器apscheduler及一个django的小tips

类似于windows系统里的计划任务,需要按特定的时间周期,去调度执行一项任务。python里有apscheduler组件。分有阻塞式与非阻塞式,如下是阻塞式,就是不需要自己去写循环。from apscheduler.schedulers.background import BlockingSc…