Spark入门(七)Spark SQL thriftserver/beeline启动方式

一、启动thrift服务

启动thriftServer,默认端口为10000,。

--jars 添加worker类库

--driver-class-path 驱动类库

--master spark集群地址

--total-executor-cores  启动的核数,默认是所有核数

--executor-memory  每个work分配的内存,默认是work的所有内存

--hiveconf hive.server2.thrift.port 启动端口

spark-2.4.4/sbin/start-thriftserver.sh --master spark://hadoop01:7077,hadoop02:7077,hadoop03:7077  --driver-class-path /home/mk/mysql-connector-java-5.1.26-bin.jar  --jars /home/mk/mysql-connector-java-5.1.26-bin.jar  --total-executor-cores 2  --executor-memory 1gnetstat -nap | grep  10000

  

二、启动beeline

 

spark-2.4.4/bin/beeline#连接
!connect jdbc:hive2://hadoop01:10000show tables;select * from test;#退出
!quit

 

三、总结

thriftserver/beeline和普通的spark-shell/spark-sql区别

(1)对于derby存储元数据
1、spark-shell、spark-sql是启动一个spark application,只能服务于唯一的客户端,同一路径启动多客户端会报错;
2、thriftservers是启动一个spark application提供接口服务,为多客户端进行服务。解决了数据共享的问题,多个客户端可以共享数据问题;

(2)对于其他非本地的数据库存储元数据

1、spark-shell、spark-sql是启动一个spark application,服务于一个的客户端。可以启动多个spark-shell、spark-sql,客户端之间的操作互相不干扰。
2、thriftservers是启动一个spark application提供接口服务,为多客户端进行服务。如有客户端的操作过多,会干扰到其他客户端的进一步操作。


 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/322689.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

array关于map,reduce,filter的用法

1、.map直接还原一个数组中多个对象里面的单个属性 不需要任何push操作 let arr [{a:10,b:50},{a:20,b:60},{a:30,b:80}]; let result arr.map((cb)>{return cb.a}); console.log(result); // [10, 20, 30]2、.reduce用于数组中的元素需要做递归操作,比如累加…

欢乐纪中B组周六赛【2019.3.9】

前言 AKAKAK了(虽然有一堆AKAKAK的) 成绩 RankRankRank是有算别人的 今天LRZLRZLRZ不在 RankRankRankPersonPersonPersonScoreScoreScoreAAABBBCCC1112017myself2017myself2017myself3003003001001001001001001001001001002929292017zyc2017zyc2017zyc210210210100100100101010…

【青岛】12月16日.NETCore与AI技术交流会-等你来哦!!

主题是拥抱开源 拥抱开源:开放是互联终端不断增长的主旨和核心——使技术世界变得越来越复杂,联系越来越紧密。在微软,我们专注于向客户提供任何信息支持,即使在任何设备或者在多个平台上。 未来是开放的,未来的云是开…

MyBatis Generator分页插件RowBoundsPlugin坑

一、Mybatis Generator设置分页 Mybatis Generator没有设置分页&#xff0c;但自带了个RowBoundsPlugin分页插件&#xff0c;故而配置 <plugin type"org.mybatis.generator.plugins.RowBoundsPlugin"/> 在mysql数据库进行查询的表分页10条&#xff0c;查很久…

对于自绝对父相的理解

1、如果对子元素施加绝对定位&#xff0c;然后设置一个bottom为20 则&#xff1a; html <div class"k1"><div class"k2">1111</div></div>.k1 {margin: 0 auto;height: 500px;width: 500px;background: green;}.k2 {height: 100…

【北京】微软技术直通车(第二期) 之 SQL Server 2017饕餮

微软技术直通车 本系列活动密切关注微软及周边相关技术。以微软云计算和相关产品为依托&#xff0c;涉及云计算、数据处理、开发工具、商用软件、物联网、人工智能等前沿科技。 系列活动邀请微软技术专家、一线开发者、成功创业者、企业家等进行技术和经验分享。让您直通微软新…

P1993-小K的农场【差分约束,SPFA】

正题 题目链接:https://www.luogu.org/problemnew/show/P1993 题目大意 有若干个条件 Waw>WbW_aw>W_bWa​w>Wb​Waw<WbW_aw<W_bWa​w<Wb​WaWbW_aW_bWa​Wb​ 解题思路 差分约束不解释 codecodecode #include<cstdio> #include<queue> #incl…

MyBatis中的RowBounds

转载自 MyBatis中的RowBounds 一、如何分页查询 Mybatis如何分页查询&#xff1f;Mysql中可以使用limit语句&#xff0c;但limit并不是标准SQL中的&#xff0c;如果是其它的数据库&#xff0c;则需要使用其它语句。MyBatis提供了RowBounds类&#xff0c;用于实现分页查询。R…

vscode插件以及配置

插件&#xff1a; Auto Rename Tag indent-rainbow 好看多彩的缩进空格 Dracula Officila 吸血鬼主题 Rainbow Brackets 彩虹括号&#xff0c;强烈推荐 快捷键&#xff1a; 代码折叠&#xff1a; 1、Ctrl键 Shift键 [键 折叠 2、Ctrl键 Shift键 ]键 展开 多行选中 &#x…

使用 MQTTnet 快速实现 MQTT 通信

1 什么是 MQTT &#xff1f; MQTT&#xff08;Message Queuing Telemetry Transport&#xff0c;消息队列遥测传输&#xff09;是 IBM 开发的一个即时通讯协议&#xff0c;有可能成为物联网的重要组成部分。MQTT 是基于二进制消息的发布/订阅编程模式的消息协议&#xff0c;如今…

P1726-上白泽慧音【tarjan,图论】

正题 题目链接:https://www.luogu.org/problemnew/show/P1726 题目大意 求最大的强联通分量和包含的点 解题思路 tarjantarjantarjan模板不解释。 codecodecode #include<cstdio> #include<algorithm> #include<stack> using namespace std; const int N5…

Maven的pom.xml文件详解------Build Settings

转载自 Maven的pom.xml文件详解------Build Settings 根据POM 4.0.0 XSD&#xff0c;build元素概念性的划分为两个部分&#xff1a;BaseBuild&#xff08;包含poject build和profile build的公共部分&#xff0c;见下&#xff09;和poject build包含的一些高级特性。 <p…

git代码合并冲突与撤回提交

查看版本 切回到某一个版本 git log --graph --abbrev-commit --decorate --prettyoneline git reset --hard a07cefe git有一种情况会造成代码被冲掉&#xff1a; 这里有A端和B端&#xff1a; 相同文本基础之上 A端写了大量代码&#xff0c;提交推送 B端拉取&#xff0c;改了代…

Asp.net Core中SignalR Core预览版的一些新特性前瞻,附源码(消息订阅与发送二进制数据)

前言 一晃一个月又过去了,上个月有个比较大的项目要验收上线.所以忙的脚不沾地.现在终于可以忙里偷闲,写一篇关于SignalR Core的文章了. 先介绍一下SignalR吧,如下: ASP.NET SignalR是ASP.NET开发人员的一个库&#xff0c;它简化了向Web应用程序添加即时通讯功能的过程。 它可以…

P3225-[HNOI2012]矿场搭建【tarjan,图论】

正题 题目链接:https://www.luogu.org/problemnew/show/P3225 题目大意 nnn个点的无向图&#xff0c;要求设置逃生点使得任意一个点去掉后每联通分量内都有一个逃生点。求至少多少个逃生点和方案数。 解题思路 首先tarjantarjantarjan求出割点&#xff0c;然后对于一个分量内…

Maven的pom.xml文件详解------Environment Settings

转载自 Maven的pom.xml文件详解------Environment Settings Issue Management 使用的缺陷跟踪系统&#xff08;Bugzilla&#xff0c;TestTrack&#xff0c;ClearQuest&#xff0c;等&#xff09;信息&#xff0c;主要用于产生项目文档。 <issueManagement><system…

大二暑假工作三个月后辞职,总体感悟

本人是个大二的学生&#xff0c;因为疫情影响&#xff0c;学校放了很长时间的假。当时对自己的前端技术很自信&#xff0c;大概在五月底的时候决定去上海闯一下&#xff0c;找个工作&#xff0c;不管能不能找到&#xff0c;就是尝试一下&#xff0c;失败了也没关系&#xff0c;…

P5004-专心OI - 跳房子【dp,矩阵乘法】

正题 题目链接:https://www.luogu.org/problemnew/show/P5004 题目大意 把NNN个无色格子排成一行&#xff0c;可以把某些格子染成黑色&#xff0c;但两个黑色格子之间必须至少有MMM个无色格子&#xff0c;求方案数 解题思路 首先很明显 fn∑i0n−m−1fif_n\sum_{i0}^{n-m-1}…

35年编程史沉淀下来的8条宝贵经

01 1. 时刻提醒自己&#xff1a;学习 学习某件事的第一步是承认你不知道。这听起来很正常&#xff0c;但经验丰富的程序员还记得要真正让自己承认这一点需要花多长时间。很多计算机科学专业的学生毕业的时候&#xff0c;都有一种很傲慢的态度&#xff0c;就是“我知道最好的”&…

Maven的pom.xml文件详解------The Basics

转载自 Maven的pom.xml文件详解------The Basics Maven坐标 GroupId、artifactId和version构成了Maven的坐标&#xff08;groupId和version可以从parent继承&#xff09;&#xff0c;指定了组件在Maven仓库中的位置。Maven中的每个组件都有一个坐标&#xff0c;通过这个坐标…