spark环境搭建java_Spark MLlib 环境搭建超详细教程

1、系统及环境版本

系统:Win7 旗舰版 64位 sp1

JDK:1.8.0

Spark:2.3.2

Hadoop:2.7

Scala:2.11.8

文章最后,有所有版本的下载链接,不用再去折腾版本之间的问题。

2、环境下载

2.1 Spark 下载

9f40fe1b6587

spark

2.2 hadooponwindos 下载

9f40fe1b6587

image.png

2.3 Hadoop 下载

9f40fe1b6587

image.png

2.4 JDK下载

2.5 IntelliJ IDEA

2.6 scala 下载

2.7 IntelliJ-scala plug 下载

9f40fe1b6587

image.png

至此,准备工作才算完成!

3、环境配置

安装ideaIC-2017.3.5.exe。

除了scala-intelliJ-bin-2017.3.15不需要解压外,其他能解压的都需要解压。

重要:配置之前,需要把2.2中的bin文件夹替换掉2.3中的bin文件夹

重要:配置之前,需要把2.2中的bin文件夹替换掉2.3中的bin文件夹

重要:配置之前,需要把2.2中的bin文件夹替换掉2.3中的bin文件夹

重要的事说三遍!

3.1 JAVA环境配置:

JAVA_HOME:java所在的目录,注意不是bin目录

PATH:%JAVA_HOME%\bin

ClassPath:%JAVA_HOME%\lib;%JAVA_HOME%\lib\tools.jar

3.2 Hadoop环境配置

HADOOP_HOME:hadoop解压的目录

Path:%HADOOP_HOME%\bin

3.3 Spark环境配置

SPARK_HOME:spark解压的目录

Path:%SPARK_HOME%\bin

3.4 Scala环境配置

SCALA_HOME:scala解压的目录

Path:%SCALA_HOME%\bin

4、IDE的配置

4.1创建新项目

9f40fe1b6587

image.png

4.2 选择Project SDK

选择刚才解压的JAVA目录

9f40fe1b6587

image.png

next>next>finesh!

此时可以看到 external library只有一个jdk1.8

9f40fe1b6587

image.png

4.3 安装scala插件

file>settings

9f40fe1b6587

image.png

9f40fe1b6587

image.png

4.4 重启IntelliJ

重启之后:

9f40fe1b6587

image.png

9f40fe1b6587

image.png

选择scala的解压的目录,我原来装过一个2.11.12版本的,所以,我这里会有两个版本,应该选择2.11.8版本。

4.5 添加spark library

9f40fe1b6587

此时,新建项目之后可以看到,external libraryes 出现了 jdk1.8 和scala sdk。

我们最后再添加spark library

file>project structure

9f40fe1b6587

image.png

Libraries > +

之后添加解压后的spark下的jars

9f40fe1b6587

image.png

最终可以看到External Libraries出现了三个。

9f40fe1b6587

image.png

4.6 建一个Sparkdemo 的object

9f40fe1b6587

image.png

import org.apache.spark._

object SparkDemo {

def main(args: Array[String]): Unit = {

val masterUrl = "local[1]"

val conf = new SparkConf().setAppName("helenApp").setMaster(masterUrl)

val sc = new SparkContext(conf)

val rdd = sc.parallelize(List(1, 2, 3, 4, 5, 6)).map(_ * 3)

rdd.filter(_ > 10).collect().foreach(println)

println(rdd.reduce(_ + _))

println("hello world")

}

}

4.7 ctrl+shift+F10运行!

最终,成功!

9f40fe1b6587

image.png

由于是小白,所以记录得很详细。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/534901.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

python自动发邮件附件_python自动发送带附件的邮件(163邮箱,亲测可用)

1.设置发送邮件邮箱的SMTP服务 https://www.360kuai.com/pc/927b9f8da3555bb70?cota4&kuai_so1&tj_urlxz&sign360_57c3bbd1&refer_sceneso_1 设置步骤时,记住设置的邮箱的独立密码,在以下脚本中能够用到2. python脚本 import smtplib f…

java 导出bcp文件格式_使用BCP导出导入数据

bcp 实用工具可以在 Microsoft SQL Server 实例和用户指定格式的数据文件间大容量复制数据。 使用 bcp 实用工具可以将大量新行导入 SQL Server 表,或将表数据导出到数据文件。 除非与 queryout 选项一起使用,否则使用该实用工具不需要了解 Transact-SQL…

learnpythonthehardway下载_LearnPythonTheHardWay学习笔记1:学习环境搭建

觉得学习这本书应该有笔记,所以就从这里开始吧。 学习资料: 1.《笨办法学Python》(承德-至阳整理 2013/7/19) 2.《Learn Python The Hard Way,3rd Edition》 (Zed A. Shaw 2010) 一、准备学习环境 &#xf…

java ajax多文件上传插件_ajaxFileUpload.js插件支持多文件上传的方法

前提条件:ajaxFileUpload.js插件多文件上传步骤:1、修改源码,(源码只支持单个文件的上传)://修改前代码-------//var oldElement jQuery(# fileElementId);//var newElement jQuery(oldElement).clone();//jQuery(oldElement).…

鱼骨图分析法实际案例_会用“鱼骨图”的项目经理无难题

项目经理在遇到一些瓶颈问题时,如何突破这些难题?答案就是鱼骨图!项目经理,广州深圳PMP培训,PMP认证考试培训机构,圣略PMP培训考试1、鱼骨图分析法介绍鱼骨图的由来及含义鱼骨图是由日本管理大师石川馨先生所发明出来的,故又名石川…

mysql5.6.msi 百度云_如何安装Mysql数据库类型msi(5.6)

首先让大家看下我下载的数据库有多少哈,还不包括我删除的一些数据库。光是8.0.17.0的数据库我就下载了四五个,经常安装数据报错,我一直找不到是啥原因,所以我就把所有的全部给删掉了,然后一遍一遍的安装。现在想想还真…

pythonwhile循环怎么修改数据类型_python开发学习day05 (while循环; for循环; 数字类型操作)...

2020-06-05 目录: 一、流程控制之while循环 1.1 什么是while循环? 1.2 为什么要用while循环? 1.3 怎么用while循环? 1.3.1 基本用法 1.3.2 死循环 1.3.3 while循环的结束 1.3.4 while循环的嵌套 1.3.5 whilecontinue 1.3.6 whilee…

mysql如何下载msi_2、Windows下MySQL数据库下载与安装详细教程 MSI方式

做者:叁念mysql写在前言:本文篇幅比较长,可是整体分为三大部分:下载部分、安装部分、环境配置与测试部分 ;读者能够自行选择阅读web1、下载部分MySQL数据库下载与安装详细教程sql1.如何下载MySQL?(本文章以5.6版本实际…

python词云乱码_python词云库wordCloud使用方法详解(解决中文乱码)

文章中的例子主要借鉴wordColud的examples,在文章对examples中的例子做了一些改动。 一、wordColud设计中文词云乱码 使用wordColud设计词云的时候可能会产生乱码问题,因为wordColud默认的字体不支持中文,所以我们只需要替换wordColud的默认字…

easyui java管理系统_EasyUI 后台管理系统

ASP.NET MVC5+EF6+EasyUI 后台管理系统(1)-前言与目录(持续更新中...)开发工具:VS2015(2012以上)SQL2008R2以上数据库 您可以有偿获取一份最新源码联系QQ:729994997 价格 666RMB 升级后界面效果如下: 任务调度…

linux同时安装python2和python3_linux-Centos7安装python3并与python2共存

1.查看是否已经安装Python CentOS 7.2 默认安装了python2.7.5 因为一些命令要用它比如yum 它使用的是python2.7.5。 使用 python -V 命令查看一下是否安装Python 然后使用命令 which python 查看一下Python可执行文件的位置可见执行文件在/usr/bin/ 目录下,切换到该…

opencv获取模板旋转角度_OpenCV入门之获取图像的旋转角度

在我们的日常生活中,所碰到的图像往往都有一定的倾斜。那么,如何用OpenCV来获取图像的旋转角度呢?   我们以下面的图片为例,简单介绍如何用OpenCV来获取图像的旋转角度。可以看到,该图像存在着许多噪声,且…

后台使用orm多还是直接sql_Django应用app创建及ORM

Django应用app创建及ORM一.重要知识点回顾:1. form表单提交数据的注意事项:1. 是form不是from,必须要有method和action (action用来指定你的数据提交到后台哪个地方,method用来指定你提交数据的方式)2. 所有获取用户输入的表单标签要放在form表单里面&am…

java ruby脚本_Java 程序中直接执行 Ruby 脚本 (JRuby)

1.[代码]MainClass.javaimport java.io.BufferedReader;import java.io.FileReader;import javax.script.Invocable;import javax.script.ScriptEngine;import javax.script.ScriptEngineManager;public class MainClass {public static void main(String[] args) throws Excep…

python win32gui安装_python-无法安装win32gui

我正在尝试使用pip安装win32gui,但出现错误: C:\Users\?????>pip install win32gui Collecting win32gui Using cached https://files.pythonhosted.org/packages/b8/75/7bed82934e51903f9d48b26b3996161bb2dce1731607b4bb7fd26003ed3e/win32gui-221.5.tar.…

时间戳 java_java中获取时间戳的方法

在java开发过程中经常会遇到统计某一天或是某一个月的数据,因此常常需要获取截取数据的两个时间戳(比如统计今天的数据,则需要获取一个开始时间为今天零点以及一个结束时间为明天零点),然后根据数据相关的时间是否在该时间区间内来判断是否将…

求一批整数中出现最多的个位数字_C语言经典100例007-求低n-1位的数

系列文章《C语言经典100例》持续创作中,欢迎大家的关注和支持。喜欢的同学记得点赞、转发、收藏哦~后续C语言经典100例将会以pdf和代码的形式发放到公众号欢迎关注:计算广告生态 即时查收1 题目函数:unsigned fun(unsigned w)功能…

python合并多个pdf_python合并多个pdf文件

假设您有个无聊的工作,将几十个PDF文档合并成一个PDF文件。 他们每个都有封面页作为第一页,但你不希望在最终结果中重复覆盖表。 即使有有很多免费的程序来组合PDF,其中许多只是合并整个文件在一起。 让我们编写一个Python程序来自定义哪些页…

python class类_python类class基础

44、class类:一、类定义的一般形式:1、简单的形式:实例化对象没有自己独有的数据属性。>>> class fistclass():... data1 hello world ### >这是类的数据属性或类成员属性。... def printdata(self): ###>这是类的方法&#…

java文件序列化_Java序列化与反序列化,文件操作

参考两篇博客:http://blog.csdn.net/moreevan/article/details/6697777http://blog.csdn.net/moreevan/article/details/6698529针对第二篇博客,看了下面的评论,发现子类输出的书号其实是父类的,书名是自己先添加的成员变量&#…