Hadoop的安装及配置

PS:最新安装教程请参考Hadoop的安装与配置(设置单节点群集)详细教程

1、Hadoop安装前准备工作:
在开始Hadoop安装与配置之前,需要准备的环境:Linux系统、配置JDK环境变量。

2、安装
我们可以到Apache Hadoop的官网http://hadoop.apache.org/进行下载相应的安装文件!

下载后,使用 : tar -zxvf tar包名,解压到指定位置!

3、Hadoop配置文件的修改
Hadoop主要修改的配置文件为5处:

  • hadoop-env.sh
  • core-site.xml
  • hdfs-site.xml
  • mapred-site.xml
  • yarn-site.xml

3.1、hadoop-env.sh
在对应的位置找到以下两行配置,并修改为本机中的路径。

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_231.jdk/Contents/Home
export HADOOP_CONF_DIR=/Users/marron27/TOOLS/hadoop-2.10.0/etc/hadoop

在这里插入图片描述
3.2、core-site.xml

<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<!--自己创建的,指定hadoop运行时产生文件的存放目录-->
<name>hadoop.tmp.dir</name>
<value>/Users/marron27/TOOLS/hadoop-2.10.0/tmp</value>
</property>
</configuration>

在这里插入图片描述
3.3、hdfs-site.xml

<configuration><property>
<!--指定hdfs保存数据副本的数量,包括自己,默认为3-->
<!--伪分布式模式,此值必须为1-->
<name>dfs.replication</name>
<value>1</value>
</property><!--不是root用户也可以写文件到hdfs-->
<property>
<name>dfs.permissions</name>
<value>false</value>    <!--关闭防火墙-->
</property></configuration>

在这里插入图片描述

3.4、mapred-site.xml

<configuration>
<property>
<!--指定mapreduce运行在yarn上-->
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

在这里插入图片描述

3.5、yarn-site.xml

<configuration><!-- Site specific YARN configuration properties -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
</property>
<property>
<!--NodeManager获取数据的方式-->
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property></configuration>

在这里插入图片描述

4、配置Hadoop环境变量

  1. 在 .bash_profile 文件中配置Hadoop环境变量,使用vim打开该文件,进入编辑模式 vim ~/.bash_profile

  2. 在该文件中添加Hadoop的安装路径
    在这里插入图片描述
    添加完成后保存退出。

  3. 使用source命令使该文件中的修改立即生效source ~/.bash_profile

  4. 到此所有的配置已经完成,接下来执行该命令格式化namenode: hadoop namenode -format。

  5. 格式化成功之后,即可启动Hadoop,在Hadoop安装目录下有个/sbin目录,目录下有个start-all.sh,执行该文件./start-all.sh

5、测试
此时执行以下命令查看安装是否成功

hadoop fs -mkdir /testdata     在hdfs根目录下创建一个文件夹 testdata
hadoop fs -ls /  

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/535866.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

在 PWA 中使用 App Shell 模型提升性能和用户感知体验

作者&#xff5c;潘宇琪 编辑&#xff5c;Daisy 在构建 PWA 应用时&#xff0c;使用 App Shell 模型能够在视觉和首屏加载速度方面带来用户体验的提升。另外&#xff0c;在配合 Service Worker 离线缓存之后&#xff0c;用户在后续访问中将得到快速可靠的浏览体验。 在实践过…

【转】超酷的 mip-infinitescroll 无限滚动(无限下拉)

写在前面 无限滚动技术&#xff08;又叫做无限下拉技术&#xff09;被广泛应用于新闻类&#xff0c;图片预览类网站。对用户来讲&#xff0c;使用无限滚动的页面有源源不断的信息可以预览&#xff0c;增加用户在页面的停留时长。技术上原理也很简单&#xff0c;在页面加载时加…

日常问题——Mac下新建目录报Read-only file system

问题描述&#xff1a; 今天在根目录下&#xff0c;新建目录时出现了Read-only file system提示为只读的错误。电脑最近并没有非正常关机之类可能导致文件损伤的操作&#xff0c;但是最近倒是进行了一次系统更新。 解决方案&#xff08;过程&#xff09;&#xff1a; 从系统更…

MongoDB(二):MongoDB的安装

这里以OSX系统为例&#xff0c;window和linux可以参考https://www.runoob.com/mongodb/mongodb-linux-install.html 1、我们使用 curl 命令来下载安装&#xff1a; # 进入 /usr/local cd /usr/local# 下载 sudo curl -O https://fastdl.mongodb.org/osx/mongodb-osx-ssl-x86_…

百度推出 MIP Baidu Path链接

在站长将站点 MIP 化时&#xff0c;需要关注 URL 的一共有三个&#xff1a;MIP URL, MIP-Cache URL 以及 MIP Baidu Path。 从 URL 说起 在互联网中&#xff0c;URL 定义页面的地址&#xff0c;每个 URL 对应一个页面。而 MIP URL 则是 MIP 页的原始地址&#xff0c;指向托管…

Postman接口测试(超详细整理)

常用的接口测试工具主要有以下几种 Postman&#xff1a;简单方便的接口调试工具&#xff0c;便于分享和协作。具有接口调试&#xff0c;接口集管理&#xff0c;环境配置&#xff0c;参数化&#xff0c;断言&#xff0c;批量执行&#xff0c;录制接口&#xff0c;Mock Server, …

mip-link 组件功能升级说明

背景描述 某个页面被多少页面引用&#xff08;在其他页面上有指向这个页面的 a 标签&#xff09;&#xff0c;是搜索引擎判断这个页面价值的其中一个因子。这里的搜索引擎不只是指百度&#xff0c;还包括国内外其他的搜索引擎。 MIP 在最初设计 MIP url 跳转逻辑实现时&#…

日常问题——使用Xshell 连接虚拟机报错 Disconnected from remote host

问题描述&#xff1a; 使用Xshell进行连接虚拟机的操作时出现了Disconnected from remote host的错误&#xff01; 解决方案&#xff08;过程&#xff09;&#xff1a; 1、vim /etc/ssh/sshd_config 2、#UseDNS yes改为UseDNS no 3、重启service sshd restart 问题解决&…

【转】AB实验设计思路及实验落地

这篇文章会讨论&#xff1a; 1. 在什么情况下需要做 AB 实验 2. 从产品/交互角度&#xff0c;如何设计一个实验 3. 前端工程师如何打点 4. 如何统计数据&#xff0c;并保证数据准确可信 5. 如何分析实验数据&#xff0c;有哪些数据需要重点关注 6. 附&#xff1a;如何搭建…

简单实现MySQL数据实时增量同步到Kafka————Maxwell

任务需求&#xff1a;将MySQL里的数据实时增量同步到Kafka 1、准备工作 1.1、MySQL方面&#xff1a;开启BinLog 1.1.1、修改my.cnf文件 vi /etc/my.cnf [mysqld] server-id 1 binlog_format ROW1.1.2、重启MySQL,然后登陆到MySQL之后&#xff0c;查看是否已经修改过来: …

【转】mip-semi-fixed 走走又停停

写在前面 MIP 中悬浮元素的特殊情况 其实组件上线已经有一段时间了&#xff0c;最开始看到这个需求是站长提交了一个这中功能的组件过来&#xff0c;不过看过代码立刻就想到了 MIP 页面的特殊性&#xff1a;从结果页打开的 MIP 页面&#xff0c;是嵌套在一个 iframe 之中的。…

Mac使用Homebrew安装Kafka

1、使用brew install命令安装Kafka $ brew install kafka安装过程将依赖安装 zookeeper软件位置 /usr/local/Cellar/zookeeper /usr/local/Cellar/kafka配置文件位置 /usr/local/etc/kafka/zookeeper.properties /usr/local/etc/kafka/server.properties 备注&#xff1a;后…

广州站长沙龙 MIP 问题及答案

1. mip提交几个月时间了&#xff0c;生效量比较少&#xff0c;是什么原因&#xff1f; 答&#xff1a;提交 MIP 页面后&#xff0c;经过收录、校验、和生效三个步骤&#xff0c;才能在结果页看到闪电标。 1&#xff09;提交 URL 后&#xff0c;spider 会去抓取收录&#xff1…

日常问题——初始化Hive仓库报错com.google.common.base.Preconditions.checkArgument

问题描述&#xff1a; 初始化Hive仓库报错Exception in thread “main” java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V 解决方案&#xff08;过程&#xff09;&#xff1a; com.google.commo…

【转】百度站长平台MIP引入工具使用心得

MIP引入主动推送流程 对于 MIP 站点改造好了&#xff0c;我们如何提交数据&#xff0c;并且 MIP 提交后&#xff0c;我们能得到哪些数据的反馈&#xff0c;在这里简单的写一篇文章&#xff0c;说一下。 改造 MIP&#xff0c;我们一般是添加了一个二级域名站点进行改造&#x…

Hadoop之HDFS应用

1、通过http://127.0.0.1:8088/即可查看集群所有节点状态&#xff1a; 2、访问http://localhost:9870/即可查看文件管理页面&#xff08;在3.0.0中在之前的版本中文件管理的端口是50070&#xff0c;替换为了9870端口&#xff09;&#xff1a; ————进入文件系统 ————…

MIP ACCESS细节剖析

什么是 MIP ACCESS MIP ACCESS 由百度 MIP 团队开发的一种页面访问权限控制机制&#xff0c;能够允许网页发布者在页面元素中定义内容标记&#xff0c;并结合用户访问情况进行综合评价&#xff0c;从而展现或隐藏页面中内容&#xff0c;直至用户登录、订阅或付费后才能够查看隐…

HDFS常用Shell命令

1、-ls: 显示目录信息 hadoop fs -ls /2、-mkdir&#xff1a;在HDFS上创建目录 hadoop fs -mkdir -p /demo/test3、-moveFromLocal&#xff1a;从本地剪切粘贴到HDFS hadoop fs -moveFromLocal a.txt /demo/test/a.txt4、-appendToFile&#xff1a;追加一个文件到已经存在…

Linux环境下Flume的安装

1、在官网http://flume.apache.org/download.html下载flume的压缩包 2、解压到指定位置并重命名 tar -zxvf apache-flume-1.9.0-bin.tar.gz3、配置环境并生效 #vi ~/.bashrc export FLUME_HOME/usr/local/APP/flume export PATH$PATH:$FLUME_HOME/bin #使变量设置生效 #sour…

MIPCache 域名升级

一、MIPCache URL 是什么 举个例子&#xff0c;MIP 官网的 URL 为&#xff1a; https://www.mipengine.org 对应的 MIPCache 的 URL 为&#xff1a; https://mipcache.bdstatic.com/c/s/www.mipengine.org 所谓 MIPCache URL 是经过 MIP-Cache CDN 缓存后的 MIP 页面地址&…