hadoop(1)--hdfs部署(亲测可用)

一、准备:

1、三台集群部署,配置hosts

#cat /etc/hosts
192.168.46.128 node1    #nameNode dataNode secondaryNameNode
192.168.46.129 node2    #datanode
192.168.46.130 node3    #datanode

说明:
NameNode: 主节点管理者
DataNode:从节点工作者
SecondaryNameNode:主节点辅助

2、三台节点做相互免密。

    node1 ->node2; node1->node3;node2 ->node1; node2 ->node3;node3 ->node1; node3 ->node2;

生成ssh

ssh-key-gen -t rsa       #一路回车
ssh-copy-ip   节点名称    # 拷贝公钥

3、安装java环境

#1、 上传安装包,解包。
cd /usr/local/java/   #2、修改profile配置文件,最后追加
# vim /etc/profile
JAVA_HOME=/usr/local/java/jdk1.8.0_221
CLASSPATH=$JAVA_HOME/lib/
PATH=$PATH:$JAVA_HOME/bin
export PATH JAVA_HOME CLASSPATH

二、上传hadoop安装包

1、创建hadoop目录

mkdir /data/hadoop

三、修改配置文件

所有配置文件都在hadoop包中etc目录下:

1、修改core-site.xml文件

# vim hadoop-3.3.6/etc/hadoop/core-site.xml
<configuration>
<property><name>fs.defaultFS</name><value>hdfs://node1:8020</value></property><property><name>io.file.buffer.size</name><value>131072</value></property>
</configuration>

2、修改hadoop-env.sh文件

# vim hadoop-3.3.6/etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/local/java    #修改安装的Java目录
export HADOOP_HOME=/data/hadoop/hadoop-3.3.6    #修改当前hadoop的路径
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop    
export HADOOP_LOG_DIR=$HADOOP_HOME/logs

3、修改hdfs-site.xml文件

# vim hadoop-3.3.6/etc/hadoop/hdfs-site.xml
<configuration>
<property><name>dfs.datanode.data.dir.perm</name><value>700</value></property><property><name>dfs.namenode.name.dir</name><value>/data/hadoop/data/nn</value></property><property><name>dfs.namenode.hosts</name><value>node1,node2,node3</value></property><property><name>dfs.blocksize</name><value>268435456</value></property><property><name>dfs.namenode.handler.count</name><value>100</value></property><property><name>dfs.datanode.data.dir</name><value>/data/hadoop/data/dn</value></property>
</configuration>

4、修改workers配置

#vim hadoop-3.3.6/etc/hadoop/workers
node1
node2
node3

5、创建数据目录

# node1 节点创建:
mkdir /data/hadoop/data/dn
mkdir /data/hadoop/data/nn# node2、 node3 节点创建:
mkdir /data/hadoop/data/dn

6、创建hadoop用户,并授权

useradd hadoop
# 以root身份,在三台服务器上均执行
chown -R hadoop:hadoop /data/hadoop

7、格式化NaneNode

#1、在主节点虚拟机node1中切换到hadoop用户
su - hadoop
#2. 格式化namenode
hadoop namenode -format

四、启动集群

1、启动hdfs集群

cd /data/hadoop/hadoop-3.3.6
./sbin/start-dfs.sh

登录web界面:
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/635adcec05674d2b9a888cead4f2f578.png
在这里插入图片描述

五、问题记录:

问题1:实际操作使用root用户,没有创建切换hadoop用户

启动报错,修改启动脚本和 stop 脚本

## 修改 start-dfs.sh  & stop-dfs.sh
## 上方空白处添加如下,
HDFS_DATANODE_USER=root
HADOOP_SECURE_DN_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/20144.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

LNMP部署及应用

目录 1.LNMP概述 Nginx 特点 Nginx 作用 2.分布式部署LNMP操练 Nginx主机&#xff1a;CentOS 7-1 PHP主机: CentOS 7-2 1.LNMP概述 Nginx 是开源、高性能、高可靠的 Web 和反向代理服务器&#xff0c;而且支持热部署&#xff0c;几乎可以做到 7 * 24 小时不间断运行&…

Kotlin 对象

文章目录 对象表达式&#xff08;匿名对象&#xff09;对象的声明 对象表达式&#xff08;匿名对象&#xff09; 在 Kotlin 中可以使用object {}声明一个匿名的对象&#xff0c;我们无需声明这个对象的类&#xff1a; fun main() {val any object {fun greet() print("…

C - Job Interview

思路&#xff1a; 先不考虑溢出&#xff0c;将nm1按照分配的工作分类 会发现&#xff0c;有且仅有一种工作的人数是溢出的&#xff0c;即超过了上限&#xff0c;记作工作1&#xff1b;且另一种工作的人数没有溢出&#xff0c;记作工作2 工作2因为没有溢出&#xff0c;不管没…

CPU/GPU/FPSGO,负载调试/设置命令开关

CPU/GPU/FPSGO&#xff0c;负载调试/设置命令开关 首先&#xff0c;进入&#xff1a; adb shell cat sys/kernel/ged/hal/gpu_utilization 查看GPU的负载情况。输出三个数字&#xff0c;第1个表示使用率&#xff0c;第3个表示空闲率。 echo 0 /sys/kernel/fpsgo/common/force…

Java中的网络编程:构建稳健的分布式应用

网络编程是Java开发中至关重要的一部分&#xff0c;特别是在构建分布式系统和网络应用程序时。Java提供了丰富的网络编程API和库&#xff0c;使开发者能够轻松创建各种网络应用。本文将介绍Java中的网络编程基础、常用的网络通信协议、以及如何利用Java构建稳健的分布式应用。 …

redis教程介绍以及要点和难点

Redis是一个开源的、内存中的数据结构存储系统,它可以用作数据库、缓存和消息代理。以下是关于Redis的详细概述: 定义 Redis,全称Remote Dictionary Server,是一个高性能的key-value数据库。 它支持多种数据结构,如string(字符串)、list(链表)、set(集合)、zset(…

Linux网络-使用Tcp协议进行网络通信并通过网络接口实现远端翻译

文章目录 Tcp协议Tcp协议常见API接口1. int socket(int domain, int type, int protocol);2. int bind(int socket, const struct sockaddr *address, socklen_t address_len);struct sockaddr 3. int listen(int socket, int backlog);4. int accept(int socket, struct socka…

计算机网络——如何保证 TCP 传输的可靠性

TCP 是传输层上的协议&#xff0c;它是可靠的&#xff0c;面向连接的。 概括 1. 设置传输格式&#xff0c;包括分为 TCP 段、使用校验和、使用序列号 2. 数据丢失之后的重传&#xff0c;超时重传、快速重传、SACK 选择确认、D-SACK 重复选择确认 3. 流量控制&#xff0c;控…

关于auto-coder的一次辩经

"其实是这样的&#xff0c;助手只要能给出正确的代码&#xff0c;粘贴一下&#xff0c;不是主要工作量" 这种思路还是把大模型当成一个信息获取工具来用&#xff0c;那么注定难以变革生产力&#xff0c;他和搜索引擎没有任何区别&#xff0c;那么把搜索引擎换成大模型…

spring 事务方式和事务传播

spring 事务方式和事务传播 Spring框架提供了多种方式来处理事务&#xff0c;以确保在应用程序中数据的一致性和完整性。在Spring中&#xff0c;事务可以通过注解、XML配置或编程方式来管理&#xff0c;而事务传播机制定义了事务在多个方法之间的传递和交互方式。 以下是Sprin…

字符串-至多包含K种字符的子串中最长子串(mid)

一、题目描述 二、解题思路 借鉴以下题目思想&#xff0c;使用双指针&#xff0c;外层循环右侧指针移动&#xff0c;内存循环左侧指针移动 字符串-最长不含重复字符的子字符串(mid)-CSDN博客文章浏览阅读622次&#xff0c;点赞17次&#xff0c;收藏4次。java刷题&#xff1a;…

探索第三方美颜SDK:美颜插件的技术原理

本篇文章&#xff0c;我们将深入了解第三方美颜SDK&#xff0c;主要探讨关于美颜插件的工作机制与算法。 一、第三方美颜SDK的概述 第三方美颜SDK是由专业团队开发的一套用于实现美颜功能的软件开发工具包。它通常包括了各种美颜算法、滤镜效果、人脸识别等核心技术&#xff…

Kafka broker的新增和剔除(服役与退役)

说明&#xff1a;集群现有broker:node1,node2,node3三个,broker.id分别为0&#xff0c;1&#xff0c;2 已有两个topic&#xff1a;products、cities 1、退役&#xff08;Kafka集群中减少一个服务器broker2&#xff09; 退役后要保证剩下的服务器数量大于等于备份数&#xff0c…

【IC前端Job】

IC前端Job 1 前端1.1 前端设计1.2 前端验证(DV)1.3 FPGA原型验证1.4 Emulator1.5 软件验证 上一篇文章细说了设计文档对于IC前端设计人员的重要性&#xff1b;这次集中在前端设计从RTL编码–>RTL freeze这个过程中所要工作和打交道的地方&#xff1b; IC前端设计具体工作&am…

Pytorch常用函数用法归纳

一、创建tensor张量 1.torch.arange() (1)函数原型 torch.arange(start0,end,step1,*,outNone,dtypeNone,layouttorch.strided,deviceNone,requires_gradFalse) (2)参数说明: 参数名称参数类型参数说明startNumber起始值&#xff0c;默认值为0endNumber结束值stepNumber步…

软件设计不是CRUD(21):在流式数据处理系统中进行业务抽象落地——需求分析

本文主要介绍如何在数据处理系统中应用业务抽象的设计思想。目前业界流行的数据处理方式是流式处理&#xff0c;主流的流式处理引擎有Apache Spark&#xff0c;Apache Flink等等。本文选择Apache Flink作为实战案例的落地。由于本文主要是讲解设计思想和流式处理引擎相结合的方…

使用docker直接运行不同版本nodejs命令

在低版本的操作系统上&#xff0c;安装和使用高版本的node以及相关工具可能会因为兼容性问题而无法使用&#xff0c;比如对Ubuntu 18.04来说&#xff0c;会因为glibc的版本问题而无法直接安装使用nodejs 18以上的版本。运行弄得是可能会遇到类似的报错 node: /lib/x86_64-linu…

Linux基础指令目录管理003

今天我们讲一下目录的切换。 操作系统&#xff1a; CentOS Stream 9 操作命令&#xff1a; cd 改变当前工作目录 [rootlocalhost ~]# cd /usr/local/nginx/conf [rootlocalhost conf]# cd .. [rootlocalhost nginx]# cd .. [rootlocalhost local]# 操作命令&#xff1a; …

排八字软件有哪些?

排八字软件有哪些&#xff1f;在市面上有很多排八字的软件可供选择&#xff0c;其中一些比较知名的有&#xff1a; 无敌八字排盘软件&#xff1a;这是一款功能强大的八字排盘软件&#xff0c;提供详细的八字解析和命理分析服务&#xff0c;且完全免费。 网易星盘&#xff1a;网…

【一百】【算法分析与设计】N皇后问题常规解法+位运算解法

N皇后问题 链接&#xff1a;登录—专业IT笔试面试备考平台_牛客网 来源&#xff1a;牛客网 题目描述 给出一个nnn\times nnn的国际象棋棋盘&#xff0c;你需要在棋盘中摆放nnn个皇后&#xff0c;使得任意两个皇后之间不能互相攻击。具体来说&#xff0c;不能存在两个皇后位于同…