搭建分布式ZooKeeper集群

title: 搭建分布式ZooKeeper集群
date: 2024-11-26 23:39:00
categories: 
- 服务器
tags:
- ZooKeeper
- 大数据

搭建分布式ZooKeeper集群

  • 本次实验环境:Centos 7-2009、Hadoop-3.1.4、JDK 8、Zookeeper-3.6.3

前提

首先配置好Hadoop集群

  • 为了配置方便,Hadoop集群的所有软件及文件位于/opt/module目录下

1. 修改主机名(域名)与IP地址的对应关系

规划功能

MasterSlave1Slave2
主节点从节点从节点
192.168.66.6192.168.66.7192.168.66.21
  • 如若在这之前,Hadoop已配置过此项,则只需记住已配置的数据,无须更改
cat >> /etc/hosts << EOF
# ------ZooKeeper主机名解析 配置--------
192.168.66.6 master 
192.168.66.7 slave1 
192.168.66.21 slave2  
EOF

2. 安装程序文件

  • 首先上传zookeeper的文件到服务器上,或直接进行以下的下载行为
# 使用wget命令下载zookeeper文件(二选一)
wget -P /tmp/ -c 'https://repo.huaweicloud.com/apache/zookeeper/zookeeper-3.6.3/apache-zookeeper-3.6.3.tar.gz'# 使用curl命令下载zookeeper文件(二选一)
curl -C - 'https://repo.huaweicloud.com/apache/zookeeper/zookeeper-3.6.3/apache-zookeeper-3.6.3.tar.gz' -O /tmp/# 解压文件到指定目录
tar -zxvf /tmp/apache-zookeeper-3.6.3-bin.tar.gz  -C /opt/module/# 重名名文件夹
mv /opt/module/apache-zookeeper-3.6.3-bin/ /opt/module/zookeeper/

3. 配置用户环境变量

cat >>  ~/.bashrc << "EOF"# ------------------- Zookeeper 配置--------------------
# 设置ZK_HOME环境变量,指向zookeeper安装目录
export ZK_HOME=/opt/module/zookeeper# 将ZK_HOME的bin目录以及conf目录添加到PATH环境变量
export PATH=$PATH:$ZK_HOME/bin:$ZK_HOME/conf# 将ZK_HOME的lib目录添加到CLASSPATH环境变量
export CLASSPATH=$CLASSPATH:$ZK_HOME/lib
# -------------------------------------------------
EOF
-----------------------------------------------------------说明举例   export PATH=$ZK_HOME/bin:$ZK_HOME/conf:$PATH英文冒号代表分隔这段代码表示
1. 当你输入一个命令时,shell会首先在"ZK_HOME"这个变量的"bin"子目录中查找,
3. 其次,若找不到,则在"ZK_HOME"这个变量的"conf"子目录中查找,
4. 最后,若找不到,则在"PATH"的指定目录中查找-------------------------------------------------------------

4. 编写Zookeeper配置文件

# 文件重命名
mv /opt/module/zookeeper/conf/zoo_sample.cfg /opt/module/zookeeper/conf/zoo.cfg
# 创建zookeeper的数据目录
mkdir /opt/module/zookeeper/data# 创建zookeeper的节点信息
echo "1" > /opt/module/zookeeper/data/myid
# 更改Zookeeper的数据位置,并添加zookeeper的节点信息
# 这里的节点信息,根据一开始你自己的规划填写,也可以填写主机名sed -i -e 's|dataDir=/tmp/zookeeper|dataDir=/opt/module/zookeeper/data|' \
-e '/dataDir=/a \
server.1=192.168.66.6:2888:3888\
server.2=192.168.66.7:2888:3888\
server.3=192.168.66.21:2888:3888' /opt/module/zookeeper/conf/zoo.cfg

5. 同步所需文件

# 同步到slave1机器
scp -r /opt/module/zookeeper/ root@slave1:/opt/module/
scp  ~/.bashrc root@slave1:/root# 同步到slave2机器
scp -r /opt/module/zookeeper/ root@slave2:/opt/module/
scp  ~/.bashrc root@slave2:/root

6. 修改从节点Zookeeper配置文件

# 修改slave1的配置文件
ssh slave1 'echo "2" > /opt/module/zookeeper/data/myid'# 修改slave2的配置文件
ssh slave2 'echo "3" > /opt/module/zookeeper/data/myid'

7. 环境变量生效

# master节点环境变量生效
source  ~/.bashrc# slave1节点环境变量生效
ssh slave2 'source  ~/.bashrc'# slave2节点环境变量生效
ssh slave2 'source  ~/.bashrc'

8. 后台启动Zookeeper

# master节点启动zookeeper
$ZK_HOME/bin/zkServer.sh start# slave1节点启动zookeeper
ssh slave1 ' $ZK_HOME/bin/zkServer.sh start'# slave2节点启动zookeeper
ssh slave2 ' $ZK_HOME/bin/zkServer.sh start'

9. 查看Zookeeper状态

# 查看master节点的zookeeper状态
$ZK_HOME/bin/zkServer.sh status# 查看slave1节点的zookeeper状态
ssh slave1 ' $ZK_HOME/bin/zkServer.sh status '# 查看slave2节点的zookeeper状态
ssh slave2 ' $ZK_HOME/bin/zkServer.sh status '

备注

若出现It is probably not running

# 报错信息
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost. Client SSL: false.
Error contacting service. It is probably not running.

请关闭防火墙

# 关闭防火墙
systemctl stop firewalld# 禁止防火墙开机自启
systemctl disabled firewalld

若不想关闭防火墙,则需要放行防火墙的2888以及3888端口

# 放行防火墙2888端口
firewall-cmd --add-port=2888/tcp --permanent --zone=public # 放行防火墙3888端口
firewall-cmd --add-port=3888/tcp --permanent --zone=public # 重载防火墙配置
firewall-cmd --reload 

Zookeeper前台运行

该命令用于启动 ZooKeeper 服务,并且在前台运行。
ZooKeeper 的所有日志和输出都会直接显示在控制台上,而不是写入日志文件

通常用于调试和检查 ZooKeeper 运行时的异常情况

# 前台运行命令
/opt/module/zookeeper/bin/zkServer.sh start-foreground

停止Zookeeper

# 停止master节点的zookeeper服务
/opt/module/zookeeper/bin/zkServer.sh stop# 停止slave1节点的zookeeper服务
ssh slave1 '/opt/module/zookeeper/bin/zkServer.sh stop'# 停止slave2节点的zookeeper服务
ssh slave2 '/opt/module/zookeeper/bin/zkServer.sh stop'

参考文档

  1. 解决问题Client port found: 2181. Client address: localhost. Client SSL: false.-CSDN博客

  2. Linux环境下zookeeper的安装教程(超详细!!)_linux zk安装-CSDN博客

  3. zookeeper集群搭建步骤(超详细)-CSDN博客

  4. ZooKeeper JMX enabled by default Using config…完美解决-CSDN博客

  5. 启动ZooKeeper报错ZooKeeper JMX enabled by default Using config: /usr/Local/ zookeeper/bin/ . ./conf/zoo.-CSDN博客

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/64441.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Python高级游戏开发:打造一款塔防游戏

塔防(Tower Defense)游戏是一种经典的游戏类型,玩家通过建造防御塔来阻止敌人入侵。本文将介绍如何使用Python和Pygame库开发一款简单但高级的塔防游戏,涵盖地图设计、敌人路径规划、防御塔机制以及游戏逻辑实现。 一、游戏开发环境配置 1. 安装Pygame Pygame是Python中最…

unity 雷达

unity 雷达 首先去商店下载TouchScript插件 导入的时候勾选Enable TUIO 然后把预制体Cursors和TouchManager拖上 最后把TuioInput这个脚本挂上 脚本上的端口号尽量不改

F5中获取客户端ip地址(client ip)

当F5设备对其原始设置上的所有IP地址使用NAT时&#xff0c;连接到poo成员&#xff08;nodes、backend servers&#xff09;的出站连接将是NAT IP地址。 pool 成员&#xff08;nodes、backend servers&#xff09;将无法看到真实的客户端 ip地址&#xff0c;因为看到的是F5上的…

白话java设计模式

创建模式 单例模式&#xff08;Singleton Pattern&#xff09;&#xff1a; 就是一次创建多次使用&#xff0c;它的对象不会重复创建&#xff0c;可以全局来共享状态。 工厂模式&#xff08;Factory Method Pattern&#xff09;&#xff1a; 可以通过接口来进行实例化创建&a…

MATLAB引用矩阵元素的几种方法

引用矩阵元素可以通过索引&#xff0c;也可以通过逻辑值 索引 通过引用元素在矩阵中的位置来提取元素&#xff0c;例如&#xff1a; - 逻辑值 通过某种逻辑运算来使得要提取的值变为逻辑 1 1 1&#xff0c;用 A ( ) A() A()提取即可&#xff0c; A A A为原矩阵的名称。 例如&…

Python发送带key的kafka消息

在Python中发送带有键&#xff08;key&#xff09;的Kafka消息&#xff0c;通常会使用confluent-kafka或kafka-python这样的库。这里我将分别展示如何使用这两个库来实现这个功能。 ### 使用 confluent-kafka 首先&#xff0c;确保你已经安装了confluent-kafka库。如果没有安装…

机器学习预处理-表格数据的空值处理

机器学习预处理-表格数据的空值处理 机器学习预处理-表格数据的分析与可视化中详细介绍了表格数据的python可视化&#xff0c;可视化能够帮助我们了解数据的构成和分布&#xff0c;是我们进行机器学习的必备步骤。上文中也提及&#xff0c;原始的数据存在部分的缺失&#xff0…

了解 SpringMVC 请求流程

文章目录 1. Spring 基础 - SpringMVC 请求流程1.1 引入1.2 什么是 MVC1.3 什么是 Spring MVC1.4 请求流程核心架构的具体流程步骤补充 1.5 案例**Maven 包引入****业务代码的编写**DaoServiceControllerwebapp 下的 web.xmlspringmvc.xmlJSP 视图 2. Spring 进阶 - Dispatcher…

【mysql】如何解决主从架构从库延迟问题

目录 1. 说明2.优化主库的写入性能3. 优化网络性能4. 增强从库的硬件性能5. 调整从库的配置6. 主从架构优化7. 监控和调优8.使用 GTID 和 Group Replication 1. 说明 1.在 MySQL 数据库中&#xff0c;从库延迟&#xff08;replication lag&#xff09;是指主库和从库之间的数据…

Springboot3.x配置类(Configuration)和单元测试

配置类在Spring Boot框架中扮演着关键角色&#xff0c;它使开发者能够利用Java代码定义Bean、设定属性及调整其他Spring相关设置&#xff0c;取代了早期版本中依赖的XML配置文件。 集中化管理&#xff1a;借助Configuration注解&#xff0c;Spring Boot让用户能在一个或几个配…

鸿道Intewell-C纯实时构型,适合有功能安全认证需求的工业操作系统

鸿道Intewell-C纯实时构型&#xff0c;适合有功能安全认证需求的工业操作系统 鸿道Intewell-C是一款工业实时微内核操作系统&#xff0c;由科东软件自主研发&#xff0c;具有超低延迟和最小抖动&#xff0c;保障工业设备可以高效处理时间敏感的现场业务&#xff0c;支持多种工…

Stream– ESP8266物联网应用,(客户端向服务器发送数据信息 客户端向服务器请求数据信息)

Stream– ESP8266物联网应用 Stream对于ESP8266-Arduino语言来说指的是数据序列。请留意&#xff1a;在C编程中Stream常被翻译作“流”。我们认为将Stream称为数据序列更加直观。因为数据序列这一概念有两个很关键特点。 第一个特点是“序”&#xff0c;即数据序列不能是杂乱…

提升PHP技能:18个实用高级特性

掌握PHP基础知识只是第一步。 深入了解这18个强大的PHP特性&#xff0c;将显著提升您的开发效率和代码质量。 1、超越 __construct() 的魔法方法 虽然 __construct() 为大多数开发者所熟知&#xff0c;PHP 却提供了更多强大的魔术方法&#xff0c;例如&#xff1a; class Da…

Spring MVC 请求头中 ContentType和DataType区别

一、Spring MVC 请求头中ContentType和DataType区别用途 1. dataType【通常在JQuery中使用】 定义&#xff1a;dataType 通常用于描述前端希望从服务器接收的数据格式。常见场景&#xff1a;这是前端参数&#xff0c;通常在 jQuery.ajax 或其他前端框架中使用&#xff0c;告诉…

Vue 3 中的 `update:modelValue` 事件详解

在 Vue 3 中&#xff0c;update:modelValue​ 事件通常与 v-model​ 指令一起使用&#xff0c;以实现自定义组件的双向数据绑定。以下是对该事件的详细分析&#xff1a; 事件定义 首先&#xff0c;我们需要在组件中定义 update:modelValue​ 事件。可以使用 defineEmits​ 函…

芯品荟|SWM221系列芯片之TFTLCD彩屏显示及控制

“革新未来&#xff0c;智驭控制新纪元”&#xff0c;由广东华芯微特集成电路有限公司市场总监张琢&#xff0c;对SWM221系列的强大功能表现进行了整体介绍。 确实&#xff0c;华芯微特在TFTLCD显示及控制有十多年应用基础和积累的团队&#xff0c;仍勇于挑战&#xff0c;自我…

MIT S6081 2024 Lab 1 | Operating System | Notes

目录 安装与下载 实验1 开始我们的实验 sleep&#xff08;简单&#xff09; pingpong&#xff08;简单&#xff09; primes (中等)/(困难) find&#xff08;中等&#xff09; xargs&#xff08;中等&#xff09; finally Reference I. Tools Debian 或 Ubuntu Arch…

华为认证HCIA——数据传输形式,数据封装的基本概念

前言&#xff1a; 整理下学习笔记&#xff0c;打好基础&#xff0c;daydayup!!! 对网络概念有基本理解后&#xff08;华为认证HCIA——网络基本概念&#xff09;&#xff0c;开始进一步学习数据传输。 数据传输的形式 数据传输主要有三种形式&#xff1a; 1&#xff0c;电路传…

opencv小练习(未完成版)

读取一张彩色图像并将其转换为灰度图。 import cv2# 读取图片 img cv2.imread("./duck.png") img cv2.resize(img, dsizeNone, fx0.4, fy0.4, interpolationcv2.INTER_LINEAR) # 读取一张灰度图 img_gray cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)# 展示图片 cv2.im…

WSL (Windows Subsystem for Linux)

文章目录 Windows下使用Linux的三种方式&#xff1a;1.WSL(1)安装WSL(2)初始化Linux系统(3)安装、创建、激活 Python虚拟环境 2.虚拟机3.Docker Windows下使用Linux的三种方式&#xff1a; 1.WSL 是最简单的在 Windows 上运行 Linux 环境的方式&#xff0c;适用于日常开发和命…