Zookeeper复习

一、入门

1、概念

zookeeper=文件系统+通知机制

2.特点

1)、一个领导者,多个跟随者组成的集群。

2)、集群中只要有半数以上存活机制,zookeeper集群能正产服务。zk适合安装奇数台。

3)、全局数据一致:每个Server保存一份相同的数据副本,client无论连接到哪个server,数据都是一致的。

4)、更新请求顺序:按来自同一个Client的更新请求,先进先出。

5)、数据更新原子性,一次数据更新要么成功,要么失败。

6)、实时性,在一定时间内,client能读到最新数据(zk同步数据比较快)。

3、数据结构

zookeeper数据模型与Unix文件系统很类似;

4、应用场景

1)、统一命令服务

2)、统一配置管理

①、一般要求一个集群中,所有节点的配置信息是一致的,比如kafka集群;

②、对配置文件后,尽快同步到各个节点上;

配置管理可交由Zookeeper实现。可将配置信息写到Zookeeper上的一个Znode。各个客户端服务器监听这个Znode.

3)、软负载均衡

在zookeeper中记录每台服务器的访问数,让访问数最少的服务器最处理最新的客户端请求;

5、官网地址

https://zookeeper.apache.org/

二、Zookeeper本地安装

2.1 本地模式安装部署

1安装前准备

(1)安装Jdk

(2)拷贝Zookeeper安装包到Linux系统下

(3)解压到指定目录

[atguigu@hadoop102 software]$ tar -zxvf zookeeper-3.5.7.tar.gz -C /opt/module/

2)配置修改

(1)将/opt/module/zookeeper-3.5.7/conf这个路径下的zoo_sample.cfg修改为zoo.cfg;

[atguigu@hadoop102 conf]$ mv zoo_sample.cfg zoo.cfg

(2)打开zoo.cfg文件,修改dataDir路径:

[atguigu@hadoop102 zookeeper-3.5.7]$ vim zoo.cfg

修改如下内容:

dataDir=/opt/module/zookeeper-3.5.7/zkData

(3)在/opt/module/zookeeper-3.5.7/这个目录上创建zkData文件夹

[atguigu@hadoop102 zookeeper-3.5.7]$ mkdir zkData

3操作Zookeeper

(1)启动Zookeeper

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh start

(2)查看进程是否启动

[atguigu@hadoop102 zookeeper-3.5.7]$ jps

4020 Jps

4001 QuorumPeerMain

(3)查看状态:

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh status

ZooKeeper JMX enabled by default

Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg

Mode: standalone

(4)启动客户端:

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkCli.sh

(5)退出客户端:

[zk: localhost:2181(CONNECTED) 0] quit

(6)停止Zookeeper

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh stop

2.2 配置参数解读

Zookeeper的配置文件zoo.cfg中参数含义解读如下

1tickTime =2000通信心跳数Zookeeper服务器客户端心跳时间,单位毫秒

Zookeeper使用的基本时间,服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个tickTime时间就会发送一个心跳时间单位为毫秒。

它用于心跳机制,并且设置最小的session超时时间为两倍心跳时间(session的最小超时时间是2*tickTime)

2)initLimit =10LF初始通信时限

集群中的Follower跟随者服务器与Leader领导者服务器之间初始连接时能容忍的最多心跳数(tickTime的数量),用它来限定集群中的Zookeeper服务器连接到Leader的时限。

3)syncLimit =5:LF同步通信时限

集群中Leader与Follower之间的最大响应时间单位,假如响应超过syncLimit * tickTime,Leader认为Follwer死掉,从服务器列表中删除Follwer。

4)dataDir:数据文件目录+数据持久化路径

主要用于保存Zookeeper中的数据。

5)clientPort =2181:客户端连接端口

监听客户端连接的端口

三、Zookeeper集群操作

3.1 集群操作

3.1.1 集群安装

1)集群规划

在hadoop102、hadoop103和hadoop104三个节点上都部署Zookeeper。

思考:如果是10台服务器,需要部署多少台Zookeeper?

2)解压安装

(1)在hadoop102解压Zookeeper安装包到/opt/module/目录下

[atguigu@hadoop102 software]$ tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz -C /opt/module/

(2)修改apache-zookeeper-3.7.1-bin名称为zookeeper-3.7.1

[atguigu@hadoop102 module]$ mv apache-zookeeper-3.7.1-bin/ zookeeper-3.7.1

3)配置服务器编号

(1)在/opt/module/zookeeper-3.7.1/这个目录下创建zkData

[atguigu@hadoop102 zookeeper-3.7.1]$ mkdir zkData

(2)在/opt/module/zookeeper-3.7.1/zkData目录下创建一个myid的文件

[atguigu@hadoop102 zkData]$ vi myid

在文件中添加与server对应的编号(注意:上下不要有空行,左右不要有空格)。

2

注意添加myid文件,一定要在Linux里面创建,在notepad++里面很可能乱码

(3)拷贝配置好的zookeeper到其他机器上

[atguigu@hadoop102 module ]$ xsync  zookeeper-3.7.1

并分别在hadoop103、hadoop104上修改myid文件中内容为3、4。

4)配置zoo.cfg文件

(1)重命名/opt/module/zookeeper-3.7.1/conf这个目录下的zoo_sample.cfg为zoo.cfg

[atguigu@hadoop102 conf]$ mv zoo_sample.cfg zoo.cfg

(2)打开zoo.cfg文件

[atguigu@hadoop102 conf]$ vim zoo.cfg

#修改数据存储路径配置

dataDir=/opt/module/zookeeper-3.7.1/zkData

#增加如下配置

#######################cluster##########################

server.2=hadoop102:2888:3888

server.3=hadoop103:2888:3888

server.4=hadoop104:2888:3888

 几号服务器=服务器地址:服务器交换信息端口:执行选举时服务器相互通信的端口

(3)配置参数解读

server.A=B:C:D。

A是一个数字,表示这个是第几号服务器;

集群模式下配置一个文件myid,这个文件在dataDir目录下,这个文件里面有一个数据就是A的值,Zookeeper启动时读取此文件,拿到里面数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。

B是这个服务器的地址;

C是这个服务器Follower与集群中的Leader服务器交换信息的端口;

D是万一集群中的Leader服务器挂了,需要一个端口来重新进行选举,选出一个新的Leader,而这个端口就是用来执行选举时服务器相互通信的端口。

(4)同步zoo.cfg配置文件

[atguigu@hadoop102 conf]$ xsync zoo.cfg

5集群操作

(1)分别启动Zookeeper

[atguigu@hadoop102 zookeeper-3.7.1]$ bin/zkServer.sh start

[atguigu@hadoop103 zookeeper-3.7.1]$ bin/zkServer.sh start

[atguigu@hadoop104 zookeeper-3.7.1]$ bin/zkServer.sh start

(2)查看状态

[atguigu@hadoop102 zookeeper-3.7.1]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.7.1/bin/../conf/zoo.cfg

Mode: follower

[atguigu@hadoop103 zookeeper-3.7.1]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.7.1/bin/../conf/zoo.cfg

Mode: leader

[atguigu@hadoop104 zookeeper-3.4.5]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.7.1/bin/../conf/zoo.cfg

Mode: follower

3.1.2 选举机制(重点)

zk第一次启动

非第一次启动

选举Leader规则:①EPOCH大的直接胜出  ②EPOCH相同时,ZXID(事务id)大的胜出  

③ 事务id相同,服务器id大的胜出

3.1.3 ZK集群启动停止脚本

(1)在hadoop102的/home/atguigu/bin目录下创建脚本

[atguigu@hadoop102 bin]$ vim zk.sh

在脚本中编写如下内容

#!/bin/bash

case $1 in

"start"){

for i in hadoop102 hadoop103 hadoop104

do

        echo ---------- zookeeper $i 启动 ------------

ssh $i "/opt/module/zookeeper-3.7.1/bin/zkServer.sh start"

done

};;

"stop"){

for i in hadoop102 hadoop103 hadoop104

do

        echo ---------- zookeeper $i 停止 ------------    

ssh $i "/opt/module/zookeeper-3.7.1/bin/zkServer.sh stop"

done

};;

"status"){

for i in hadoop102 hadoop103 hadoop104

do

        echo ---------- zookeeper $i 状态 ------------    

ssh $i "/opt/module/zookeeper-3.7.1/bin/zkServer.sh status"

done

};;

esac

(2)增加脚本执行权限

[atguigu@hadoop102 bin]$ chmod u+x zk.sh

(3)Zookeeper集群启动脚本

[atguigu@hadoop102 module]$ zk.sh start

(4)Zookeeper集群停止脚本

[atguigu@hadoop102 module]$ zk.sh stop

启动zk客户端:

①、先启动zk.sh start 

②、bin/zkCli.sh -server hadoop102:2181

3.2 客户端命令行操作

3.2.1 命令行语法

命令基本语法

功能描述

help

显示所有操作命令

ls path 

使用 ls 命令来查看当前znode的子节点 [可监听]

-w  监听子节点变化

-s   附加次级信息

create

普通创建

-s  含有序列

-e  临时(重启或者超时消失)

get path 

获得节点的值 [可监听]

-w  监听节点内容变化

-s   附加次级信息

set

设置节点的具体值

stat

查看节点状态

delete

删除节点

deleteall

递归删除节点

1 )启动客户端
[atguigu@hadoop102
zookeeper-3.5.7]$ bin/zkCli.sh -server
hadoop102:2181
2 )显示所有操作命令
[zk: hadoop102:2181(CONNECTED) 1] help

3.2.2 znode 节点数据信息

1 )查看当前 znode 中所包含的内容
[zk: hadoop102:2181(CONNECTED) 0] ls /
[zookeeper]
2 )查看当前节点详细数据
[zk: hadoop102:2181(CONNECTED) 5] ls -s /

3.2.3 节点类型(持久/短暂/有序号/无序号)

1 )分别创建 2 个普通节点(永久节点 + 不带序号)
[zk: localhost:2181(CONNECTED) 3] create /sanguo "diaochan"
Created /sanguo
[zk: localhost:2181(CONNECTED) 4] create /sanguo/shuguo
"liubei"
Created /sanguo/shuguo
注意:创建节点时,要赋值
2 )获得节点的值
[zk: localhost:2181(CONNECTED) 5] get -s /sanguo

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/23424.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

华为鸿蒙开发-鸿蒙基于ARKTS开发之启动模式

前言 鸿蒙生态取得爆发式增长! 截至3月底,已有超4000个应用加入鸿蒙生态。 而在今年1月中旬,华为刚宣布HarmonyOS NEXT鸿蒙星河版面向开发者开放申请,这一版本鸿蒙系统也被称为“纯血鸿蒙”。 当时,华为宣布首批200…

2. QGis二次开发项目实践一之技术实现

前言 本文描述了QGis二次开发项目实践一的涉及到的技术点涉及到的QGis技术点如下 矢量图层加载显示矢量图层导出dxf矢量图层合并 代码描述 矢量图层加载显示 矢量图层加载显示在以前的教程中已有详细说明,请参考以下链接 5.1 加载矢量图层(ogr,gpx)5.2 加载矢量…

03-3.1.3 栈的链式存储的实现

👋 Hi, I’m Beast Cheng👀 I’m interested in photography, hiking, landscape…🌱 I’m currently learning python, javascript, kotlin…📫 How to reach me --> 458290771qq.com 喜欢《数据结构》部分笔记的小伙伴可以订…

【微服务】使用kubekey部署k8s多节点及kubesphere

kubesphere官方部署文档 https://github.com/kubesphere/kubesphere/blob/master/README_zh.md kubuctl命令文档 https://kubernetes.io/zh-cn/docs/reference/kubectl/ k8s资源类型 https://kubernetes.io/zh-cn/docs/reference/kubectl/#%E8%B5%84%E6%BA%90%E7%B1%BB%E5%9E…

python中的函数概念

一段可以被重复使用的代码。 关于函数的定义 defdefine (定义) def 函数名(形参列表):形参列表中,可以有多个形参,多个形参之间使用逗号分隔, 关于函数的调用 (开始完…

Transformer 论文重点

摘要 提出了一个 Transformer 模型,针对于一个机器翻译的小任务上表现结果比当时所有模型的效果都好,并且架构相比其它更加简单,后面就火到了发现什么方向都能用的地步。 介绍 循环神经网络,特别是长短时记忆[ 13 ]和门控循环[…

kafka-消费者-指定offset消费(SpringBoot整合Kafka)

文章目录 1、指定offset消费1.1、创建消费者监听器‘1.2、application.yml配置1.3、使用 Java代码 创建 主题 my_topic1 并建立3个分区并给每个分区建立3个副本1.4、创建生产者发送消息1.4.1、分区0中的数据 1.5、创建SpringBoot启动类1.6、屏蔽 kafka debug 日志 logback.xml1…

nginx动静分离和反向代理

一、动静分离 动静分离指的是将动态内容和静态内容分开处理。动态内容通常由后端应用程序生成,例如PHP、Python或Node.js,静态内容则包括图片、CSS、JavaScript等文件。 例子: #代理服务器一 server{listen 80;server_name www.dj.com;r…

夏季高温来袭|危化品如何安全储存?

《危险化学品安全管理条例》第三条 本条例所称危险化学品,是指具有毒害、腐蚀、爆炸、燃烧、助燃等性质,对人体、设施、环境具有危害的剧毒化学品和其他化学品。 随着夏天高温的来袭,炎热的天气对危化品储存威胁巨大,危化品事故也…

Mybatis-Plus的一些理解

MybatisPlus在Mybatis的基础上进行了增强,进一步简化了SQL的编写。对于普通的单表的CRUD,MyBatisPlus提过了相关接口进行快速操作。比如: insert(T entity): 插入一个实体,null的属性也会保存,不会使用数据库默认值。…

详解Selenium 强制等待、隐式等待和显式等待

在Selenium中使用等待机制:强制等待、隐式等待和显式等待 在自动化测试中,等待是一个非常重要的部分,因为它可以帮助确保测试脚本在执行操作前,页面元素已经加载完成或者变为可用。Selenium WebDriver 提供了多种等待机制&#x…

【C++课程学习】:C++入门(输入输出,缺省参数)

🎁个人主页:我们的五年 🔍系列专栏:C课程学习 🎉欢迎大家点赞👍评论📝收藏⭐文章 目录 🍩1.关于C输入输出: 🍩2.缺省参数函数: 缺省参数的概…

聊聊大模型微调训练全流程的思考

前言 参考现有的中文医疗模型:MedicalGPT、CareGPT等领域模型的训练流程,结合ChatGPT的训练流程,总结如下: 在预训练阶段,模型会从大量无标注文本数据集中学习领域/通用知识;其次使用{有监督微调}(SFT)优化…

python如何快速的判断一个key在json的第几层呢,并修改其value值

python如何快速的判断一个key在json的第几层呢,并修改其value值 def find_and_modify_key(json_obj, target_key, new_value, current_level1):# 检查当前层是否包含目标keyif target_key in json_obj:print(f"找到 {target_key} 在第 {current_level} 层。&q…

在 JavaScript 中,除了使用可选链操作符,还有哪些方法可以安全地访问对象的深层属性?

在JavaScript中,除了使用可选链操作符(?.),还有几种方法可以安全地访问对象的深层属性,避免因访问不存在的属性而抛出错误。以下是一些常用的方法: 1. 条件(三元)运算符&#xff1…

以太网基础 -- LLDP使用案例

LLDP使用技术报告 背景 链路层发现协议(Link Layer Discovery Protocol,LLDP)是一种网络协议,主要用于在以太网网络中发现相邻设备并与其交换信息。LLDP是一种开放的标准,由IEEE 802.1AB定义,能够跨多个厂…

dubbo服务引用

spring刷新容器的时候,ReferrenceBean只有被调用的情况下才会在createBean回调afterPropertiesSet的时候引入服务。 ReferrenceBean实现了FacotryBean的接口,当对任意服务Interface进行自动注入或者getBean获取,会触发getObject过程 本地服…

TensorBoard在pytorch训练过程中如何使用,及数据读取问题解决方法

TensorBoard 模块导入日志记录文件的创建训练中如何写入数据如何提取保存的数据调用TensorBoard面板可能会遇到的问题 模块导入 首先从torch中导入tensorboard的SummaryWriter日志记录模块 from torch.utils.tensorboard import SummaryWriter然后导入要用到的os库&#xff0…

通过一个例子,说明Python的责任链设计模式有什么优缺点

责任链设计模式(Chain of Responsibility Pattern)是一种行为设计模式,它允许将一个请求沿着处理者链进行传递,直到有一个处理者处理它为止。在Python中,这种模式可以通过多种方式实现,通常涉及到一系列对象…

方案设计|汽车轮胎数显胎压计方案

一、引言 数显轮胎胎压计是一个专门测量车辆轮胎气压的工具,它具有高精度测量的功能,能够帮助快速准确获取轮胎气压正确数值,保证轮胎使用安全。本文将对数显轮胎胎压计的方案技术进行分析,包括其基本原理、硬件构成、软件设计等方…