Elasticsearch Index Shard Allocation 索引分片分配策略

Elasticsearch 索引分片的分配策略说明

在上一篇《索引生命周期管理ILM看完不懂你锤我
》(https://mp.weixin.qq.com/s/ajhFp-xBU1dJm8a1dDdRQQ)中,我们已经学会了索引级别的分片分配过滤属性,也就是在配置文件中指定当前节点的属性值node.attr.node_type: hot,这个你还记得吗,不记得的话可以回去在复习一下哦。

这一篇文章中,我们主要学习一下索引分片的分配策略,也就是分片时是根据什么规则进行分配的呢?

版本:Elasticsearch 8.1

一、索引级自定义属性分片分配策略

我们有 5 个节点,node-1,node-2,node-3 增加属性 node.attr.role: masternode-4,node-5 增加属性 node.attr.role: slave
elasticsearch.yml 文件中配置如下:

node-1,node-2,node-3

# node-1,node-2,node-3
node.attr.role: master

node-4,node-5

# node-4,node-5
node.attr.role: slave

定义索引zfc-doc-000013,指定index.routing.allocation.include.roleslave,意思就是该索引分片只分配到node.attr.role的值为slave的节点上。

PUT zfc-doc-000013
{"settings": {"number_of_replicas": 0,"number_of_shards": 3,"index.routing.allocation.include.role":"slave"}
}

当前集群为 5 个节点的集群,其中只有 node-4node-5roleslave ,所以创建的索引 zfc-doc-000013 只会在这两个节点 node-4node-5 中进行分配,而不会在 node-1node-2node-3中进行分配。

二、节点离开时触发分配

当集群中的节点由于未知的原因或者已知的原因离开集群时,主节点会做出以下反应:

  • 如果当前离开的节点上有主分片,会将其它的副本分片提升为主分片以替换该节点上的主分片;
  • 如果有足够多的节点,分配副本分片来替代当前节点丢失的副本分片;
  • 在剩余的节点之间进行重新平衡分片。

通过上述的操作可以让我们尽可能的防止数据丢失,但是如果离开的节点很快就恢复那么这可能就是没有必要的操作了。所以哪怕我们在节点级别和集群级别限制并发恢复,这种重新分配分片仍然会给系统带来大量的额外负载。

想象一下以下场景:

  • 节点 node-3 离开集群
  • 主节点将节点 node-3 上的主分片的副本分片提升为主分片
  • 主节点将新的副本分配给集群中的其它节点
  • 每个新副本都会通过网络创建主分片的完整副本
  • 更多的分片被移动到不同的节点以重新分片分配达到平衡
  • 几分钟之后节点 node-3 返回加入集群
  • 主分片将分片分配给节点 node-3 以重新平衡集群

集群初始分配状态

停掉节点 node-3

默认等待一分钟之后,系统自动进行分片的重新分配

节点恢复之后进行分片重新分配

由于节点离开造成的未分配分片可以通过修改参数 index.unassigned.node_left.delayed_timeout 动态设置延迟时间,默认 1m

可以在单个索引或者全部索引上进行设置该参数。


PUT zfc-doc-000013/_settings
{"settings": {"index.unassigned.node_left.delayed_timeout": "2m"}
}

此设置不会影响副本分片升级为主分片,也不会影响之前未分配的副本的分配。需要注意的是,该设置在集群重启之后会失效。

2.1、取消分片分配

如果延迟分配超时,主节点会将丢失的分片分配给另一个节点,该节点将开始恢复。
如果离开的节点重新加入集群,并且其分片仍然具有与主分片相同的 sync-id,分片的重新分配将被取消,同步分片将恢复。
因此默认超时设置为一分钟,即使分片重新分配已经开始,取消的成本也很低。

我们可以通过如下 API 查看集群健康状态。

GET _cluster/health 

2.2、节点永久离开

如果一个节点离开集群之后确定不会在返回,我们可以通过设置参数 index.unassigned.node_left.delayed_timeout0 来让 Elasticsearch 马上分配未分配的分片。

PUT _all/_settings
{"settings": {"index.unassigned.node_left.delayed_timeout": "0"}
}

三、索引恢复优先级

对于索引分片的重新分配,对于索引来说是有优先级的。

1、index.priority最高的优先

2、其次是索引的创建时间

对于如下例子,我们可以自己测试一下:

PUT zfc-doc-index_1PUT zfc-doc-index_2PUT zfc-doc-index_3
{"settings": {"index.priority": 10}
}PUT zfc-doc-index_4
{"settings": {"index.priority": 5}
}
  • zfc-doc-index_3 第一个被恢复,因为它的优先级 index.priority 最高。
  • zfc-doc-index_4 第二个被恢复,它的优先级仅次于索引 zfc-doc-index_3
  • zfc-doc-index_2 第三个被恢复,它是最近创建的。
  • zfc-doc-index_1 最后被恢复。

四、节点总分片数限制

Elasticsearch 的集群在分配分片的时候,Elasticsearch 会尽可能的将单个索引的分片尽可能的分配在尽可能多的节点上,但是有时不是那么的均匀。我们可以通过以下设置修改允许每个节点上单个索引的分片总数的限制,index.routing.allocation.total_shards_per_node 分配给单个节点的最大分片数,默认没有限制。

PUT zfc-doc-000013/_settings
{"settings":{"index.routing.allocation.total_shards_per_node": 2}
}

也可以在不考虑索引的情况下限制节点可以拥有的分片数量 cluster.routing.allocation.total_shards_per_node 分配给每个节点的主分片和副本分片的最大数量,默认 -1 没有限制。

PUT _cluster/settings?flat_settings=true
{"transient":{"cluster.routing.allocation.total_shards_per_node":2}
}

Elasticsearch 会在分片的重新分配期间进行校验该参数,有如下场景:
一个 Elasticsearch 集群,有三个节点,cluster.routing.allocation.total_shards_per_node 设置为100,并且具有如下的分片分布情况

  • 节点1:100个分片
  • 节点2:98个分片
  • 节点3:1个分片

如果节点3发生故障,Elasticsearch 会将其分片重新分配到节点2,并不会分配到节点1,因为分配到节点1会超过设置的100分片限制。

需要注意的是,如果我们设置了该参数,可能会导致部分分片无法进行分配。

下面我们用个例子来说明,首先看如下是我本地 Elasitcsearch 集群的部分索引

我们通过使用 API 动态修改参数之后,让其重新进行分片分配会发生什么情况呢?

如下语句意思就是每个节点主分片加副本分片数量不能大于 2,所以在下次发生分片的重新分配时肯定会无法进行分配。

PUT _cluster/settings?flat_settings=true
{"transient":{"cluster.routing.allocation.total_shards_per_node":2}
}

停止 node-3 节点之后,分片无法分配。

在上面更改集群的设置时,我们可能已经注意到了,使用的是 transient ,还可以使用 persistent,他俩的区别就是transient 的配置会在集群重启之后失效,persistent会持久化保存。

不过这几个配置的优先级如下:

1、transient

2、persistent

3、elasticsearch.yml

4、设置的默认值

五、索引级别数据层过滤

索引级别过滤与前面的自定义属性分片分配类似,不过索引级别使用的是_tier_preference 来控制索引分配到哪个数据层。

这块不是特别了解的可以参考文章开头引用的索引生命周期那篇文章,该文章内通过例子展示了索引的生命周期。

我们还是用一个例子来说明
首先在elasticsearch.yml 定义角色
node-1,node-2中定义 node.roles: ["data_hot", "data_content"]
node-3,node-4中定义 node.roles: ["data_warm","data_content"]
node-5中定义 node.roles: ["data_cold","data_content"]

关于节点角色的定义,可以参考官网:https://www.elastic.co/guide/en/elasticsearch/reference/8.1/modules-node.html#master-node

集群按照上面的配置完成之后,启动如下

通过 API 定义索引 zfc-doc-index_1 的分片分配策略在 data_warm

PUT zfc-doc-index_1
{"settings": {"number_of_replicas": 2,"number_of_shards": 3,"index.routing.allocation.include._tier_preference": "data_warm"}
}

按照预期的设定,索引的分片应该是分布在 node-3,node-4 中,结果如下:

可以看到,有分片是没有进行分配的,所以这也是修改分片分配策略时需要特别注意的一点。

总结

通过上面的学习,我们知道了:

  • 可以通过自定义属性 node.attr.[] 控制分片的分配
  • 可以通过索引级别的角色 index.routing.allocation.include._tier_preference 进行数据层的过滤分配
  • 分片的分配过程中是可以通过 index.priority 指定优先级的
  • 可以通过 index.routing.allocation.total_shards_per_node 控制每个节点上单个索引的分片数量
  • 可以通过 cluster.routing.allocation.total_shards_per_node 控制每个节点上所有主分片加副本分片的总数量

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/636698.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

牛客刷题之字符串

文章目录 字符串的长度(len)字符串的大小写删除字符串的指定字符字符串的重复输出(不用循环语句)字符的指定长度的输出(切片)字符串分隔 字符串的长度(len) str input()print(len(str))字符串的大小写 upper()全部大写 , lower()…

基于JavaWeb+SSM+Vue基于微信小程序的网上商城系统的设计和实现

基于JavaWebSSMVue基于微信小程序的网上商城系统的设计和实现 滑到文末获取源码Lun文目录前言主要技术系统设计功能截图订阅经典源码专栏Java项目精品实战案例《500套》 源码获取 滑到文末获取源码 Lun文目录 目录 1系统概述 1 1.1 研究背景 1 1.2研究目的 1 1.3系统设计思想…

HTB Monitored

Monitored user Nmap ┌──(kali㉿kali)-[~] └─$ nmap -A 10.10.11.248 Starting Nmap 7.80 ( https://nmap.org ) at 2024-01-14 23:42 CST Stats: 0:00:15 elapsed; 0 hosts completed (1 up), 1 undergoing Connect S

一步一步写线程之五线程池的模型之一领导者追随者模型

一、线程池的模型 在学习过相关的多线程知识后,从更抽象的角度来看待多线程解决问题的方向,其实仍然是典型的生产和消费者的模型。无论是数据计算、存储、分发和任务处理等都是通过多线程这种手段来解决生产者和消费者不匹配的情况。所以,得…

软件测试的工作描述

🔥 交流讨论:欢迎加入我们一起学习! 🔥 资源分享:耗时200小时精选的「软件测试」资料包 🔥 教程推荐:火遍全网的《软件测试》教程 📢欢迎点赞 👍 收藏 ⭐留言 &#x1…

Voc标签文件转Yolo标签文件程序

为了方便&#xff0c;我将代码封装成了桌面程序&#xff0c;GUI部分我就不介绍了&#xff0c;泛泛而谈到时啥都没学会。 一、yolo标签格式 我们看一下yolo标签的格式&#xff1a; <class index> <x center> <y center> <width> <height> \text…

使用LibreOffice做出第一个开源贡献的6种简单方法

2022年5月是LibreOffice月。这里有一些简单的方法来完成您的第一个开源贡献。 参与开源似乎有点令人困惑。从哪里开始?如何编码?和谁说话?别人怎么知道你做出了贡献&#xff0c;除此之外&#xff0c;还有人关心你吗? 事实上&#xff0c;这些问题都有一个简单的答案:LibreO…

蓝桥杯官网题目:2.包子凑数

链接:题目点这里 首先要知道一个数学定理裴蜀定理&#xff0c;还有完全背包的基本运用&#xff0c;这里只介绍前者 也可以看一下我的个人理解&#xff0c;我是第一次听说这个定理&#xff0c;理解可能有误差。 假设gcd(a,b)d,gcd是最大公约数的意思。即a&#xff0c;b的最大…

fabric.js 组件 图片上传裁剪并进行自定义区域标记

目录 0. 前言 1. 安装fabric与引入 2. fabric组件的使用 3. 属性相关设置 4. 初始化加载 4. 方法 5. 全代码 0. 前言 利用fabric组件&#xff0c;实现图片上传、图片”裁剪“、自定义的区域标记一系列操作 先放一张效果图吧&#x1f447; 1. 安装fabric与引入 npm i …

随身WiFi到底能不能买?一篇文章给你讲清楚!随身WiFi哪个品牌最靠谱 ,随身WiFi推荐第一名

随着移动设备的普及&#xff0c;人们对无线网络的需求越来越高。传统WiFi虽然覆盖面广&#xff0c;但移动性差&#xff0c;不能满足人们在外出、旅行或商务场合的上网需求。此时&#xff0c;随身WiFi的出现填补了这一空白。那么&#xff0c;随身WiFi究竟有何优势和劣势&#xf…

Zabbix 系统监控详解

1 介绍 1.1 摘要 本文深入浅出&#xff0c;切近实际运维应用&#xff0c;由 zabbix 3.4 版本入手&#xff0c;学习 zabbix 监控告警实现方式&#xff0c;由 zabbix 5.0 浅出实现快速部署、快速应用。本人从业多年&#xff0c;关注 zabbix 开源社区&#xff0c;以及 zabbix 官…

【开发必备】泳道图编辑工具及使用

1.什么是泳道图 事情的起因在与博主要和几位小伙伴一起开发一个小程序&#xff0c;那么涉及的人多时就需要用到需求文档这个玩意。然后博主当然要扛起写需求文档这项项目经理 &#xff08;牛马&#xff09;的职责了&#xff01; 然后&#xff0c;博主就发现需求文档中一个看似…

【C++算法】构建最优哈夫曼树

【C算法】构建最优哈夫曼树 作者&#xff1a;爱写代码的刚子 时间&#xff1a;2024.1.20 前言&#xff1a;本篇博客的代码均为自己独立完成&#xff0c;可能会有瑕疵 代码实现 #include <iostream> #include <vector> #include <queue> using namespace std…

idea上传本地项目到gitlab

1. idea上传本地项目到gitlab 1. 配置idea里本地安装的git位置 即选择 Settings -> Version Control -> Git -> Path to Git executable 2. 在idea创建本地仓库 即选择 VCS -> Create Git Repository 然后选择目录&#xff0c;默认就是选择的当前项目&#xff…

【Linux】03 GCC编译器的使用

一、编译过程 在使用gcc编译程序时&#xff0c;编译过程可以简要划分为4个阶段&#xff1a; 预处理、编译、汇编、链接 1.1 预处理&#xff08;preprocessing&#xff09; 这个阶段主要处理源文件中的#indef、#include和#define预处理命令&#xff1b; 这里主要是把一些include…

低代码开发让量化交易插上翅膀

随着技术的不断发展&#xff0c;低代码开发平台逐渐在各个领域崭露头角。其中&#xff0c;量化交易是一个领域&#xff0c;通过低代码开发平台&#xff0c;使得量化交易策略的开发和实施更加高效、灵活和可持续。 量化交易是基于算法和数学模型的自动化交易策略&#xff0c;近年…

RT-DETR算法优化改进:DCNv4更快收敛、更高速度、更高性能,效果秒杀DCNv3、DCNv2等 ,助力检测

💡💡💡本文独家改进:DCNv4更快收敛、更高速度、更高性能,完美和RT-DETR结合,助力涨点 DCNv4优势:(1) 去除空间聚合中的softmax归一化,以增强其动态性和表达能力;(2) 优化存储器访问以最小化冗余操作以加速。这些改进显著加快了收敛速度,并大幅提高了处理速度,DC…

Linux指令(四)

1.more指令 我们知道cat指令是用来读取文本文件的&#xff0c;但是如果是大文件&#xff0c;其实是不适合cat读取的&#xff0c;原因是&#xff1a;cat读取会直接到文本的结尾&#xff0c;所以我们引入&#xff1a;more指令 该指令不会将文件直接读到结尾&#xff0c;而是将最…

Cocos creator 的事件处理(鼠标事件、键盘事件、触摸事件、自定义事件、控制精灵移动Demo)

鼠标事件 //鼠标事件this.node.on(cc.Node.EventType.MOUSE_DOWN, (e: cc.Event.EventMouse) > {cc.log(e.getLocation() "")if (e.getButton() cc.Event.EventMouse.BUTTON_LEFT) {cc.log("鼠标左键")}})键盘事件 //键盘事件cc.systemEvent.on(cc.Sy…

Python中二维数据(数组、列表)索引和切片的Bug

Python中有关数据结构索引和切片引起的Bug 一维数据索引和切片一维数组一维列表 二维数据的索引和切片二维数组二维(错误)列表 一维数据索引和切片 一维数组 对于一维数据进行索引和切片操作&#xff0c;大家都比较熟悉通过下面代码进行实现 import numpy as np data np.ra…