Elasticsearch 使用误区之三——分片设置不合理

Elasticsearch 是一个强大的搜索和分析引擎，它通过将数据分散到多个节点的分片中来进行分布式处理。

本文将探讨分片大小和策略的概念，以优化 Elasticsearch 的性能并防止过度分片或分片过大等问题。

先看个分片设置不合理的真实企业案例：

d5ec4c631a705414a2eea4282e86b694.png

10TB 左右集群数据，只有两个节点集群。单个最大索引 600GB，7.17.4 版本，200分片（全部）。

集群重启无法启动，未咨询之前是：最长时间8小时启动集群，过年期间，直接无法启动（已启动了20个小时+）。

——https://t.zsxq.com/SzcaQ

1、什么是分片？

在 Elasticsearch 中，每个索引都被划分为多个分片，每个分片可以在多个节点上复制，以确保数据的可用性和冗余。

8f706c8fecfe491d3c09ef7aee2916fa.png

上图是我本地单节点8.X 集群的 Head 插件截图，绿色代表已分配分片，灰色代表未分配副本分片（单节点所以无法分配副本分片）。

然而，尽管分片允许通过分散数据来扩展，不当的分片可能导致性能瓶颈或稳定性问题。

2、为什么分片策略很重要？

有效的分片关键在于找到正确的平衡。

过多的分片会导致“过度分片”，在这种情况下，管理众多分片的开销超过了其带来的好处，导致查询处理效率降低，可能还会引发集群不稳定。

3、创建分片策略

为了防止这些问题，至关重要的是要根据我们的特定需求开发一个分片策略，这包括：

  • 了解集群的数据和查询：分析咱们所在集群的数据性质和将执行的查询。

  • 基准测试：在类似生产环境中测试不同的分片配置，看看更改如何影响性能。

举例，如下基准测试仅供参考。

分片配置查询响应时间 (ms)CPU 使用率 (%)内存使用率 (%)搜索吞吐量 (查询/秒)稳定性评价
5 分片1207065200高
10 分片956070230中
20 分片857580250低
50 分片788590260非常低

在实际应用中，应根据具体需求和资源条件，选择最适合的分片配置。

  • 监控：使用 Kibana 等工具监控不同分片大小和配置对集群性能和稳定性的影响。

不幸的是，没有一种万能的分片策略。一种在某个环境中有效的策略可能不适用于其他环境。一个好的分片策略必须考虑到我们的硬件基础设施、业务场景和性能预期。

所以，大厂的意见、建议、经验贴不见得适用我们下厂。这很关键！

4、分片大小的关键考虑因素

4.1 搜索线程

每个分片在单独的线程中处理搜索查询。如果存在太多分片，可能会超负荷节点的搜索线程池，从而减慢查询处理速度。

GET /_cat/thread_pool?v&h=id,name,active,rejected,completed

f9002cdcaf03b4099d192e2fed70e2a8.png

上述命令会显示集群中所有节点的所有线程池的信息，帮助我们识别哪些线程池可能过载。

4.2 分片开销

每个分片无论大小都会增加 CPU 和内存使用的开销。少量大分片通常比许多小分片使用资源更高效。

注意：在 Elasticsearch 中，可以使用一些命令行操作来查看分片的资源使用情况，尤其是关于 CPU 和内存的开销。

虽然没有直接的命令行工具可以显示每个分片的 CPU 使用情况（因为 CPU 使用通常被监控在节点级别而非分片级别），但咱们可以获取关于每个分片内存和存储使用的信息。

1e7c998441b872d33c1b279395259934.png

API 名称描述示例请求
_cat/shards显示集群中所有分片的信息，包括健康状况、存储使用等。GET /_cat/shards?v
_cat/allocation显示集群中每个节点的磁盘分配情况，包括已用和可用空间。GET /_cat/allocation?v
_nodes/stats提供节点级的统计信息，包括内存使用情况、CPU使用情况等。GET /_nodes/stats/jvm?pretty
_cat/segments提供索引的段信息，帮助了解分片的内部结构，包括段在内存中的大小等。GET /_cat/segments/my_index?v

4.3 数据段

随着分片内数据的增长，数据会被划分为多个段。

Elasticsearch 在 JVM 堆内存中保留段元数据，以便可以快速检索用于搜索。随着分片的增长，其段被合并成更少的更大的段。这减少了段的数量，意味着在堆内存中保留的元数据更少。

这些段会定期合并，以优化查询性能和资源使用。

源码剖析：Elasticsearch 段合并调度及优化手段

从源码角度剖析 Elasticserach 段合并调优策略

5、分片大小的最佳实践

5.1 理想的分片大小

官方建议：分片大小在 10GB 到 50GB 之间通常是有效的，这有助于平衡资源使用和恢复时间。

Elasticsearch究竟要设置多少分片数？

5.2 节点上的分片数

参考依据之一：根据节点的内存容量保持分片数。例如，具有 30GB 堆内存的节点最多应承载 600 个分片。

参考依据之二：数据节点个数，设置索引分片数据建议数据节点的1（或者1.5）-3倍。

5.3 最佳实践和工具的使用

节点的堆内存：通过以下命令检查每个节点的当前堆内存大小。

GET _cat/nodes?v=true&h=heap.current

92e25ba1970b2ae5e683cb7997db95f7.png

检查节点上的分片数：使用以下命令来查看每个节点上的分片数量。

GET _cat/shards?v=true

f6170a6cf494705a7f700666f5dab5d5.png

显式映射：与其让 Elasticsearch 自动创建映射，不如明确地定义它们，以避免不必要的资源使用。

更多参见《一本书讲透 Elasticsearch》P409-P411Elasticsearch 数据建模章节。

6、使用数据流和 ILM

对于时间序列数据，使用数据流（data stream）和索引生命周期管理 (ILM) 可以简化时间基础索引的管理。

ILM 帮助根据特定标准自动管理滚动和删除，确保有效的数据存储和分片管理。

7、实践中调整分片

  • 滚动标准

设置基于分片大小或文档数量的滚动条件，防止任何单个分片变得过大。

5df56b24dced659e038fca9abcde858e.png

PUT my-index-000001/_settings
{"index" : {"routing.allocation.total_shards_per_node" : 5}
}

避免热点：均匀地在节点之间分配分片，以防止任何单个节点成为性能瓶颈。显式映射：与其让 Elasticsearch 自动创建映射，不如明确地定义它们，以避免不必要的资源使用。

8、减少分片数量

如果我们的集群已经存在过度分片问题，可以考虑：

（1）合并索引：将小型、相似的索引合并成更大的索引。

cb1f70267bdc86e8c60773fa5e256379.png

POST _reindex
{"source": {"index": "my-index-2099.10.*"},"dest": {"index": "my-index-2099.10"}
}

删除不使用的索引：删除不再需要的索引以释放资源。

DELETE my-index-000001

没到这个地方，咱们都多强调一句——删除索引，而不是文档！

删除的文档不会立即从 Elasticsearch 的文件系统中移除。相反，Elasticsearch 会在每个相关分片上标记该文档为已删除。标记的文档将继续使用资源，直到在定期的段合并期间被移除。

（2）压缩索引：减少不再写入数据的旧索引中的分片数量。

9、处理分片相关错误

注意节点最大分片数设置。如果某个操作超过了这个限制，可能需要临时调整该设置或考虑更永久的解决方案，

如增加节点或合并分片。

必知必会两个核心参数：

- cluster.max_shards_per_node- index.routing.allocation.total_shards_per_node

9.1 cluster.max_shards_per_node

这是一个集群级别的设置，用来限制每个节点可以持有的最大分片数。默认值：1000。

其目的是防止单个节点由于持有过多分片而过载，这可能会导致性能下降和稳定性问题。

https://www.elastic.co/guide/en/elasticsearch/reference/8.14/misc-cluster-settings.html

  • 使用场景

防止节点过载——在大规模部署中，防止任何单个节点因分片数量过多而成为性能瓶颈。

集群扩展——在节点添加到集群或从集群中移除时，该设置帮助平衡分片分布，保持集群的健康和性能。

  • 注意事项

（1）如果 cluster.max_shards_per_node 设置得太低，可能会妨碍Elasticsearch正常的分片分配，特别是在集群扩展或收缩时。

（2）可以动态更新这个设置，以适应集群的变化，如节点增加或减少。

ac2174f14abebb466c0ec189ad84f19f.png

PUT _cluster/settings
{"persistent" : {"cluster.max_shards_per_node": 1200}
}

9.2. index.routing.allocation.total_shards_per_node

这是一个索引级别的设置，用于限制特定索引的分片可以分配到每个节点的最大数目。这个设置允许对单个索引的分片分布进行更细致的控制。

  • 使用场景

分片均衡——确保一个高流量的索引不会在少数节点上聚集过多分片，从而避免这些节点成为热点。特定索引的性能优化：针对访问模式和查询负载对特定索引进行优化。

290a28b8973e9decbaf5dfda70a81944.png

  • 注意事项

    • 在索引的生命周期中，我们可能需要根据使用模式和节点的变化调整这个设置。

    • 使用这个设置可以增加配置的复杂性，需要详细监控和调整以确保最佳性能。

    • 虽然这两个设置都涉及分片分配，但 cluster.max_shards_per_node 提供了一个全局的安全网，防止任何节点因分片过多而过载。

    • 而 index.routing.allocation.total_shards_per_node 允许对单个索引进行更细粒度的控制。在实践中，这两个设置可以同时使用，以确保节点不会因全局或局部的分片分布不均而影响整体的Elasticsearch集群性能。

总的来说，适当配置这两个参数能够有效地管理和优化 Elasticsearch 集群的分片分布，从而提高查询性能和系统稳定性。在实际操作中，应根据集群的具体业务场景需求和表现来调整这些设置，以达到最佳的运行效果。

10、结论

在 Elasticsearch 中，有效地管理分片对于维护最佳性能至关重要。通过仔细规划我们的分片策略并定期监控分片性能和资源使用情况，可以确保 Elasticsearch 集群保持稳定、可扩展和快速。

记住，最好的分片方法是能够适应我们的数据和查询需求的不断变化的方法。

开篇问题也得以解决，截图如下。

86c123956d1d5b7efd243d53a145c972.png

https://www.elastic.co/guide/en/elasticsearch/reference/8.14/size-your-shards.html

Elasticsearch 使用误区之一——将 Elasticsearch 视为关系数据库！

Elasticsearch 使用误区之二——频繁更新文档

新时代写作与互动：《一本书讲透 Elasticsearch》读者群的创新之路

8c670fb3f7ede55a9e084d90896be16f.png

更短时间更快习得更多干货！

和全球超2000+ Elastic 爱好者一起精进！

elastic6.cn——ElasticStack进阶助手

2537356ba3f06fd3ab9bbb1efbffd9d7.gif

抢先一步学习进阶干货！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/bicheng/50630.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

CSS：position属性

CSS：position属性

一、属性值 1.1 fixed 固定位置的元素，相对于浏览器窗口进行定位。 元素的位置通过 “left”, “top”, “right” 以及 “bottom” 属性进行规定。 网站中的固定 header 和 footer 就是用固定定位来实现的； header效果图 footer效果图 1.2 absol…
阅读更多...
Linux系统安装Cobol语言及IBM大型机模拟软件Hercules

Linux系统安装Cobol语言及IBM大型机模拟软件Hercules

COBOL（Common Business-Oriented Language）起源于50年代中期，是一种面向过程的高级程序设计语言，主要用于商业和数据处理领域。经过不断发展和标准化，已成为国际上应用最广泛的商业编程语言之一，在某red书上…
阅读更多...
Windows Server搭建局域网NTP时间服务器与客户端通实现

Windows Server搭建局域网NTP时间服务器与客户端通实现

1.服务器环境： win11更改注册表 winR输入regedit win11更改注册表 winR输入regedit 2.HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\W32Time\Config，找到Config目录，双击Config目录下的AnnounceFlags，设为5。 3.HKEY_L…
阅读更多...
Nginx 配置与优化：常见问题全面解析

Nginx 配置与优化：常见问题全面解析

文章目录 Nginx 配置与优化：常见问题全面解析一、Nginx 安装与配置问题1.1 Nginx 安装失败问题描述解决方法1.2 Nginx 配置文件语法错误问题描述解决方法二、Nginx 服务启动与停止问题2.1 Nginx 无法启动问题描述解决方法2.2 Nginx 服务无法停止问题描述解决方法三、Nginx 性能…
阅读更多...
Http 和 Https 的区别（图文详解）

Http 和 Https 的区别（图文详解）

在现代网络通信中，保护数据的安全性和用户的隐私是至关重要的。HTTP（Hypertext Transfer Protocol）和 HTTPS（Hypertext Transfer Protocol Secure）是两种常见的网络通信协议，但它们在数据保护方面的能力存在…
阅读更多...
snkemake入门

snkemake入门

一、背景介绍 snakemake是一种用于自动化流程的开源工具，是一款基于python3的软件。在生物信息学、高通量测序数据分析、大规模数据处理等领域非常流行。 snakemake的官网：Snakemake | Snakemake 8.16.0 documentationhttps://snakemake.readthedocs.i…
阅读更多...
自监督学习概述(Self-Supervised Learning，SSL)

自监督学习概述(Self-Supervised Learning，SSL)

自监督学习（Self-Supervised Learning，SSL）是一种机器学习方法，旨在利用未标记数据进行训练。这种方法通过从数据本身生成伪标签，来创建监督信号，使得模型能够学习有效的数据表示。自监督学习在深度学习领域…
阅读更多...
C++ | Leetcode C++题解之第283题移动零

C++ | Leetcode C++题解之第283题移动零

题目&#xff1a; 题解&#xff1a; class Solution { public:void moveZeroes(vector<int>& nums) {int n nums.size(), left 0, right 0;while (right < n) {if (nums[right]) {swap(nums[left], nums[right]);left;}right;}} };
阅读更多...
MathType 7.8中文直装版2024年最新图文安装破解教程

MathType 7.8中文直装版2024年最新图文安装破解教程

MathType公式编辑器 v7.8中文破解版是一款适用于Windows和Macintosh的便捷交互式公式编辑器&#xff0c;可帮助您进行文字处理、网页、桌面设计、演示文稿制作、学习TeX、LaTeX和MathML文档创建。 MathType 7.8这个工具允许用户创建、修改公式和插入多个文档。有了这个软件&…
阅读更多...
​CSS技巧专栏：一日一例 13 -纯CSS实现晃晃悠悠背景不停滚动的按钮特效​

​CSS技巧专栏：一日一例 13 -纯CSS实现晃晃悠悠背景不停滚动的按钮特效​

CSS技巧专栏：一日一例 13 -纯CSS实现晃晃悠悠背景不停滚动的按钮特效​ 大家好，本篇文章给大家带来一个可爱的按钮，像个小宠物等待你抚摸和奖励，不知道它会不会引起你的关注呢？页面上这样的一个按钮，会不会让你忍不住把鼠标移动过去点一下呢？ 本例图片 案例分析 这个…
阅读更多...
机械学习—零基础学习日志（高数12——反三角函数）

机械学习—零基础学习日志（高数12——反三角函数）

零基础为了学人工智能&#xff0c;真的开始复习高数 反三角函数很困难&#xff0c;但是当建立了逻辑链条&#xff0c;还是能快速理解的。这个办法就是笛卡尔坐标系。 三角函数与反三角函数的个人理解 sinx与cosx&#xff0c;tanx&#xff0c;secx&#xff0c;其实都可以放在…
阅读更多...
白嫖游戏指南，Epic喜加一：《暗影火炬城》

白嫖游戏指南，Epic喜加一：《暗影火炬城》

前言 Epic喜加一&#xff1a;《暗影火炬城》《暗影火炬城》简介&#xff1a; 前言 接下来有时间会分享一些游戏相关可以白嫖的资源&#xff0c;包括游戏本体、游戏素材资源等等。 有需要的小伙伴可以关注这个专栏&#xff0c;不定期更新哦&#xff01; 专栏&#xff1a;白嫖…
阅读更多...
数据库系统概述

数据库系统概述

文章目录 数据库基本概念内容重点数据库定义计算机三大主要应用领域 数据管理基础数据与信息数据处理与数据管理 数据库技术的产生、发展数据库系统的组成优势组成部分 数据模型概念类型 数据库三级模式和二级映射目的组成部分 数据库系统设计步骤小结 数据库基本概念 内容 信…
阅读更多...
羊大师：夏夜贪凉，但为啥肚子还要‘保暖计划’？

羊大师：夏夜贪凉，但为啥肚子还要‘保暖计划’？

在这个夏夜&#xff0c;当空调与风扇齐飞&#xff0c;冰镇西瓜与凉面共舞之时&#xff0c;你是否也曾有过这样的疑惑&#xff1a;明明热得汗流浃背&#xff0c;为啥老一辈总念叨着“睡觉再热也要给肚子盖被子”&#xff1f;这背后&#xff0c;藏着的可不仅仅是老一辈的固执&…
阅读更多...
链路聚合加单臂路由

链路聚合加单臂路由

一、实验目的及拓扑 实验目的&#xff1a;在路由器及交换机之间建立链接聚合&#xff0c;交换机接入两台主机并通过路由器子接口自动分配IP地址&#xff0c;通过单臂路由实现两台主机互联 二、基本配置 1、交换机配置 [S1]vlan batch 10 20 [S1-Eth-Trunk1]dis th # interf…
阅读更多...
小型内衣裤洗衣机哪个牌子好？五款万分翘楚机型任你挑选！

小型内衣裤洗衣机哪个牌子好？五款万分翘楚机型任你挑选！

在日常生活中&#xff0c;内衣洗衣机已成为现代家庭必备的重要家电之一。选择一款耐用、质量优秀的内衣洗衣机&#xff0c;不仅可以减少洗衣负担&#xff0c;还能提供高效的洗涤效果。然而&#xff0c;市场上众多内衣洗衣机品牌琳琅满目&#xff0c;让我们往往难以选择。那么&a…
阅读更多...
AI复活，让老照片动起来【数字永生】

AI复活，让老照片动起来【数字永生】

✅ 适宜人群&#xff1a;关注 AI 复活缅怀逝者或以此变现的人群 内容出品人&#xff1a;领航猿1号 更多AI知识分享&#xff1a;https://www.yuque.com/lhyyh/ai/readme?singleDoc 1、前言 AI“复活”实质上是利用人工智能技术&#xff0c;通过对人物已有“形象、声音、语言、…
阅读更多...
用Python实现Cmpp协议的教程

用Python实现Cmpp协议的教程

引言&协议概述 &#xff08;CMPP&#xff09;是中国移动为实现短信业务而制定的一种通信协议&#xff0c;用于在客户端&#xff08;SP&#xff0c;Service Provider&#xff09;和中国移动短信网关之间传输短消息&#xff0c;有时也叫做移动梦网短信业务。CMPP3.0是该协议…
阅读更多...
嵌入式Linux学习: 设备树实验

嵌入式Linux学习: 设备树实验

设备树&#xff08;DeviceTree&#xff09;是一种硬件描述机制&#xff0c;用于在嵌入式系统和操作系统中描述硬件设备的特性、连接关系和配置信息。它提供了一种与平台无关的方式来描述硬件&#xff0c;使得内核与硬件之间的耦合度降低&#xff0c;提高了系统的可移植性和可维…
阅读更多...
立创梁山派--移植开源的SFUD和FATFS实现SPI-FLASH文件系统

立创梁山派--移植开源的SFUD和FATFS实现SPI-FLASH文件系统

本文主要是在sfud的基础上进行fatfs文件系统的移植&#xff0c;并不对sfud的移植再进行过多的讲解了哦&#xff0c;所以如果想了解sfud的移植过程&#xff0c;请参考我的另外一篇文章&#xff1a;传送门 正文开始咯 首先我们需要先准备资料准备好&#xff0c;这里对于fatfs的…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023