ES 在单个节点的查询并发限制是多少?增加分片一定会提高聚合/查询速度吗

背景

对于搜索集群而言,小节点多节点化一般是最佳实践。对于OLAP/日志集群而言,难以避免使用大节点(单节点高配置),因为太多节点容易造成master的压力。对于OLAP集群而言单节点可能存在数百甚至数千shard。此时我们就需要考虑一个问题,当我们增大shard数量,想利用ES的并发能力提高性能的时候,是否可以达到预期?

注:不考虑增加配置/节点带来的性能收益

结论

1.单个请求(一次检索),单个索引在一个节点上命中的分片数只能有5个(默认),如果大于5,此时就需要串行了。

Search API | Elasticsearch Guide [7.17] | Elastic

2.不考虑增加配置/节点带来的性能收益,增加分片并不一定会性能提升

   -  考虑单节点的并发限制

   -  聚合场景下,GC的压力相对较大,多个分片可能会带来更多的YGC压力,导致CPU上升,并且抵消分布式带来的性能提升

   - 聚合是使用 search 线程池

   - 单个分片,聚合不会并发执行(可知大分片对性能并不友好)

分析

1. 如何理解max_concurrent_shard_requests

例如test索引有12分片,1副本,分布在2个节点上(此时每个节点都有test索引的12个分片);

查询时,由于max_concurrent_shard_requests限制了为5,也就是超过5就需要等待,在一个节点中需要串行,2次等待,第一次查询5个分片,第二次查询5个分片,第三次查询2个分片。串行带来性能损失。

如何解决:

1. 增加节点数,横向扩容

2. 调整单请求的max_concurrent_shard_requests配置

GET test/_search?max_concurrent_shard_requests=24
{}

3. 对整个集群调整max_concurrent_shard_requests参数

PUT /_cluster/settings
{"persistent" : {"max_concurrent_shard_requests : "24"}
}

2. 聚合性能如何提升?

对于聚合来说,当max_concurrent_shard_requests合理之后,提升性能只能依赖足够的配置。

1. 增大内存(防止GC导致损失性能)

2. 增多节点数(利用分布式能力)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/692384.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

使用 RAG 创建 LLM 应用程序

如果您考虑为您的文件或网站制作一个能够回应您的个性化机器人,那么您来对地方了。我可以帮助您使用Langchain和RAG策略来创建这样一个机器人。 了解ChatGPT的局限性和LLMs ChatGPT和其他大型语言模型(LLMs)经过广泛训练,以理解…

Leetcoder Day16| 二叉树 part05

语言:Java/C 513.找树左下角的值 给定一个二叉树的 根节点 root,请找出该二叉树的 最底层 最左边 节点的值。 假设二叉树中至少有一个节点。 示例 1: 输入: root [2,1,3] 输出: 1示例 2: 输入: [1,2,3,4,null,5,6,null,null,7] 输出: 7 本题需要满足两…

在vue事件中传入$event,使用e.target和e.currentTarget有什么区别

在Vue中,事件处理是前端开发中非常重要的一部分。当我们在Vue中处理事件时,经常会用到事件对象event,而在事件对象中,有两个常用的属性:e.target和e.currentTarget。这两个属性在使用上有些细微的差别,本文…

备战蓝桥杯---数学之矩阵快速幂基础

我们先不妨看一道题&#xff1a; 看见n的数据范围就知道直接按以前的递归写肯定狗带&#xff0c;那我们有什么其他的方法吗&#xff1f; 下面是分析&#xff1a; 我们就拿斐波那契数列试试手吧&#xff1a; 下面是AC代码&#xff0c;可以当作模板记&#xff1a; #include<b…

程序员的发展观

程序员的发展观&#xff08;摘自凤凰架构&#xff09; 程序员&#xff0c;字面意思是指编写程序代码的人。但在不少程序员的认知里&#xff0c;今天去写代码&#xff0c;目的却是为了日后可以不必再写代码。程序员的”进阶职业“中&#xff0c;无论是对“顶层设计”、“战略架…

利用大数据和API优化电商决策:商品性能分析实践

在数据驱动的电子商务时代&#xff0c;大数据分析已成为企业提升运营效率、增强市场竞争力的关键工具。通过精确收集和分析商品性能数据&#xff0c;企业能够洞察市场趋势&#xff0c;实现库存优化&#xff0c;提升顾客满意度&#xff0c;并显著增加销售额。本文将探讨如何通过…

Spring的事务(@Transactional)

文章目录 一、介绍二、开启事务三、声明式事务&#xff08;Transactional&#xff09;1、原理2、注解标注的位置3、事务的条件4、事务生效、不生效的场景5、Transactional属性1、value、transactionManager2、propagation3、isolation4、timeout5、readOnly6、rollbackFor7、ro…

fabric-contract-api-go快速上手

hi&#xff0c;好久没有更新Fabric相关文章&#xff0c;今天给大家带来fabric-contract-api-go快速上手&#xff0c;相较于原文省略较多&#xff0c;希望深入理解的小伙伴可以点原文学习。 背景 Fabric提供了大量的API来开发智能合约&#xff0c;支持 Go, Node.js, 和Java。本…

qt-交通路口仿真

qt-交通路口仿真 一、演示效果二、核心代码三、程序链接 一、演示效果 二、核心代码 #include "generator.h"Generator::Generator(SimulationScene *scene):m_scene(scene),m_mode(VEHICLEMETHOD::GO_THROUGH),m_running_state(false),m_VisionOn(false),m_IsInter…

HTML元素和属性快速参考指南

​ 以下是几个与HTML元素和属性相关的参考资料网站链接&#xff1a; HTML Reference - 提供所有HTML元素和属性的免费指南。W3Schools HTML Reference - W3Schools 提供一个广泛的HTML标签和属性参考。freeCodeCamp HTML Cheat Sheet - freeCodeCamp 提供了一个HTML元素列表参…

【Label Studio运行报错】ModuleNotFoundError: No module named ‘google.rpc‘

报错截图&#xff1a; 解决方法&#xff1a; 新建虚拟环境&#xff0c;安装google相关包 pip install google-cloud-core google-cloud-storage把虚拟环境中site-packages下google文件夹拷贝到当前环境的对应位置下。去官网下载最新的sqlite3&#xff0c;复制到AppData\Loca…

Android挖取原图中心区域RectF(并框线标记)放大到ImageView宽高,Kotlin

Android挖取原图中心区域RectF(并框线标记)放大到ImageView宽高&#xff0c;Kotlin 红色线框区域即为选中的原图中心区域&#xff0c;放大后放到等宽高的ImageView里面。 import android.content.Context import android.graphics.Bitmap import android.graphics.BitmapFactor…

163邮箱发邮件

1、Jenkins安装Email Extension Plugin 2、网易邮箱里获取授权码:qa_jenkins_robot@163.com 开启POP3/SMTP 我已经配置过了,所以这里会有一个使用设备 3、配置Jenkins邮箱通知 Manage Jnekins-Configuration System Jenkins Location: Extended E-mail Notification: …

【MySQL】如何处理DB读写分离数据不一致问题?

文章内容 1、前言读写库数据不一致问题我们如何解决&#xff1f;方案一&#xff1a;利用数据库自身特性方案二&#xff1a;不解决方案三&#xff1a;客户端保存法方案四&#xff1a;缓存标记法方案五&#xff1a;本地缓存标记 那DB读写分离情况下&#xff0c;如何解决缓存和数据…

【最新Dubbo3深入理解】Dubbo特性、工作原理以及负载均衡策略

欢迎关注公众号&#xff08;通过文章导读关注&#xff1a;【11来了】&#xff09;&#xff0c;及时收到 AI 前沿项目工具及新技术的推送&#xff01; 在我后台回复 「资料」 可领取编程高频电子书&#xff01; 在我后台回复「面试」可领取硬核面试笔记&#xff01; 文章导读地址…

代码随想录算法训练营第56天 | 300.最长递增子序列 674.最长连续递增序列 718.最长重复子数组

最长递增子序列 这里dp数组的定义比较难想。dp[i] 表示 i 之前的序列中以 nums[i] 结尾的最长递增子序列长度&#xff0c;只有这样才能实现状态递推。对于dp数组初始化&#xff0c;所有下标位置都应该初始化为1。 class Solution{ public:int lengthOfLIS(vector<int>&a…

课后延时服务选课报名管理系统功能清单

课后延时服务选课报名管理系统分为学校端&#xff0c;培训机构端&#xff0c;家长端。 学校端提供学生管理&#xff0c;课程管理&#xff0c;班级管理&#xff0c;班级排课&#xff0c;班级课表&#xff0c;可直接安排学生入班上课&#xff0c;查看学生考勤情况&#xff0c;查…

网关服务gateway注册Consul时报错Consul service ids must not be empty

网关服务gateway启动时&#xff0c;初始化Consul相关配置时报错。 Consul service ids must not be empty, must start with a letter, end with a letter or digit, and have as interior characters only letters, digits, and hyphen: cbda-server-gateway:10.111.236.142:…

stm32学习笔记-STLINK使用

stm32学习笔记-STLINK使用 使用ST-LINK调试程序进度表格 使用ST-LINK调试程序 说明 组成 总结 记录使用STLINK进行项目的烧写和调试&#xff0c;旨在高效的进行代码调试学习工具包括笔记本、keil5MDK、stm32f030c8t6电表主机、STLINK V2、导线、电表代码总的来说&#xff0…

深度学习图像算法工程师--面试准备(1)

1 请问人工神经网络中为什么 ReLU 要好过于 tanh 和 Sigmoid function&#xff1f; 采⽤Sigmoid 等函数&#xff0c;算激活函数时&#xff08;指数运算&#xff09;&#xff0c;计算量⼤&#xff0c;反向传播求误差梯度时&#xff0c;求导涉及除法和指数运算&#xff0c;计算量…