yyds,Elasticsearch Template自动化管理新索引创建

一、什么是Elasticsearch Template?

Elasticsearch Template是一种将预定义模板应用于新索引的功能。在索引创建时,它可以自动为新索引应用已定义的模板。Template功能可用于定义索引的映射、设置和别名等。它是一种自动化管理索引创建的方式,使用户可以在大量索引上快速而一致地应用模板。
在这里插入图片描述

二、Elasticsearch Template的用法

2.1、创建模板
使用PUT命令创建模板,语法如下:

PUT _template/my_template
{"index_patterns": ["logs-*"],"settings": {"number_of_shards": 3,"number_of_replicas": 2},"mappings": {"_source": {"enabled": true},"properties": {"timestamp": {"type": "date","format": "yyyy-MM-dd HH:mm:ss"},"message": {"type": "text"},"user": {"type": "keyword"}}},"aliases": {"logs_write": {},"logs_read": {}}
}

在上面的代码中,我们定义了一个模板名称为“my_template”,并将其应用于索引名称为“logs-*”的所有索引。在模板中,我们定义了索引的设置、映射和别名等。一旦使用创建索引的命令,只要索引的名称匹配​​logs-​​,就能够自动匹配这个模板,进行索引的设置。

2.2、验证模板
使用GET命令来检索已创建的模板,语法如下:

GET _template/my_template

使用GET命令来检索名称为“my_template”的模板。如果模板已创建,则会显示模板详细信息,否则会返回404错误。

2.3、应用模板
创建一个新的索引,索引名为"logstash-2023.03.01"的索引,它符合"logstash-*"模式,并且具有与模板中定义的相同的字段映射、分片数等设置。

PUT logstash-2021.03.01

还支持类似以下模式,使用Date Math将当前日期格式化为所需的日期格式,并将其用作索引名称的一部分,以下代码创建一个名为"logstash-2022.03.09"的索引,并将其日期设置为2023年3月9日,同样匹配"logstash-*"模式,自动应用模板。

PUT logstash-<now/d{yyyy.MM.dd}>
{
“timestamp”: “2023-03-09T00:00:00”
}

如果想每天自动创建新的索引,可以使用定时任务(例如Cron)来定期执行创建索引的命令。例如,在Linux上,您可以使用以下Cron表达式来每天创建一个新索引:

0 0 * * * curl -XPUT ‘http://localhost:9200/my_index-<now/d{yyyy.MM.dd}>’ -H ‘Content-Type: application/json’ -d ‘{“timestamp”: "’$(date +%Y-%m-%dT00:00:00)‘"}’

上面的命令将在每天的0点创建一个新的索引,并将其日期设置为当天的日期。注意要将命令中的"localhost:9200"替换为Elasticsearch实例的实际地址。

通过使用索引模板和日期格式化,可以轻松自动创建具有固定日期的索引,并避免手动创建索引带来的繁琐和错误。

2.4、删除模板
使用DELETE命令来删除模板,语法如下:

DELETE _template/my_template

在上面的代码中,我们使用DELETE命令来删除名称为“my_template”的模板。如果模板已删除,则会返回200响应;否则,将返回404错误。

2.5、组合模板
可以使用模板继承的方式来组合多个模板。比如,你以定义一个基础模板,然后在其他模板中引用它,从而获得基础模板的所有属性和设置。

在这里插入图片描述

可以使用以下方法来实现,首先先使用以下命令定义一个名为​​base-template​​的基础模板.

PUT _template/base-template
{
“index_patterns”: [“my-index-*”],
“settings”: {
“number_of_shards”: 1
},
“mappings”: {
“_doc”: {
“properties”: {
“field1”: {
“type”: “text”
}
}
}
}
}

再定义一个名为​​my-template​​​的子模板,并通过​​"template": {“name”: “base-template”}​​​属性引用了​​base-template​​。子模板可以覆盖基础模板中的任何设置或属性。

PUT _template/my-template
{
“index_patterns”: [“my-index-*”],
“template”: {
“name”: “base-template”
},
“settings”: {
“number_of_replicas”: 2
},
“mappings”: {
“_doc”: {
“properties”: {
“field2”: {
“type”: “keyword”
}
}
}
}
}

2.6、如何在同一个模板中定义多种匹配模式
可以使用通配符来指定多个索引模式。例如,你可以使用​​"index_patterns": [“index-A-", "index-B-”]​​​来同时定义​​index-A-*​​​和​​index-B-*​​这两个索引模式,所有匹配这两种模式的,都具有一样的索引设置和映射。

PUT _template/template_A_B
{
“index_patterns”: [“my-index-", "your-index-”],
“order”:1,
“settings”: {
“number_of_shards”: 1
},
“mappings”: {
“_doc”: {
“properties”: {
“field1”: {
“type”: “text”
}
}
}
}
}

2.7、模板优先级
如果某一个索引匹配了两个不同的模板,那么到底应该引用哪一个模板呢?实际上,如果两个模板都匹配了,那么索引会继承所有的模板设置,如果相同字段设置存在冲突时,会用更高优先级的模版设置覆盖更低优先级的模版设置,如果两个模板的优先级一样,则到底引用谁是不确定的,所以必须要考虑好优先级问题。

在模板中优先级通过order字段进行设置,字段类型为数字,数字越大则优先级越高。

2.8、提前模拟索引的最终映射
Elasticsearch提供了​​simulation APIs​​用于提前模拟索引匹配模板,输出最终的设置和映射等信息,这可以用于正式创建索引之前进行确认工作,以确保创建的多个模板能够满足index创建的需求。

POST /_index_template/_simulate_index/my-index-000001

以上所示,使用simulate API模拟创建​​my-index-000001​​​索引,输出结果类似如下,可以看出匹配的模板和相关的设置、映射。​​verlapping​​指出了一个匹配的模板,但是其优先级更低。

{
“template” : {
“settings” : {
“index” : {
“number_of_shards” : “3”,
“number_of_replicas” : “0”,
“routing” : {
“allocation” : {
“include” : {
“_tier_preference” : “data_content”
}
}
}
}
},
“mappings” : {
“properties” : {
“@timestamp” : {
“type” : “date”
}
}
},
“aliases” : { }
},
“overlapping” : [
{
“name” : “template_1”,
“index_patterns” : [
“my*”
]
}
]
}

三、Elasticsearch Template的优点

Elasticsearch Template功能的应用场景很广泛,以下是一些常见的用例:

维护索引一致性:当用户需要创建多个相似的索引时,使用模板可以确保这些索引的设置和映射都是一致的。
减少错误:使用模板可以减少人为错误的可能性,因为模板可以强制执行特定的索引结构。
提高效率:使用模板可以节省时间和精力,因为用户不需要手动为每个索引设置相同的映射和设置。
管理别名:使用模板可以轻松地为索引定义别名,从而可以更方便地管理和查询索引。

总之,Elasticsearch Template是一种简单而有用的功能,它可以使用户更轻松地管理和维护Elasticsearch索引。当用户需要在多个相似的索引上执行相同的操作时,使用模板可以提高效率并减少人为错误。此外,模板还可以帮助用户维护索引的一致性,并且可以轻松地为索引定义别名,从而使索引更易于管理和查询。

©著作权归作者所有:来自51CTO博客作者MCNU云原生的原创作品,请联系作者获取转载授权,否则将追究法律责任
yyds,Elasticsearch Template自动化管理新索引创建
https://blog.51cto.com/u_15954040/6121728

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/118316.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Elasticsearch:使用 Open AI 和 Langchain 的 RAG - Retrieval Augmented Generation (四)

这篇博客是之前文章&#xff1a; Elasticsearch&#xff1a;使用 Open AI 和 Langchain 的 RAG - Retrieval Augmented Generation &#xff08;一&#xff09;Elasticsearch&#xff1a;使用 Open AI 和 Langchain 的 RAG - Retrieval Augmented Generation &#xff08;二&a…

SQL实现数据透视效果

一、透视 在SQL中实现类似Excel中数据透视表的效果&#xff0c;需要使用到PiVOT函数 SELECT <non-pivoted column>,[first pivoted column] AS <column name>,[second pivoted column] AS <column name>,... FROM(<SELECT query that produces the data…

0基础学习PyFlink——不可以用UDTAF装饰器装饰function的原因分析

在研究Flink的“用户自定义方法”&#xff08;UserDefinedFunction&#xff09;时&#xff0c;我们看到存在如下几种类型的装饰器&#xff1a; UDF&#xff1a;User Defined Scalar FunctionUDTF&#xff1a;User Defined Table FunctionUDAF&#xff1a;User Defined Aggrega…

doris 问题 列表

1. flink 导入数据后 出现的错误 2.错误描述&#xff1a; 导入任务过多&#xff0c;新导入任务提交报错 “current running txns on db xxx is xx, larger than limit xx ”&#xff1f; 调整 fe 参数 : max_running_txn_num_per_db&#xff0c;默认100&#xff0c;可适当调…

vue3 elementPlus 表格实现行列拖拽及列检索功能

1、安装vuedraggable npm i -S vuedraggablenext 2、完整代码 <template> <div classcontainer><div class"dragbox"><el-table row-key"id" :data"tableData" :border"true"><el-table-columnv-for"…

ChatGPT和Copilot协助Vue火速搭建博客网站

AI 对于开发人员的核心价值 网上会看到很多 AI 的应用介绍或者教程 使用 AI 聊天&#xff0c;咨询问题 —— 代替搜索引擎使用 AI 写各种的电商文案&#xff08;淘宝、小红书&#xff09;使用 AI 做一个聊天机器人 —— 这最多算猎奇、业余爱好、或者搞个套壳产品来收费 以上…

java8 Lambda表达式以及Stream 流

Lambda表达式 Lambda表达式规则 Lambda表达式可以看作是一段可以传递的代码&#xff0c; Lambda表达式只能用于函数式接口&#xff0c;而函数式接口只有一个抽象方法&#xff0c;所以可以省略方法名&#xff0c;参数类型等 Lambda格式&#xff1a;&#xff08;形参列表&…

nginx加权轮询,upstream,Keepalive,负载均衡实现案例

1. nginx 加权轮询, weight是权重配置。 #配置上游服务器 upstream tomcats {server 192.168.1.173:8080 weight=1;server 192.168.1.174:8080 weight=2;server 192.168.1.175:8080 weight=5; } server{liste

AWS Lambda 操作 RDS 示例

实现目标 创建一个 Lambda 接收调用时传入的数据, 写入 RDS 数据库 Post 表存储文章信息. 表结构如下: idtitlecontentcreate_date1我是标题我是正文内容2023-10-21 15:20:00 AWS 资源准备 RDS 控制台创建 MySQL 实例, 不允许 Public access (后面 Lambda 需要通过 VPC 访问…

AI的Prompt是什么

一.AI的Prompt的作用 在人工智能&#xff08;AI&#xff09;中&#xff0c;"Prompt"通常指的是向AI系统提供的输入或指令&#xff0c;用于引导AI进行特定的操作或生成特定的输出。例如&#xff0c;在一个对话型AI系统中&#xff0c;用户输入的问题就是一个prompt&…

【vue】使用less报错:显示this.getOptions is not a function

在vue-cli中使用 lang“less” 时报错&#xff1a; Module build failed: TypeError: this.getOptions is not a function at Object.lessLoader 原因&#xff1a;版本过高所致&#xff0c;所用版本为 解决&#xff1a;降低版本&#xff1a;npm install less-loader4.1.0 --s…

分类预测 | MATLAB实现SSA-CNN-BiGRU-Attention数据分类预测(SE注意力机制)

分类预测 | MATLAB实现SSA-CNN-BiGRU-Attention数据分类预测&#xff08;SE注意力机制&#xff09; 目录 分类预测 | MATLAB实现SSA-CNN-BiGRU-Attention数据分类预测&#xff08;SE注意力机制&#xff09;分类效果基本描述模型描述程序设计参考资料 分类效果 基本描述 1.MATLA…

kubeadm初始化搭建cri-dockerd记录 containerd.io

07.尚硅谷_搭建K8s集群&#xff08;kubeadm方式&#xff09;-部署master节点_哔哩哔哩_bilibili 视频里的版本只有1.17而现在&#xff08;2023.10.20&#xff09;kubernetes最新版本是1.28&#xff0c;需要搭载cri-dockerd&#xff0c; 先去网站下载了对应的rpm包cri-dockerd…

力扣每日一题69:x的平方根

题目描述&#xff1a; 给你一个非负整数 x &#xff0c;计算并返回 x 的 算术平方根 。 由于返回类型是整数&#xff0c;结果只保留 整数部分 &#xff0c;小数部分将被 舍去 。 注意&#xff1a;不允许使用任何内置指数函数和算符&#xff0c;例如 pow(x, 0.5) 或者 x ** 0…

Linux---(四)权限

文章目录 一、shell命令及运行原理1.什么是操作系统&#xff1f;2.外壳程序3.用户为什么不直接访问操作系统内核?4.操作系统内核为什么不直接把结果显示出来&#xff1f;非要加外壳程序&#xff1f;5.shell理解重点总结&#xff08;1&#xff09;shell是什么&#xff1f;&…

JDK8新特性:Stream流

目录 1.获取Stream流 2.Stream流常见的中间方法 3.Stream流常见的终结方法 1、 Stream 是什么&#xff1f;有什么作用&#xff1f;结合了什么技术&#xff1f; ●也叫 Stream 流&#xff0c;是Jdk8开始新增的一套 API ( java . util . stream .*)&#xff0c;可以用于操作集…

前端精度问题 (id 返回的和传给后端的不一致问题)

eg: 后端返回 id 10976458979374929 前端获取到的: 10976458979374928 原因: js 中 Number类型范围-2^53 1 到 2^53 - 1 Number.isSafeInteger()用来判断一个整数是否落在这个范围之内。 java中 Long 类型的取值范围是-2^63 1 到 2^63 - 1, 比JavaScript中大很多&#xff0…

Java开发-WebSocket

WebSocket是基于TCP的一种新的网络协议。它实现了浏览器与服务器全双工通信-浏览器和服务器只需要完成一次握手&#xff0c;两者之间就可以创建持久性的连接&#xff0c;并实现 双向数据传输。 使用 导入maven坐标 <dependency><groupId>org.springframework.bo…

基于V/F控制的三相逆变器MATLAB仿真模型

微❤关注“电气仔推送”获得资料&#xff08;专享优惠&#xff09; 参考文献&#xff1a;张飞,刘亚,张玉杰.基于V/F控制的三相逆变器仿真模型的研究[J].自动化与仪器仪表,2015 关于V/F控制的论文非常多&#xff0c;随意下载&#xff01; 当分布式电源经过逆变器运行于孤岛模…

mysql聚合查询

在MySQL中&#xff0c;聚合查询是指通过一些特定的函数&#xff08;如SUM、AVG、MAX、MIN等&#xff09;根据需求来查询相关的信息。以下是一些MySQL聚合查询的例子&#xff1a; 使用SUM函数查询某列的总和&#xff1a; SELECT SUM(salary) FROM employees; 使用AVG函数查询…