日志服务SLS入门指南

日志服务SLS入门指南

  • 什么是日志服务SLS
  • Nginx日志采集
    • 部署Nginx
    • 创建Logstore
    • 接入数据
  • 数据脱敏
    • 创建脱敏Logstore
    • 数据加工
  • 告警设置
    • 添加告警规则
    • 查看告警
  • 写在最后

什么是日志服务SLS

在说到日志服务SLS之前,首先了解一下什么是日志服务SLS?日志服务SLS是云原生观测与分析平台,为Log、Metric、Trace等数据提供大规模、低成本、实时的平台化服务。日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能,全面提升您在研发、运维、运营、安全等场景的数字化能力。关于日志服务的更多内容可以参考官方文档:日志服务SLS 日志服务SLS的官方首页地址:https://www.aliyun.com/product/sls 在了解了什么是日志服务SLS之后,下面我们就开始上手操作吧。

Nginx日志采集

在进行Nginx日志采集之前,我们首先需要部署Nginx服务

部署Nginx

安装Nginx运行需要的插件

# 安装gccyum -y install gcc# 安装pcreyum install -y pcre pcre-devel# 安装zlibyum install -y zlib zlib-devel

下载Nginx安装包并解压

# 下载安装包wget http://nginx.org/download/nginx-1.17.10.tar.gz# 解压tar -zxvf nginx-1.17.10.tar.gz

编译安装Nginx

cd nginx-1.17.10 ./configure make && make install

启动Nginx

cd /usr/local/nginx/sbin/nginx ;tail -f ./logs/access.log

启动完成之后打开浏览器输入Nginx部署的云服务器ECS的公网地址即可以看到请求日志信息
在这里插入图片描述

创建Logstore

登录日志服务SLS控制台:https://sls.console.aliyun.com/ 点击你想要操作的Project项目名称
在这里插入图片描述
点击日志库 + 号,输入Logstore名称及勾选WebTracking ,其他的默认即可
在这里插入图片描述
点击【确定】之后
在这里插入图片描述
这里暂时先不进行数据接入,因此点击【取消】

接入数据

再次回到日志服务SLS控制台首页,选择【Nginx-文本日志】
在这里插入图片描述
可以看到Nginx接入数据配置,
在这里插入图片描述
选择项目Project以及刚才创建的Logstore,点击【下一步】
在这里插入图片描述
这里选择【手动选择实例】,选择你需要操作的云服务器ECS,点击【创建】在弹出的弹框提示中选择【继续创建】
在这里插入图片描述
看到成功状态之后点击【确认安装完毕】
在这里插入图片描述
输入名称,点击【下一步】进入机器组配置,其中应用机器组就选我们刚才创建的机器组【test2023】,点击【下一步】进入Logtail配置
在这里插入图片描述
输入Logtail配置名称、日志路径、Nginx日志配置,输入日志样例

120.55.87.13 - - [30/Jun/2023:20:50:35 +0800] "GET / HTTP/1.1" 200 612 "-" "Mozilla/5.0 (X11; Linux x86_64; rv:91.0) Gecko/20100101 Firefox/91.0"

点击校验,
在这里插入图片描述
检验成功后点击【下一步】,到 查询日志分析 继续点击【下一步】
在这里插入图片描述
点击【查询日志】跳转到logstore2023的【查询/分析】可以看到采集到的Nginx的原始日志
在这里插入图片描述

数据脱敏

创建脱敏Logstore

在接入Nginx数据之后我们可以看到日志数据中的敏感信息是可以直接看到的
在这里插入图片描述
这样会造成数据的不安全,那么我们需要对这部分敏感数据进行脱敏操作,按照上一步的操作 创建Logstore 的步骤再次创建logstore202302用于存储脱敏后的数据
在这里插入图片描述
点击新创建的logstore202302
在这里插入图片描述
点击【开启索引】
在这里插入图片描述
开启【全文索引】后点击【确定】
在这里插入图片描述
点击【确认】完成

数据加工

回到原始Nginx日志数据日志库logstore2023,点击【数据加工】
在这里插入图片描述
输入需要处理的Nginx日志字段中的敏感字段处理方案

e_set("remote_addr", regex_replace(v("remote_addr"), grok("(%{IP})"), replace=r"*.*.*.*"))e_set("remote_user", regex_replace(v("remote_user"), r"(\S)\S+", replace=r"\1****"))

在这里插入图片描述
单击【保存数据加工】,在弹出页面中输入任务名称
在这里插入图片描述
输入【目标名称】选择【目标库】加工范围选择【所有】单击【确定】,注意这里如果没有对角色授权的话需要先授权,授权成功之后点击【确定】,数据加工任务创建完成之后回到脱敏数据的日志库logstore202302,点击【查询/分析】按钮既可以看到脱敏后的数据
在这里插入图片描述

告警设置

添加告警规则

这里我们可以设置告警阈值检测Nginx日志信息,比如在logstore2023输入查询语句

status >= 400 | select status, count(*) as cnt group by status 

可以查询到Nginx日志中的400以上错误码的日志信息,点击右上角【另存为告警】
在这里插入图片描述
打开告警配置页面
在这里插入图片描述
点击【确定】告警规则添加成功。

查看告警

告警规则添加成功之后,后续可以通过如下步骤查看告警信息。点击左侧【告警】
在这里插入图片描述
找到我们新建规则的【查看】可以看到实际的告警次数
在这里插入图片描述
点击【告警历史】的【查看详情】可以查看当前告警信息的详细内容,到这里我们基于日志服务SLS进行的Nginx日志采集,日志信息脱敏以及告警设置就完成了。

写在最后

最后来说一下本次对于日志服务SLS操作的整体感受,基本上整体操作可以参考官方文档的【快速入门】即可完成以上操作,不过在操作过程中,文档中也有描述不详尽的地方,这个时候可以辅助参考官方提供的在线课程 手把手进阶学习日志服务来完成对日志服务的基础操作。
另外,整个日志服务SLS的体系也比较完善,从数据采集、数据存储到数据加工、数据分析最后到告警、可视化及日志应用等,全套内容很丰富很全面,接入企业应用的话参考官方文档就够了,赞一个。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/43404.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

PHP项目中的前端页面随意点击卡片后会重定向到首页或登录页

个人名片 🎓作者简介:java领域优质创作者 🌐个人主页:码农阿豪 📞工作室:新空间代码工作室(提供各种软件服务) 💌个人邮箱:[2435024119qq.com] &#x1f4f1…

pycharm使用micropython

一、打开设置 2、搜索micropython、安装、重启 3、第5步需要设置成你插的电脑USB口,一个一个试 4、 5、 6、OK

jEasyUI 合并单元格

jEasyUI 合并单元格 jEasyUI 是一个基于 jQuery 的框架,用于创建交互式的 Web 应用程序。它提供了一系列的 UI 组件,如表格(datagrid)、树(tree)、下拉列表(combobox)等,使得用户能够轻松地构建具有丰富用户界面的应用程序。在本文中,我们将重点讨论如何在 jEasyUI …

ES6 Reflect 详解(三)

Reflect 对象与Proxy 对象一样,也是 ES6 为了操作对象而提供的新 API。 Reflect 对象的设计目的有 4 个。 将 Object 对象的一些明显属于语言内部的方法(比如 Object.defineProperty ),放到 Reflect 对象上。现阶段,某…

手机数据恢复篇:优秀的 iPhone 数据恢复汇总

如果您不幸遭遇 iPhone 死机、进水或死机,一切还不算晚。您可以使用 iPhone 数据恢复应用恢复文件、照片、应用数据、消息等。 使用以下选项,您可以恢复 iPhone 上的少量内容、特定项目或所有内容。有些应用程序甚至提供修复工具来修复最初导致数据丢失…

这组杭州亚运会可视化大屏,绝对引领了时代。

本期分享杭州亚运会的可视化大屏,非常的震撼,杭州不愧为我国互联网最发达的的城市之一。 怒赞!!!

暑期旅游怎么玩?开发旅游小程序让出行变简单

暑假正值旅游旺季,旅游小程序的出现为旅行带来了许多便利。随着移动互联网的发展,旅游行业也在不断寻求创新与变革。旅游小程序为游客提供了更加便捷的旅行体验,通过旅游小程序,用户可以了解旅游信息、旅游服务、在线咨询等&#…

从 Github 安装 R packages 不完全指南

前言 R语言,一个被广泛使用的统计计算和数据分析工具。在日常使用过程中,需要安装实现各种功能、来自各种渠道的工具包(packages)比如:CRNA或者Github。很多包已经发布在 CRAN 上,使用 install.packages(&q…

【Dison夏令营 Day 13】使用 Python 创建扫雷游戏

在本文中,我们将介绍如何使用 Python 语言创建自己的基于终端的扫雷程序。 关于游戏 1992年4月6日,扫雷和纸牌、空当接龙等小游戏搭载在Windows 3.1系统中与用户见面,主要目的是让用户训练使用鼠标。扫雷是一款单人游戏,这个游戏…

Linux系统下anaconda的安装与Pytorch环境的下载

首先,在命令行通过cd命令,进入用户文件夹 cd xxx/xxx/username进入anaconda官网https://repo.anaconda.com/archive/,寻找anaconda下载包资源,这里选择最新的anaconda下载包 Anaconda3-2024.06-1-Linux-x86_64.sh 在命令行执行安…

Python爬虫-获取懂车帝“指定车型”的销量数据

前言 本文是该专栏的第33篇,后面会持续分享python爬虫干货知识,记得关注。 在本专栏之前,笔者有详细介绍关于懂车平台的相关爬虫,如下所示: 1. Python爬虫-新能源汽车对应的“年份月份”销量榜 2. Python爬虫-懂车帝城市销量榜单 3. Python爬虫-新能源汽车销量榜 4. Pyth…

:-1: error: ninja: build stopped: subcommand failed.

错误解释: 这个错误通常出现在使用Ninja构建系统进行软件编译时。Ninja是一个小型的构建系统,它比make更快,因为它直接调用指定的命令来执行构建,而不是像make那样通过一套复杂的规则和依赖关系来进行。如果在Ninja构建过程中遇到…

气膜建筑如何在文化旅游行业中应用—轻空间

一、气膜建筑简介 气膜建筑是一种新型建筑形式,其主要结构由高强度膜材、空气支撑系统和固定系统组成。通过不断向膜体内部充气,使其形成稳定的内部压力来支撑整个建筑结构。气膜建筑因其建设速度快、成本相对较低、环保节能等优点,近年来在各…

阶段三:项目开发---大数据开发运行环境搭建:任务3:安装配置Hadoop集群

任务描述 知识点:安装配置Hadoop 重 点: 安装配置Hadoop 难 点:无 内 容: Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威…

Linux系统编程——线程控制

目录 一,关于线程控制 二,线程创建 2.1 pthread_create函数 2.2 ps命令查看线程信息 三,线程等待 3.1 pthread_join函数 3.2 创建多个线程 3.3 pthread_join第二个参数 四,线程终止 4.1 关于线程终止 4.2 pthread_exit…

【软件设计师】九、数据流图、UML图

知识点1:数据流图 数据路流图亦称为数据流程图,一种便于用户理解,分析系统数据流称的图形工具;买哦书系统的功能,输入,输出,数据存储等; 知识点2:数据字典 数据流&…

深度学习 - 模型剪枝技术详解

模型剪枝简介 模型剪枝(Model Pruning)是一种通过减少模型参数来降低模型复杂性的方法,从而加快推理速度并减少内存消耗,同时尽量不显著降低模型性能。这种技术特别适用于资源受限的设备,如移动设备和嵌入式系统。模型…

提示词工程课程,白嫖A100活动课程

扫下面二维码即可参加 免费使用A100,学习大模型相关知识! 前置知识: 内容来源:Docs 模型设置 在使用提示词的时候,您会通过 API 或者网页版与大语言模型进行交互,将这些参数、设置调整到最佳程度会提高使…

面试题 12. 矩阵中的路径

矩阵中的路径 题目描述示例 题解 题目描述 给定一个 m x n 二维字符网格 board 和一个字符串单词 word 。如果 word 存在于网格中,返回 true ;否则,返回 false 。 单词必须按照字母顺序,通过相邻的单元格内的字母构成&#xff0…

14-47 剑和诗人21 - 2024年如何打造AI创业公司

​​​​​ 2024 年,随着人工智能继续快速发展并融入几乎所有行业,创建一家人工智能初创公司将带来巨大的机遇。然而,在吸引资金、招聘人才、开发专有技术以及将产品推向市场方面,人工智能初创公司也面临着相当大的挑战。 让我来…