iLogtail使用入门-K8S环境日志采集到SLS

简介:iLogtail是阿里云中简单日志服务又名“SLS”的采集部分。 它用于收集遥测数据,例如日志、跟踪和指标,目前已经正式开源(https://github.com/alibaba/ilogtail)。本文通过介绍ilogtail如何在K8S环境进行安装、配置、使用的最简流程,帮助用户使用预编译版本快速上手ilogtail日志采集。

使用前准备

  • 开通阿里云日志服务并创建了Project(具体步骤参见上一节《ilogtail使用入门-主机环境日志采集到SLS》)
  • 准备一个具备公网访问权限的K8S集群,服务器架构为X86-64。

创建日志配置

1.跳转到日志服务控制台(sls.console.aliyun.com),点击上一节中已经创建的project。

2.进入Project查询页面后,点击左侧边栏的“放大镜”图标,展开logstore管理界面,点击“+”,弹出“创建Logstore”右侧边栏。按照提示进行配置,输入logstore名称后,点击“确认”。

wAAACH5BAEKAAAALAAAAAABAAEAAAICRAEAOw==

3.logstore创建成功后,取消数据接入向导。点击左侧边栏中的“立方体”按钮,在弹出的“资源”浮层中选择“机器组”。在展开的“机器组”左边栏中,点击右上角的“四方格”图标,在弹出的浮层中选择“创建机器组”。

4.在“创建机器组”有侧边栏中按提示配置,“机器组标识”选择“用户自定义标识”,“名称”、“机器组Topic”、“用户自定义标识”建议保持一致。“用户自定义标识”是其中最为重要的一个配置,本教程中使用“my-k8s-group”,后续在安装ilogtail时会再次用到。“点击”确认保存机器组。

5.再次点击左侧边栏的“放大镜”图标,展开logstore管理界面,点击第2步中创建的logstore的“向下展开”图标,弹出“配置Logstore”菜单。点击“logtail配置”的“+”按钮。

6.在弹出的“快速接入数据”对话框中搜索“kube”,并选择“Kubernertes-文件”。在弹出的“提示”框中单机“继续”。

wAAACH5BAEKAAAALAAAAAABAAEAAAICRAEAOw==

7.在“Kubernertes文件”配置界面,直接选择“使用现有机器组”。

8.跳转到“机器组配置”界面,选择第4步中创建的机器组,点击“>”按钮将其加入到“应用机器组”中,然后点击“下一步”。

9.在ilogtail配置中仅修改“配置名称”和“日志路径”两个必填项,点击“下一步”确认。

10.完成索引配置。这一步不对任何选项进行修改,直接点击下一步完成配置。

安装ilogtail

1.登陆可以控制K8S集群的中控机。编辑ilogtail的ConfigMap YAML。

$ vim alicloud-log-config.yaml

在Vim中粘贴如下内容并保存(注意,修改注释中提示的字段,7-11行)。

apiVersion: v1
kind: ConfigMap
metadata:name: alibaba-log-configurationnamespace: kube-system
data:log-project: "my-project" #修改为实际project名称log-endpoint: "cn-wulanchabu.log.aliyuncs.com" #修改为实际endpointlog-machine-group: "my-k8s-group" #可以自定义机器组名称log-config-path: "/etc/ilogtail/conf/cn-wulanchabu_internet/ilogtail_config.json" #修改cn-wulanchabu为实际project地域log-ali-uid: "*********" #修改为阿里云UIDaccess-key-id: "" #本教程用不上access-key-secret: "" #本教程用不上cpu-core-limit: "2"mem-limit: "1024"max-bytes-per-sec: "20971520"send-requests-concurrency: "20"

2.计算alicloud-log-config.yaml的sha256 hash,并编辑ilogtail的DaemonSet YAML。

$ sha256sum alicloud-log-config.yaml
f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214  alicloud-log-config.yaml
$ vim logtail-daemonset.yaml

在Vim中粘贴如下内容并保存(注意,修改注释中提示的字段,21、25行)。

apiVersion: apps/v1
kind: DaemonSet
metadata:name: logtail-dsnamespace: kube-systemlabels:k8s-app: logtail-ds
spec:selector:matchLabels:k8s-app: logtail-dsupdateStrategy:type: RollingUpdatetemplate:metadata:labels:k8s-app: logtail-dskubernetes.io/cluster-service: "true"version: v1.0annotations:checksum/config: f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214 #必须修改为alicloud-log-config.yaml的hashspec:containers:- name: logtailimage: registry.cn-wulanchabu.aliyuncs.com/log-service/logtail:latest #可以修改为距离k8s集群最近的地域resources:limits:cpu: 2memory: 1024Mirequests:cpu: 100mmemory: 256MilivenessProbe:httpGet:path: /livenessport: 7953scheme: HTTPinitialDelaySeconds: 30periodSeconds: 60securityContext:privileged: trueenv:- name: HTTP_PROBE_PORTvalue: "7953"- name: "ALIYUN_LOGTAIL_CONFIG"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-config-path- name: "ALIYUN_LOGTAIL_USER_ID"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-ali-uid- name: "ALIYUN_LOGTAIL_USER_DEFINED_ID"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-machine-group- name: "ALICLOUD_LOG_ACCESS_KEY_ID"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: access-key-id- name: "ALICLOUD_LOG_ACCESS_KEY_SECRET"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: access-key-secret- name: "ALICLOUD_LOG_DOCKER_ENV_CONFIG"value: "true"- name: "ALICLOUD_LOG_ECS_FLAG"value: "false"- name: "ALICLOUD_LOG_DEFAULT_PROJECT"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-project- name: "ALICLOUD_LOG_ENDPOINT"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-endpoint- name: "ALICLOUD_LOG_DEFAULT_MACHINE_GROUP"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-machine-group- name: "ALIYUN_LOG_ENV_TAGS"value: "_node_name_|_node_ip_"- name: "_node_name_"valueFrom:fieldRef:fieldPath: spec.nodeName- name: "_node_ip_"valueFrom:fieldRef:fieldPath: status.hostIP# resource limit for logtail self process- name: "cpu_usage_limit"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: cpu-core-limit- name: "mem_usage_limit"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: mem-limit- name: "max_bytes_per_sec"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: max-bytes-per-sec- name: "send_request_concurrency"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: send-requests-concurrencyvolumeMounts:- name: sockmountPath: /var/run/- name: rootmountPath: /logtail_hostreadOnly: truemountPropagation: HostToContainerterminationGracePeriodSeconds: 30tolerations:- operator: "Exists"hostNetwork: truednsPolicy: "Default"volumes:- name: sockhostPath:path: /var/run/- name: roothostPath:path: /

3.应用YAML配置,创建ConfigMap和DaemonSet。

$ kubectl apply -f alicloud-log-config.yaml
configmap/alibaba-log-configuration created
$ kubectl apply -f logtail-daemonset.yaml
daemonset.apps/logtail-ds created

4.等待1分钟,检查DeamonSet是否正常运行

$ kubectl get -f logtail-daemonset.yaml

这个时候控制台应该打印出类似以下的消息,代表安装成功

NAME         DESIRED   CURRENT   READY   UP-TO-DATE   AVAILABLE   NODE SELECTOR   AGE
logtail-ds   3         3         3       3            3           <none>          2m1s

上报日志并查看

1.创建一个用于持续生成日志的Pod。

$ vim demo-pod.yaml

在Vim中粘贴如下内容并保存(注意,可能需要修改注释中提示的字段,8-9行)。

apiVersion: v1
kind: Pod
metadata:labels:name: demo-podname: demo-pod
spec:
#  imagePullSecrets:          # Comment out to enable specific image pull secret
#    - name: myregistrykey    # repleace it to specific registry key containers
containers:- image: busyboximagePullPolicy: IfNotPresentname: demo-podcommand: ["/bin/sh"]args: ["-c", "while true; do echo $(date) >>/tmp/demo.log; sleep 10; done"]resources: {}securityContext:capabilities: {}privileged: falseterminationMessagePath: /dev/termination-logdnsPolicy: ClusterFirstrestartPolicy: Always

应用YAML配置,创建Pod

$ kubectl apply -f demo-pod.yaml
pod/demo-pod created

2.回到Web控制台,点击配置完成界面的“查询日志”跳转到日志查询界面。点击页面左侧的“放大镜”图标,选中logstore,点击“眼睛”图标,在左侧出现的“消费预览”侧边栏中尝试调整Shard和时间范围,点击预览查看上报的日志。

What's Next

你可以进入下一节学习《ilogtail使用入门-iLogtail本地部署方案》

了解容器采集原理《通过DaemonSet-控制台方式采集容器标准输出》

也可以学习ilogtail采集的更多用法:

  • 通过DaemonSet-控制台方式采集容器文本日志
  • 采集容器日志
  • 如何获取容器的Label和环境变量

原文链接

本文为阿里云原创内容,未经允许不得转载。 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/511659.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

java并发condition_Java并发之Condition的实现分析

一、Condition的概念介绍回忆 synchronized 关键字&#xff0c;它配合 Object 的 wait()、notify() 系列方法可以实现等待/通知模式。对于 Lock&#xff0c;通过 Condition 也可以实现等待/通知模式。Condition 是一个接口。Condition 接口的实现类是 Lock(AQS)中的 ConditionO…

【新功能】开放搜索多路召回技术解读

简介&#xff1a;多路召回就是指采用不同的策略、特征或者简单模型&#xff0c;分别召回一部分候选集&#xff0c;然后再把这些候选集混合在一起后供后续排序模型使用的策略&#xff0c;本文将介绍开放搜索平台上的多路召回技术是如何深度提升搜索效果的。 背景 所谓的“多路…

CCO x Hologres:实时数仓高可用架构再次升级,双11大规模落地

简介&#xff1a;本文将会介绍今年是如何在去年基础上进行实时数仓高可用架构升级&#xff0c;并成功大规模落地双11。 作者 | 梅酱 来源 | 阿里技术公众号 一 2021年双11总结 2021年阿里巴巴双11期间&#xff0c;由CCOHologres构建的高可用实时数仓经过2年的迭代&#xff0…

MLPerf世界纪录技术分享:通过模型压缩优化取得最佳性能

作者 | 刘姝 供稿 | 浪潮 MLPerf竞赛由图灵奖得主大卫帕特森&#xff08;David Patterson&#xff09;联合谷歌、斯坦福、哈佛大学等单位共同成立&#xff0c;是国际上最有影响力的人工智能基准测试之一。在MLPerf V0.7推理竞赛开放赛道中&#xff0c;浪潮信息通过模型压缩优…

java 静态方法 递归_Java的递归算法

请详细讲解这段程序是怎么执行的&#xff0c;我的理解是先执行main函数里的count(1),然后进入count方法&#xff0c;N值为1&#xff0c;所以执行IF语句&#xff0c;直到count(5),此时退出if 循环&#xff0c;打印N5 &#xff0c;然后应该没有要执行的东西了&#xff0c;可是答案…

Serverless 应用优化四则秘诀

简介&#xff1a;Serverless 架构下&#xff0c;虽然我们更多精力是关注我们的业务代码&#xff0c;但是实际上对于一些配置和成本也是需要进行关注的&#xff0c;并且在必要的时候&#xff0c;还需要根据配置与成本进行对我们的 Serverless 应用进行配置优化和代码优化。 Ser…

懵了,构建一个 Docker 镜像花 60 分钟?如何提高效率?

作者 | Andy来源 | 进击云原生最近&#xff0c;有一个需求&#xff1a;向镜像构建管道添加一个参数&#xff0c;以允许用户在构建时配置超时时间。我们计划在构建时配置 10 分钟的默认超时&#xff0c;并且允许用户覆盖此配置&#xff0c;因为他们的某些镜像构建需要长达 60 分…

java实现短信上行源码_Java 发送短信验证码 示例源码

【实例简介】执行前请先设置修改 src/test.java 文件//用户名private static String Uid "uid";//接口安全秘钥(不是登录密码)private static String Key "key";//手机号码&#xff0c;多个号码如13800000000,13800000001,13800000002private static Str…

Android项目架构设计深入浅出

简介&#xff1a;本文结合个人在架构设计上的思考和理解&#xff0c;介绍如何从0到1设计一个大型Android项目架构。 作者 | 璞珂 来源 | 阿里技术公众号 前言&#xff1a;本文结合个人在架构设计上的思考和理解&#xff0c;介绍如何从0到1设计一个大型Android项目架构。 一 引…

我要自学网java jsp_学javaweb需要什么基础?零基础如何学习javaweb?

1、语言方面&#xff0c;javaweb的话 java功底肯定要扎实&#xff0c;html比较简单&#xff0c;熟悉基本标签&#xff0c;开发时会基本格式&#xff0c;结合帮助文档&#xff0c;开发多了还是比较容易的&#xff0c;jsp的配置原理要搞清楚2、平台&#xff0c;一般的javaweb开发…

技术实践第四期|解读移动开发者日常-性能监控平台应用

简介&#xff1a;应用性能监控平台是用来帮助客户提升应用性能质量和稳定性的重要环节&#xff0c;本人作为一名移动端开发者有着丰富的使用和运维经验&#xff0c;希望通过本文分享过往的心得和使用经验&#xff0c;让我参与开发的U-APM这款产品中&#xff0c;作为借鉴可以在中…

彻底理解操作系统:CPU与实模式

作者 | 陆小风来源 | 码农的荒岛求生‍对于人类来说&#xff0c;我们不喜欢拐弯抹角&#xff0c;喜欢更直接的东西&#xff0c;“有话直说”、“没有中间商赚差价”、“简洁的设计”等等&#xff0c;然而对于计算机&#xff0c;尤其是对内存管理来说则恰恰相反&#xff0c;在这…

边缘计算的 4 种类型都有哪些?

作者 | Addo Zhang来源 | 云原生指北本篇文章译自 SUNKU RANGANATH 的 4 Types of Edge Computing - Broadly Categorized。文章通过 往返终端设备和数据中心的延迟 来对边缘计算的类型进行大致的分类&#xff0c;通俗易懂&#xff0c;方便大家对边缘计算有个大概的了解。边缘计…

OpenKruise v1.0:云原生应用自动化达到新的高峰

简介&#xff1a;OpenKruise 是针对 Kubernetes 的增强能力套件&#xff0c;聚焦于云原生应用的部署、升级、运维、稳定性防护等领域。 云原生应用自动化管理套件、CNCF Sandbox 项目 -- OpenKruise&#xff0c;近期发布了 v1.0 大版本。 OpenKruise[1] 是针对 Kubernetes 的…

Serverless Kubernetes 落地实践

简介&#xff1a;如何通过原生 Kubernetes 提供 Serverless 能力&#xff1f;如何借力丰富的云原生社区生态&#xff1f;本文将给大家介绍一下我们在 Serverless Kubernetes 上的落地实践。 作者&#xff1a;元毅 导读 Kubernetes 作为当今云原生业界标准&#xff0c;具备良…

SolarWinds:什么是无服务器架构?它有哪些优点和缺点?

作者 | SolarWinds首席极客 Chrystal Taylor 供稿 | SolarWinds 随着IT行业的快速发展和网络带宽的不断消耗&#xff0c;人们对计算和数字存储的需求也越来越大。在此背景下&#xff0c;云计算技术迅速发展&#xff0c;满足了从大型企业到个人用户对高性能计算能力的应用需求。…

java 寻找和为定值的多个数_算法笔记_037:寻找和为定值的两个数(Java)

1 问题描述输入一个整数数组和一个整数&#xff0c;在数组中查找两个数&#xff0c;满足他们的和正好是输入的那个整数。如果有多对数的和等于输入的整数&#xff0c;输出任意一对即可。例如&#xff0c;如果输入数组[1,2,4,5,7,11,15]和整数15&#xff0c;那么由于411 15&…

如何在零停机的情况下迁移 Kubernetes 集群

简介&#xff1a;本文将通过集群迁移的需求、场景以及实践方式&#xff0c;介绍如何基于阿里云容器服务 ACK&#xff0c;在零停机的情况下迁移 Kubernetes 集群。 作者&#xff1a;顾静&#xff08;子白&#xff09;&#xff5c;阿里云高级研发工程师&#xff1b;谢瑶瑶&#…

轻松理解 Docker 网络虚拟化基础之 veth 设备!

作者 | 张彦飞allen来源 | 开发内功修炼最近我又对网络虚拟化技术产生了浓厚的兴趣&#xff0c;迫切想搞明白在 Docker 等虚拟技术下&#xff0c;网络底层是如何运行的。不得不说&#xff0c;网络虚拟化技术是我给自己抛的又一个大坑。虽然我自认为把原生 Linux 网络实现过程理…

如何做好数字化体验管理,了解一下?

简介&#xff1a;本文主要分为三部分&#xff0c;第一部分是数字化体验的必要性&#xff0c;从数字化体验管理对业务的影响和数字化体验管理对企业的价值两个方面来介绍其必要性&#xff1b;第二部分&#xff0c;ARMS 在数字化体验管理上的产品能力介绍&#xff1b;第三部分&am…