常规k8s的监控指标
单独
1、集群维度
- 集群状态
- 集群节点数
- 节点状态（正常、不可达、未知）
- 节点的资源使用率（CPU、内存、IO等）
2、应用维度
-
应用响应时间
-
应用的错误率
-
应用的请求量
3、系统和集群组件维度
- API服务器状态
- 控制器状态
- etcd状态
常用的 Prometheus Operator 指标
常用监控 Kubernetes 性能的 Prometheus Operator 指标 如下：
- Kubernetes 资源相关
- Kubernetes 存储相关
- kubernetes system 相关
- APIServer 相关
- kubelet 相关
- 集群组件
- 应用相关
- 节点相关
- Etcd 相关
- CoreDNS 相关
1、集群维度
K8s集群指标可以按维度分为节点指标和容器pod指标。
-
节点维度指标包括节点CPU使用率，节点内存使用率等
-
pod维度指标包括pod CPU 使用率等
1.1 Node监控
1、内存指标
node_memory_MemTotal_bytes： Node总内存大小node_memory_MemAvailable_bytes：Node剩余可用内存node_memory_MemAvailable_bytes ：从应用程序的角度看到的可用内存；linux 内核为了提升磁盘操作的性能，会消耗一部分内存去缓存磁盘数据。就是buffer和cache，对于内核来说 buffer和cache 都属于已经被使用的内存，只是应用程序需要内存时，如果没有足够的free内存可用，内核就会从buffer和cache中回收内存满足应用程序的请求。所以从应用程序角度来说avaliable = free + buffer +cache, 不过这只是一个理想的公式，实际中的数据会有较大偏差node已用的内存大小计算公式：node_memory_MemTotal_bytes - node_memory_MemAvailable_bytes理想情况下节点内存使用率可以 这样计算：(1-(node_memory_Buffers_bytes+node_memory_Cached_bytes+node_memory_MemFree_bytes)/node_memory_MemTotal_bytes)*100
或者使用以下计算方式：(1-node_memory_MemAvailable_bytes/node_memory_MemTotal_bytes)*100
2、CPU
node_load1：CPU1分钟负载node_load5：CPU5分钟负载node_load15：CPU15分钟负载node_cpu_seconds_total (counter类型指标，用来统计CPU每种模式下所花费的时间，是CPU时间片的一个累积值)CPU使用率计算公式：1-avg(irate(node_cpu_seconds_total{mode="idle"}[30m])) by (instance)如果需要计算node节点CPU使用率：CPU使用率是cpu除空闲(idle)状态之外的其他所有CPU状态的时间总和除以总的CPU时间得到的结果。即：(1-sum(rate(node_cpu_seconds_total{mode="idle"}[1m]))by(instance)/sum(rate(node_cpu_seconds_total[1m]))by(instance))*100
如果需要采集节点vcpu指标信息：例如4u的一个节点，监控每个u的使用率，可参考公式:(1-sum(rate(node_cpu_seconds_total{mode="idle"}[1m]))by(instance,cpu)/sum(rate(node_cpu_seconds_total[1m]))by(instance,cpu))*100
3、分区使用
nodenode_filesystem_size_bytes：各个分区总空间node_filesystem_avail_bytes：各分区剩余空间
4、磁盘I/O
node_disk_io_time_seconds_total：磁盘I/O操作耗费时间每秒磁盘读取速度：
irate(node_disk_writes_completed_total[30m])每秒磁盘写入速度：
irate(node_disk_written_bytes_total[30m])每秒磁盘I/O操作耗费时间计算公式：
irate(node_disk_io_time_seconds_total[30m])每次I/O读取耗时计算公式：
irate(node_disk_read_time_seconds_total[30m]) / irate(node_disk_reads_completed_total[30m])每次I/O写入耗时计算公式：
irate(node_disk_write_time_seconds_total[30m]) / irate(node_disk_writes_completed_total[30m])磁盘IO表示磁盘的输入和输出（向磁盘写入数据，从磁盘读取数据）node_disk_reads_completed_total：读IOnode_disk_writes_completed_total ：写IOsumby(instance)(rate(node_disk_reads_completed_total[5m]))sumby(instance)(rate(node_disk_writes_completed_total[5m]))
节点磁盘监控，主要说明下磁盘空间使用率相关指标，磁盘使用率通常是指挂载在某个目录的磁盘分区的使用率。一个磁盘分区会由对应的文件系统进行管理，通过该文件系统就能获取到该分区的使用情况。node_filesystem_avail_bytes 磁盘可用空间
node_filesystem_size_bytes 磁盘总空间
K8s集群中磁盘使用率可以这样计算：1-(node_filesystem_avail_bytes{fstype="ext4"})/(node_filesystem_size_bytes{fstype="ext4"})
不同的磁盘文件分区，磁盘使用情况不一样，一般关注容器引擎空间和pod容器空间的使用率：
5、网络流量
网络流量下载统计计算公式：
irate(node_network_receive_bytes_total{device!~'tap.*|veth.*|br.*|docker.*|virbr*|lo*'}[30m])*8网络流量上传统计计算公式：
irate(node_network_transmit_bytes_total{device!~'tap.*|veth.*|br.*|docker.*|virbr*|lo*'}[30m])*8
1.2 pod监控
1、POD内存使用率
container_memory_rss ： 是Pod实际使用内存数container_spec_memory_limit_bytes： 是分配给Pod的内存配额sum(container_memory_rss{container!="POD",container!="alermanager",image!="",pod!=""})by(pod) / sum(container_spec
2、POD的CPU使用率
container_cpu_usage_seconds_total 是容器累计使用的CPU时间，用它除以CPU总时间，就可以得到容器的cpu使用率,首先计算容器的CPU占用时间，由于节点上的cpu有多个，所以需要将容器在每个CPU上占用的时间累加起来。pod在3m 内累积使用的CPU时间为(根据pod和namespace 进行分组查）:
(sum(rate(container_cpu_usage_seconds_total{namespace="default",pod!=""}[3m]))by(pod))
然后计算CPU的总时间，这里的CPU数量是容器分配到的CPU数量，container_spec_cpu_quota 这个指标就是容器的cpu配额。它的值是容器指定的 cpu核数100000 ，所以pod在1s内cpu总时间为: Pod 的 CPU 核数1s。
(sum(container_spec_cpu_quota{namespace="default",pod!=""})by(pod)/100000
container_spec_cpu_quota是容器的CPU配额。所以只有配置了resource.cpu.limits CPU 的pod 才有该指标。将上面 这两个语句的结果 相除。就得到了容器的CPU利用率：
container_cpu_usage_seconds_total：container累计使用的CPU时间，除以CPU的总时间，就得到了容器的CPU使用率container_spec_cpu_quota：container的配额，为容器指定的CPU个数*100000sum(rate(container_cpu_usage_seconds_total{image!="",container!="POD",container!=""}[1m])) by (pod,namespace) / (sum(container_spec_cpu_quota{image!="",container!="POD",container!=""}/100000) by (pod,namespace)) * 100
3、POD的文件系统使用量
sum(container_fs_usage_bytes{image!="",container!="POD",container!=""}) by(pod, namespace) / 1024 / 1024 / 1024
