性能分析--内存知识

内存相关知识

  • 计算机中与CPU进行数据交换的桥梁。内存的速度,比CPU的速度要慢很多。比磁盘速度要快很多。
  • 内存中存放数据,一旦断电就会消失。
  • linux系统的 /proc路径下的文件,都是内存文件。
  • 内存大小,一般 是GB为单位。 现在都操作系统是 64位,可以支持 几个T的内存
  • 服务器的内存: 常见 8g 16g 32g 64g
  • 内存: 内存地址 存储单元 两部分组成
  • 内存单元大小,不是固定。(一般8位)

存储单元

  • 简单数据类型可以指定长度
  • 有些数据类型不明确长度,不明确的长度存储单元,就有管理存储数据的数据结构。

列表的数据结构,索引位置,告诉你某个数据在列表的中的某个位置。列表,插入或删除一个数据, 在它的索引位置之后的所有数据,都得移动。 列表数据类型,在进行数据 插入、删除是比较慢的。

链表: 数据之间相互记录,构成一个数据链

链表插入数据、删除数据,速度比 列表要快,但是查询或获取数据的速度要比列表要慢

二叉树: 是一个链表

类、对象: 比较复杂的,数据要存放,不知道具体应该怎么存

堆:用于存放比较复杂的第数据

堆区: 连续一段地址空间,存放堆数据

栈stack区: 连续一段地址空间,来存放数据长度比较明确的数据

堆栈: 是两种数据结构。

栈stack区:LIFO ===Last In First Out 后进先出

  • 压栈 弹出

队queue列: FIFO ====FirstInFirstOut 先进先出

  • 顺序队列、 循环队列堆

内存: 有堆区和栈区。 每一个程序启动时候会申请一段内存空间,在自己申请的内存空间中,划 分出堆区和栈区

虚拟内存,是记录程序的内存中数据的区域的。

图解虚拟内存、物理内存、swap 分区的工作与管理

CPU对程序计算某个功能时候,就问虚拟内存,要xxx类型的数据应该到内存的哪个地方去获取。 虚拟内存就会返回结果给 CPU。CPU拿到这个地址之后就直接去内存条中,地址区间去取数据。

cpu从内存中,读数据,是以-页page-为单位。

php、python、go语言项目,没有强制现在项目的内存空间大小,所以一般不会有内存溢出问题,但 是并不是说,就没有内存问题。

内存溢出,只是内存问题中的一种。

内存泄露: 程序在运行过程中,某次请求申请了一段内存空间(从程序自己的内存空间中申请了一 段)使用,使用完成之后不释放,导致可用内存越来越少。

  • 可用的内存漏掉了。

内存溢出:经过一段时间的内存泄露之后,某次申请内存空间时,申请的空间大小,大于剩余可用空间,此时就内存溢出。

  • 性能角度来讲,不建议代码中使用递归。

怎么知识内存溢出了?

  • 1、观察程序的内存使用情况,完全几乎全部使用,肯定有内存溢出。
  • 2、内存溢出,不一定会报出错误。
    • 1、报错误: 日志中、直接发送给请求当作请求的响应

堆区: 新生代new、老年代Tenured、永久代Perm

  • new : Ø昙花一现,朝生夕死的对象 代码方法内部变量
    • eden区
    • from区
    • to区
  • Tenured: Ø大对象 or 多次被GC后还在的对象(顽固份子)

项目中新申请的资源都放在 new中, 使用之后判断策略,多次判断这个资源是否还用,如果还可以用,把这个资源 移动到Tenured。

YGC: 主要回收新生代的空间、回收频率高,每次收时间短

FGC: 主要回收老年代的空间、回收频率低,每次回收用到时间长

  • 还包括:回收新生代、元空间

总的GC回收时间,期望越短越好 = YGC时间 + FGC的时间

3650+1440 = 5090

52*40 + 2*5*60 = 2080+600 = 2680

GC是资源回收,一定要有的,期望回收总时间少的。 ygc和fgc的频率是关键.

这个就要反复测试出来而不是计算出来

  • 调整 新生代 与 老年代的 大小
    • 1、调整整个内存大小(调整YGC的回收频率)
    • 2、调整新生代老年代的配比(调整FGC的回收频率)

YGC 回收的时间 一般是小几十毫秒到小几百毫秒以内

FGC回收的时间,大几百毫秒甚至上秒

验证: 内存溢出、gc

配置参数

tomcat是部署java的一个中间件,springboot开发,自身就带有tomcat,springboot的项目,可以放到 tomcat中启动,也可以直接使用 java -jar xxx.jar

tomcat的bin文件夹中 catalina.sh 配置,配置内存信息(内容见下方)

tomcat的conf有 server.xml 配置 配置服务 协议、端口

tomcat的logs文件夹日志文件

tomcat的webapps文件夹 放项目

  • 项目打war包,自动可以解压

JAVA_OPTS=”-server -Xms512m -Xmx512m -Xmn128m -Xss256k -XX:PermSize=128m -XX:+PrintGC -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -Xloggc:filename”

打印gc的配置,一般不在生成环境中添加。

server.xml中线程池的(保持的连接数,企业配置的数值都比较小)

配置 acceptCount: 能接收的队列长度,队列满了再有连接就会被拒绝(修改线程池)

tomcat

配置文件:  

  •  bin文件夹下: catalina.sh        
    • 配置堆栈信息    
  • conf 文件夹下 : server.xml文件      
    • 服务、线程池信息

实战

tomcat + java项目 可以配置  catalina.sh  堆栈信息,也可以不配

有内存溢出的问题,堆栈信息配置,配大一些,也只是 内存溢出的时间  延后一点。

环境要求: jre\jdk8

上传 tomcat的包、JvmPertest.war包服务器上

解压 tomcat, JvmPertest.war包丢到  tomcat的webapps文件夹下

配置 catalina.sh文件

启动tomcat

测试

使用jmeter调用   http://ip:8080/JvmPertest/pertest1

去logs查看日志

调用jmeter脚本一段时间持续运行 

日志如下(在日志信息中不一定会出现错误信息):

发现响应出错了,錯誤信息中,:

nested exception is java.lang.OutOfMemoryError: Java heap space

定位

已经出现了内存溢出问题, 下一次测试的时候,要重启项目(注意内存溢出会可能会导致无法停止项目,需要杀掉进程重启项目

安装arthas

curl -O https://arthas.aliyun.com/math-game.jar

启动arthas 

java -jar math-game.jar

把arthas 连接到  java进程上

使用jmeter进行性能测试, 测试时发现有内存溢出的问题的时候,我们在arthas中执行    heapdump 就会在很短时间内存 把内存新的信息dump下来,生成一个hprof文件,放在tomcat的temp文件夹中。 把hprof的文件下载下来,然后使用MAT(MemoryAnalyzer)工具打开。 做java开发,编辑器是可以去安装 这个 插件

1、我们已经获取到   内存溢出时的堆栈信息 hprof文件,  这个文件可以直接给开发人员,让他们去 定位具体问题  -----对于没有java基础

2、你想分析定位具体问题,使用mat(MemoryAnalyzer)工具,打开 hprof文件,进一步分析。

假设性能测试服务是一个集群,对这个集群大服务,进行性能测试时,发现了内存溢出,集群是由多个服务构成的,怎么来获取堆栈信息?

  • 1、首先判断出现内存溢出的服务是哪个?
    • 1、 集群中,所有的服务的日志看一遍  ===== 内存溢出,日志可能有错误信息。        
      • 有内存溢出的日志在服务上,肯定这个服务就内存溢出了,此时就获取这个服务所在的机器的堆 栈信息就可以了。
  • 2、看java进程的内存使用情况。 内存几乎都用完了  --------就是这个了

仅仅只是加大服务的内存,是不一定能解决  内存溢出问题。 为什么内存溢出,是申请了内存没有释放,导致内存泄露,然后时间久了就内存溢出。

内存回收,也是可能导致内存溢出的一种原因。

内存的释放,就与GC有关系。  调整内存的参数配比, 是不是就会改变GC频率。  ----把新生代 调大,老年代调小。(前提内存总大小没有变)

确认是否有效?

就会打印 gc日志(gc.log),通过分析gc日志来判断是否有效。

有了gc日志,可以使用 gceasy.io网站  

可以把gc的日志文件给开发人员,让他们去分析

也可以 把gc分析报告 https://gceasy.io/my-gc-report.jsp? p=c2hhcmVkLzIwMjMvMDMvMjQvZ2MubG9nLS0xMy0zMi0zNw==&channel=WEB 给开发人员

监控

也可以来监控  内存使用情况 grafana + Prometheus + jvm_exporter

操作jvm_exporter和tomcat.yml上传到 被监控的服务上   (https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent 中,选择你要 下载到文件)

tomcat.yml文件   ----里面的东西不要动

修改 tomcat的catalina.sh文件: 

 JAVA_OPTS="-javaagent:./jmx_prometheus_javaagent0.14.0.jar=3088:./tomcat.yml"

(路径:javaagent和包名:jmx_prometheus_javaagent0.14.0.jar要写正确,端口按需更改)

hosts文件中没有主机名的,需要要改一下。  ------如果不改,网络延迟可能很长,导致监控平台这边不显示数据。

引入模板: 8563    注意的 job的填写,要是  Prometheus.yml中写的 job_name

模板3517,没数据需要写入对应的ip和端口号

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/799156.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

WebKit是什么?

WebKit是一个开源的浏览器引擎,它用于呈现网页内容在许多现代浏览器中,包括Safari浏览器、iOS内置浏览器、以及一些其他浏览器如Google Chrome的早期版本。以下是一些关于WebKit的重要信息: 起源和发展:WebKit最初是由苹果公司为其…

K8s学习四(资源调度_1)

资源调度 发现对Pod操作不方便,不能直接操作,而且不能直接编辑,需要对原来的配置文件进行操作,而且需要删除之后再创建Pod,不方便,更多是通过控制器来操作。 Label和Selector 通过设置标签和选择器来确定…

Python爬虫:为什么你爬取不到网页数据

目录 前言 一、网络请求被拒绝 二、数据是通过JavaScript加载的 三、需要进行登录 四、网站反爬虫策略 五、网站结构变更 总结 前言 作为一名开发者,使用Python编写爬虫程序是一项常见的任务。爬虫程序的目的是收集互联网上的数据,并将其保存或使…

解决IDEA 控制台中文乱码

运行某个项目时IntelliJ IDEA 控制台中文乱码,但其他的项目是正常的。接口文档也显示乱码: 一、修改 IntelliJ IDEA 全局编码、项目编码、属性文件编码 上方导航栏“File→Settings…”进入配置页面,在“Editor”中下滑找到“File Encodings…

LeetCode 面试题 02.07.链表相交(判断两个结点是否相同)

给你两个单链表的头节点 headA 和 headB ,请你找出并返回两个单链表相交的起始节点。如果两个链表没有交点,返回 null 。 图示两个链表在节点 c1 开始相交: 题目数据 保证 整个链式结构中不存在环。 注意,函数返回结果后&#x…

内外网数据交换发展进程:安全与便捷并行

随着信息化的不断推进,医院、党政以及企业的内外网数据交换正成为日益关注的焦点。在保障数据安全的前提下,需要寻求一种既安全可靠又操作便捷的数据传输方式。本文将探讨内外网数据交换发展进程,分析各种传输方式的优缺点,以及它…

麒麟系统ARM安装rabbitmq

简单记录下,信创服务器:麒麟系统,安装rabbitmq的踩坑记录。 本文章参考了很多大佬文章,我整理后提供。 一、安装基础依赖 yum -y install make gcc gcc-c kernel-devel m4 ncurses-devel openssl-devel unixODBC-devel 二、下载…

k8s资源监控_bitnami metrics-server v0(1),2024一位Linux运维中级程序员的跳槽面经

错误3 也有可能会遇到以下错误,按照下面提示解决 Error from server (ServiceUnavailable): the server is currently unable to handle the request (get nodes.metrics.k8s.io) 如果metrics-server正常启动,没有错误,应该就是网络问题。修改…

花一分钟简单认识 CSS 中的规则 —— 级联层 @layer

layer 简介: 声明级联层时,越靠后优先级越高。不属于任何级联层的样式,将自成一层匿名级联层,并置于所有层之后 —— 级别最高。 用法一:在同一文件中 layer base, special; layer special {/* 优先 */li { color: …

Python学习笔记——heapq

堆排序 思路 堆排序思路是: 将数组以二叉树的形式分析,令根节点索引值为0,索引值为index的节点,子节点索引值分别为index*21、index*22;对二叉树进行维护,使得每个非叶子节点的值,都大于或者…

2024-4-7 QT day1作业

myWidget.cpp #include "mywidget.h"MyWidget::MyWidget(QWidget *parent): QWidget(parent) {//设置窗口标题this->setWindowTitle("QQ");//设置窗口图标this->setWindowIcon(QIcon("C:\\Users\\张谦\\Desktop\\pictrue\\qq.png"));//设…

git bash上传文件至github仓库

Linux运维工具-ywtool 目录 一.访问github二.新建仓库1.点击自己头像2.选择"your repositories"3.点击"New"4.创建新仓库 三.通过git bash软件上传文件1.提示2.打开git bash软件3.切换到本地仓库目录4.配置github的用户名和邮箱信息5.生成SSH Key6.github添…

关于Mac使用idea问题

多窗口切换问题 如果出现Mac打开idea新的项目,发现始终就一个窗口,不能像window那样多窗口,比如 只能这样来回点着切换,提供以下方案 1.方案一 则在idea里多个项目会呈tab页切换,也是始终一个窗口,只是多了…

建模实例评点(3)领域类图-作战推演

1 00:00:00,310 --> 00:00:03,990 你看,我们会有很多很多泛化 2 00:00:04,360 --> 00:00:05,810 这里有很多很多泛化 3 00:00:06,350 --> 00:00:07,420 这种情况下 4 00:00:08,020 --> 00:00:09,850 包括这种,没准也可以 5 00:00:10,380…

基于canal实现MySQL作为主库的ES与MySQL数据同步

1.对mysql的配置 需要一个mysql作为主库,它需要开启binlog,开启binlog需要修改配置文件my.cnf mysql安装就不多说了,我的mysql是5.7 ,装在docker中 我的mysql配置文件在容器中/etc/my.cnf 开启binlog需要修改my.cnf 即添加 log-binmysql…

「38」LUT在直播间调色的高级应用……

「38」LUT滤镜 对人或物进行精进调色 OBS软件中的LUT(Look Up Table)滤镜,可用于调整视频、图像的色彩和对比度等效果,以实现专业级的颜色调整需求。 左图为原图 右图为LUT 先对比上面的两张图,用了滤镜效果的变化…

内容创作策略:打造影响力强大的技术博客

CSDN的朋友你们好,我是未来,今天给大家带来专栏【程序员博主教程(完全指南)】的第6篇文章——“博客内容创作策略”。本文为技术博主提供了一个精简的内容创作策略指南,涵盖了设定目标、分析竞争、关键词研究、内容规划…

Embedding:跨越离散与连续边界——离散数据的连续向量表示及其在深度学习与自然语言处理中的关键角色

Embedding嵌入技术是一种在深度学习、自然语言处理(NLP)、计算机视觉等领域广泛应用的技术,它主要用于将高维、复杂且离散的原始数据(如文本中的词汇、图像中的像素等)映射到一个低维、连续且稠密的向量空间中。这些低…

pdf、docx、markdown、txt提取文档内容,可以应用于rag文档解析

返回的是文档解析分段内容组成的列表,分段内容默认chunk_size: int 250, chunk_overlap: int 50,250字分段,50分段处保留后面一段的前50字拼接即窗口包含下下一段前面50个字划分 from typing import Union, Listimport jieba import recla…

ES学习笔记01

1.ES安装 下载地址: es官网下载 这里使用的是7.8.0的版本信息 下载完成后解压即可完成安装 2.启动运行 点击bin目录下的elasticsearch.bat文件即可启动 在浏览器中输入localhost:9200显示如下: 在路径中加入对应访问后缀即可访问对应信息 如&#…