【业务功能篇86】微服务-springcloud-系统性能压力测试-jmeter-性能优化-JVM参数调优

系统性能压力测试

一、压力测试

  压力测试是给软件不断加压，强制其在极限的情况下运行，观察它可以运行到何种程度，从而发现性能缺陷，是通过搭建与实际环境相似的测试环境，通过测试程序在同一时间内或某一段时间内，向系统发送预期数量的交易请求、测试系统在不同压力情况下的效率状况，以及系统可以承受的压力情况。然后做针对性的测试与分析，找到影响系统性能的瓶颈，评估系统在实际使用环境下的效率情况，评价系统性能以及判断是否需要对应用系统进行优化处理或结构调整。并对系统资源进行优化。

  在压力测试中我们会涉及到相关的一些性能指标：

  1. 响应时间(Response Time:RT):从客服端发送请求开始到获取到服务器的响应结果的总的时间
  2. HPS(Hits Per Second):每秒点击的次数
  3. TPS(Transaction Per Second):系统每秒处理的交易数，也叫会话次数
  4. QPS(Query Per Second):系统每秒处理查询的次数

  在互联网企业中，如果一个业务有且仅有一个请求连接，那么TPS=QPS=HPS的，而在一般情况下用TPS来衡量整个业务流程，用QPS来衡量接口查询的次数，用HPS来衡量服务器单击请求。

  我们在测试的时候就会通过这些指标(HPS,TPS,QPS)的数据来衡量系统的系统，指标越高说明系统性能越好，在一般情况下，各个行业的指标范围有着比较大的差异，下面简单的列举了下，仅供参考

  • 金融行业:1000TPS~50000TPS
  • 保险行业:100TPS~100000TPS
  • 制造业：10TPS~5000TPS
  • 互联网大型网站:10000TPS~1000000TPS
  • 互联网其他:1000TPS~50000TPS

  当然我们还会涉及到一些其他的名词，如下：

名词说明
最大响应时间用户发出请求到系统做出响应的最大时间
最少响应时间用户发出请求到系统做出响应的最少时间
90%响应时间指所有用户的响应时间进行排序，第90%的响应时间

  当我们从外部来看，性能测试主要要关注这三个性能指标

指标说明
吞吐量每秒钟系统能够处理的请求数，任务数
响应时间服务处理一个请求或一个任务的耗时
错误率一批请求中结果出错的请求所占的比例

二、JMeter

1.安装JMeter

官网地址：https://jmeter.apache.org/download_jmeter.cgi 下载后解压即可，然后进入到bin目录下双击 JMeter.bat文件即可启动

image.png

该工具支持中文

image.png

中文后的页面

image.png

2.JMeter基本操作

2.1 添加线程组

  线程组的作用就是定义任务的相关属性，比如每秒执行多少线程，重复多少次该操作

image.png

2.2 取样器

  在定义了线程组后，我们得继续定义每个线程的操作行为，也就是创建对应的取样器，在取样器中我们定义要访问的服务的协议及地址信息。

image.png

  然后我们需要在取样器中定义服务的信息

image.png

2.3 监视器

  在取样器中我们定义了要访问的服务信息，然后我们就要考虑请求后我们需要获取任务的相关的指标信息。这时就用到了监视器。

image.png

对应的结果数据有 查看结果树 汇总报告 聚合报告 ，查看结果对应的图形 汇总图 …

image.png

2.4 测试百度

  写好了取样器后，启动测试。

image.png

启动后我们就可以查询测试的结果数据

image.png

image.png

image.png

image.png

2.5 测试商城首页

image.png

image.png

启动后查看对应的结果

image.png

image.png

image.png

image.png

2.6 JMeter Address 占用的问题

image.png

搜索之后发现需要在regedit中添加注册表项MaxUserPort，TcpTimedWaitDelay重启一下就可以解决了。

解决方法：

打开注册表：ctrl+r 输入regedit
进入注册表，路径为：\HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters
新建DWORD值，（十进制）设置为30秒。名称:TcpTimedWaitDe,值:30
新建DWORD值，（十进制）最大连接数65534。名称:MaxUserPort,值:65534

修改完成后重启生效

image.png

三、性能优化

1.考虑影响服务性能的因素

数据库、应用程序，中间件(Tomcat,Nginx),网络和操作系统等

我们还得考虑当前的服务属于

  • CPU密集型：计算比较影响性能—>添加CPU，加机器
  • IO密集型：网络IO，磁盘IO，数据库读写IO，Redis读写IO --》缓存，加固态硬盘，添加网卡

2.JVM回顾

设置JVM参数，适当调整相应的堆空间的内存大小，也是提升效率的一个关键动作，本地环境idea中，配置启动环境，VM Options参数即可 -Xmx512m -Xmn512m
而运行生产环境，那么配置jvm参数，通过java -Xmx512 -Xmn512m xxx.jar

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-s4RvI9f0-1693209241788)(./images/1693****************208858173_image.png)]
JVM的内存结构

image.png

JVM中对象的存储和GC

image.png

image.png

1、JVM涉及的空间：堆：包括年轻代与老年代+字符串常量池，年轻代由一个Eden与两个Survivor区。方法区：持久代与元空间都是方法区的实现，JDK1.8改为元空间。
2、JVM参数设置，服务器配置的参数：

  • -Xms：初始堆内存大小，设定程序启动时占用内存大小，默认物理内存1/64 -Xms = -XX:InitialHeapSiz
  • -Xmx：最大堆内存，设定程序运行期间最大可占用的内存大小。如果程序运行需要占用更多的内存，超出了这个设置值，就会抛出OutOfMemory异常，默认物理内存1/4，-Xmx = -XX:MaxHeapSize。 上图中的-Xms与-Xmx设置的大小一样 6000M
  • -Xss：设置单个线程栈大小，一般默认512~1024kb。单个线程栈大小跟操作系统和JDK版本都有关系，-Xss = -XX:ThreadStackSize
  • -Xmn：设置年轻代大小。整个堆大小=年轻代大小 + 年老代大小 + 常量池。持久代一般固定大小为64m，所以增大年轻代后，将会减小年老代大小。此值对系统性能影响较大，Sun官方推荐配置为整个堆的3/8
  • -XX:MetaspaceSize ：元空间大小，元空间本质跟永久代类似，都是对JVM规范中方法区的实现。不过元空间与永久代最大的区别在于：元空间并不在虚拟机中，而是使用本地内存，由操作系统支配。因此，元空间大小仅受本地内存限制。
  • -XX:+PrintGCDetails ：打印GC详细日志信息
  • -XX:SurvivorRatio：幸存者比例设置，设置年轻代中Eden区与Survivor区的大小比值。设置为8，则两个Survivor区与一个Eden区的比值为2:8，一个Survivor区占整个年轻代的1/10
  • -XX:NewRatio：新生代比例设置（包括Eden和两个Survivor区）与年老代的比值（除去持久代）。设置为1，则年轻代与年老代所占比值为1：1，年轻代占整个堆栈的1/2。
  • -XX:MaxTenuringThreshold：进入老年代阈值设置
  • -XX:PermSize=128m：持久代内存初始值分配128M； -XX:MaxPermSize=512m：设置持久代最大为512m

3.jconsole和jvisualvm

  jconsole和jvisualvm是JDK自带监控工具。可以帮助我们更好的查看服务的相关监控信息，jvisualvm功能会更加的强大些。

3.1 jconsole

image.png

image.png

找到对应的进程

image.png

3.2 jvisualvm

因为是jdk6.0后自带的，我们同样的可以在cmd或者搜索框中找到

image.png

打开的主页面

image.png

找到对应的进程，双击进入

image.png

查看对应的监视信息

image.png

添加插件。如果插件不可用，那么需要更新

image.png

https://visualvm.github.io/pluginscenters.html 需要结合你的jdk的版本来选择对应的插件的版本

image.png

安装好之后重启jvisualvm即可

%image.png

4. 中间件的性能

  以下是一个完整的请求链路

image.png

  然后我们来测试下相关的组件的性能

  • Nginx测试，可以直接方法默认的html页面，在nginx的配置文件中放置一个index.html文件，浏览器访问 nginx的默认地址去做压测，端口是默认80

  • 初步得到测试后的一个情况，吞吐量等一些量化指标

  • 接着我们可以把docke中的容器状态打开 docker stats命令，然后再次进行压测，实时观察 Nginx服务的性能变化判断CPU密集型是IO密集型，通过压测过程看到CPU飙升到满，可以判断是CPU密集型 可通过增加机器或CPU优化

  • 其实也可以理解，因为Nginx不做业务处理，主要是做更多的请求的分发，创建更多子线程来进行维护，所以需要更多CPU支撑

  • 网关测试：同哩访问所在服务器地址加相应端口直接访问，这里都没用具体的接口地址请求 和Nginx一样都是直接方法地址:端口，即可达到测试效果

  • 单独测试服务：这里可以写一个简单的请求接口，直接返回一个字符串，不经过数据库数据，也就是针对应用服务的单独测试性能了

  • 网关+服务：就是通过网关配置请求，做转发即可，请求的是网关服务的端口，然后会路由到具体服务去做请求相应

  • 首页全量数据：这里涉及到一些静态资源的访问，那么就需要在jmeter工具中 高级设置去开启加载访问html资源，这样才能去访问到那些首页静态资源的图片，html,css,js等

压力测试内容压力测试的线程数吞吐量/s90%响应时间99%响应时间
Nginx507,3851070
Gateway5023,170314
单独测试服务5023,16037
Gateway+服务508,4611246
Nginx+Gateway50
Nginx+Gateway+服务502,8162742
一级菜单501,3214874
三级分类压测501240004000
首页全量数据502

image.png

中间件越多，性能损失就越大，大多数的损失都是在数据的交互

简单的优化：

中间件：单个的效率都很高，串联的中间件越多，影响越大，但是在业务面前其实就比较微弱

业务：

  • DB(MySQL，优化)
  • 模板页面渲染
压力测试内容压力测试的线程数吞吐量/s90%响应时间99%响应时间
Nginx507,3851070
Gateway5023,170314
单独测试服务5023,16037
Gateway+服务508,4611246
Nginx+Gateway50
Nginx+Gateway+服务502,8162742
一级菜单501,3214874
三级分类压测501240004000
首页全量数据(DB-Themleaf)502
一级菜单(DB-索引)5019004070
三级分类压测(索引)503415991700
首页全量数据(DB-Themleaf-放开缓存)5030。。。。。。

5.Nginx实现动静分离

  通过上面的压力测试我们可以发现如果后端服务及处理动态请求又处理静态请求那么他的吞吐量是非常有限的，这时我们可以把静态资源存储在Nginx中。

image.png

5.1 静态资源存储

  把服务中的静态资源上传到Nginx服务中，把静态资源文件打成一个zip包，然后拖拽到Linux中，然后我们通过

unzip index.zip

来解压缩

image.png

然后替换掉模板文件中的资源访问路径

image.png

5.2 Nginx配置

  然后我们在Nginx的配置文件中指定static开头的请求的处理方式

image.png

  保存后重启Nginx服务，然后就可以访问了

image.png

6.三级分类优化

  我们在获取三级分类的数据的时候，会频繁的操作数据库，我们可以对这段代码来优化

image.png

  在此处我们可以一次查询出所有的分类数据，然后每次从这个一份数据中获取对应的信息，达到减少数据库操作的次数的目的，从而提升服务的性能。

/*** 跟进父编号获取对应的子菜单信息* @param list* @param parentCid* @return*/private List<CategoryEntity> queryByParenCid(List<CategoryEntity> list,Long parentCid){List<CategoryEntity> collect = list.stream().filter(item -> {return item.getParentCid().equals(parentCid);}).collect(Collectors.toList());return collect;}/*** 查询出所有的二级和三级分类的数据* 并封装为Map<String, Catalog2VO>对象* @return*/@Overridepublic Map<String, List<Catalog2VO>> getCatelog2JSON() {// 获取所有的分类数据List<CategoryEntity> list = baseMapper.selectList(new QueryWrapper<CategoryEntity>());// 获取所有的一级分类的数据List<CategoryEntity> leve1Category = this.queryByParenCid(list,0l);// 把一级分类的数据转换为Map容器 key就是一级分类的编号， value就是一级分类对应的二级分类的数据Map<String, List<Catalog2VO>> map = leve1Category.stream().collect(Collectors.toMap(key -> key.getCatId().toString(), value -> {// 根据一级分类的编号，查询出对应的二级分类的数据List<CategoryEntity> l2Catalogs = this.queryByParenCid(list,value.getCatId());List<Catalog2VO> Catalog2VOs =null;if(l2Catalogs != null){Catalog2VOs = l2Catalogs.stream().map(l2 -> {// 需要把查询出来的二级分类的数据填充到对应的Catelog2VO中Catalog2VO catalog2VO = new Catalog2VO(l2.getParentCid().toString(), null, l2.getCatId().toString(), l2.getName());// 根据二级分类的数据找到对应的三级分类的信息List<CategoryEntity> l3Catelogs = this.queryByParenCid(list,l2.getCatId());if(l3Catelogs != null){// 获取到的二级分类对应的三级分类的数据List<Catalog2VO.Catalog3VO> catalog3VOS = l3Catelogs.stream().map(l3 -> {Catalog2VO.Catalog3VO catalog3VO = new Catalog2VO.Catalog3VO(l3.getParentCid().toString(), l3.getCatId().toString(), l3.getName());return catalog3VO;}).collect(Collectors.toList());// 三级分类关联二级分类catalog2VO.setCatalog3List(catalog3VOS);}return catalog2VO;}).collect(Collectors.toList());}return Catalog2VOs;}));return map;}

优化后的压测表现

压力测试内容压力测试的线程数吞吐量/s90%响应时间99%响应时间
Nginx507,3851070
Gateway5023,170314
单独测试服务5023,16037
Gateway+服务508,4611246
Nginx+Gateway50
Nginx+Gateway+服务502,8162742
一级菜单501,3214874
三级分类压测501240004000
三级分类压测(业务优化后)50448113227

image.png

可以看到系统性能的提升还是非常明显的。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/57459.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

MySQL项目迁移华为GaussDB PG模式指南

MySQL项目迁移华为GaussDB PG模式指南

文章目录 0. 前言1. 数据库模式选择&#xff08;B/PG&#xff09;2.驱动选择2.1. 使用postgresql驱动2.1. 使用opengaussjdbc驱动 3. 其他考虑因素4. PG模式4.1 MySQL和OpenGauss不兼容的语法处理建议4.2 语法差异 6. 高斯数据库 PG模式JDBC 使用示例验证6. 参考资料 本章节主要…
阅读更多...
conda 常用命令手册

conda 常用命令手册

参考conda-cheatsheet
阅读更多...
Spring Boot(Vue3+ElementPlus+Axios+MyBatisPlus+Spring Boot 前后端分离)【五】

Spring Boot(Vue3+ElementPlus+Axios+MyBatisPlus+Spring Boot 前后端分离)【五】

&#x1f600;前言 本篇博文是关于Spring Boot(Vue3ElementPlusAxiosMyBatisPlusSpring Boot 前后端分离)【五】&#xff0c;希望你能够喜欢 &#x1f3e0;个人主页&#xff1a;晨犀主页 &#x1f9d1;个人简介&#xff1a;大家好&#xff0c;我是晨犀&#xff0c;希望我的文章…
阅读更多...
Redis的数据结构与单线程架构

Redis的数据结构与单线程架构

"飞吧&#xff0c;去寻觅红色的流星" Redis中的五种数据结构和编码 Redis是一种通过键值对关系存储数据的软件&#xff0c;在前一篇中&#xff0c;我们可以使用type命令实际返回当前键所对应的数据结构类型&#xff0c;例如: String\list\hash\set等等。 但…
阅读更多...
开源项目-数据可视化分析平台

开源项目-数据可视化分析平台

哈喽，大家好，今天给大家带来一个开源项目-数据可视化分析平台。项目通过SpringBoot实现 数据可视化分析平台主要有数据源管理，项目管理，数据集管理，图表管理，看板管理等功能 登录 数据源管理 数据源管理功能可以添加MySQL，Oracle，PostgreSQL等类型的数据源信息 项目…
阅读更多...
ResNet详解：网络结构解读与PyTorch实现教程

ResNet详解：网络结构解读与PyTorch实现教程

目录 一、深度残差网络&#xff08;Deep Residual Networks&#xff09;简介深度学习与网络深度的挑战残差学习的提出为什么ResNet有效&#xff1f; 二、深度学习与梯度消失问题梯度消失问题定义为什么会出现梯度消失&#xff1f;激活函数初始化方法网络深度 如何解决梯度消失问…
阅读更多...
电脑共享文件夹-实现手机和其他电脑的文件同步更新

电脑共享文件夹-实现手机和其他电脑的文件同步更新

一、首先是电脑和手机需要处于同一个路由器下 二、创建一个文件夹&#xff0c;随便命名 三、点击属性-共享-Everyone-添加&#xff08;设置读取/写入&#xff09;-最后点击共享 四、这里要注意&#xff0c;如果电脑之前没设置过共享文件夹会有一个弹窗&#xff0c;点第一个就好…
阅读更多...
OpenAI推出ChatGPT企业版，提供更高安全和隐私保障

OpenAI推出ChatGPT企业版，提供更高安全和隐私保障

&#x1f989; AI新闻 &#x1f680; OpenAI推出ChatGPT企业版&#xff0c;提供更高安全和隐私保障 摘要&#xff1a;OpenAI发布了面向企业用户的ChatGPT企业版&#xff0c;用户可以无限制地访问强大的GPT-4模型&#xff0c;进行更深入的数据分析&#xff0c;并且拥有完全控制…
阅读更多...
AI助力智能安检，基于图像目标检测实现危险品X光智能安全检测系统

AI助力智能安检，基于图像目标检测实现危险品X光智能安全检测系统

基于AI相关的技术来对一些重复性的但是又比较重要的工作来做智能化助力是一个非常有潜力的场景&#xff0c;关于这方面的项目开发实践在我之前的文章中也有不少的实践&#xff0c;感兴趣的话可以自行移步阅读即可&#xff1a;《AI助力智能安检&#xff0c;基于目标检测模型实现…
阅读更多...
配置uniapp调试环境

配置uniapp调试环境

目录 uni-app介绍 uni-app开发工具HBuilderX 创建项目前提条件 uni-app项目结构 配置mumu模拟器 uni-app生命周期 1.应用生命周期 小程序规范 2.页面生命周期-小程序规范 3.组件生命周期 vue规范 uni-app登录按钮方法 uni-app发布安卓app uni-app介绍 uni-app 是一个…
阅读更多...
湖北咸宁农业三维扫描数字化农业3d打印制造应用-CASAIM中科广电

湖北咸宁农业三维扫描数字化农业3d打印制造应用-CASAIM中科广电

农业是人类衣食之源、生存之本&#xff0c;是一切生产的首要条件&#xff0c;CASAIM在农业三维扫描和3d打印应用上有丰富经验。 1.三维扫描技术在农业领域的应用 CASAIM三维扫描是集光学、机电和计算机技术于一体的高新无损检测技术&#xff0c;能够对实物的空间外形、结构乃…
阅读更多...
【算法与数据结构】513、LeetCode找树左下角的值

【算法与数据结构】513、LeetCode找树左下角的值

文章目录 一、题目二、解法三、完整代码 所有的LeetCode题解索引&#xff0c;可以看这篇文章——【算法和数据结构】LeetCode题解。 一、题目 二、解法 思路分析&#xff1a;这道题用层序遍历来做比较简单&#xff0c;最底层最左边节点就是层序遍历当中最底层元素容器的第一个值…
阅读更多...
Nacos基础（2）——nacos的服务器和命名空间 springBoot整合nacos 多个nacos配置的情况

Nacos基础（2）——nacos的服务器和命名空间 springBoot整合nacos 多个nacos配置的情况

目录 引出nacos服务器和命名空间Nacos服务器命名空间 springBoot整合nacosspringcloud Alibaba 版本与springcloud对应关系引包配置maincontroller 报错以及解决【报错】错误&#xff1a;缺少服务名称报错&#xff1a;9848端口未开放 启动测试引入多个nacos配置多个配置的情况没…
阅读更多...
【MCU】SD NAND芯片之国产新选择

【MCU】SD NAND芯片之国产新选择

文章目录 前言传统SD卡和可贴片SD卡传统SD卡可贴片SD卡 实际使用总结 前言 随着目前时代的快速发展&#xff0c;即使是使用MCU的项目上也经常有大数据存储的需求。可以看到经常有小伙伴这样提问&#xff1a; 大家好&#xff0c;请问有没有SD卡芯片&#xff0c;可以直接焊接到P…
阅读更多...
香港服务器怎么打开SSH

香港服务器怎么打开SSH

​　　SSH是一种远程登录协议&#xff0c;可以通过加密方式在网络上安全地传输数据。它允许用户在远程服务器上执行命令&#xff0c;管理文件和目录&#xff0c;并进行其他系统管理任务。 如何打开SSH服务? 1.确认已安装OpenSSH服务器&#xff1a; 你可以通过命令sudoapt-geti…
阅读更多...
Excel显示此值与此单元格定义的数据验证限制不匹配怎么办？

Excel显示此值与此单元格定义的数据验证限制不匹配怎么办？

总结&#xff1a;1、在编辑excel文档的时候&#xff0c;弹出此时预测单元格定义的数据验证&#xff0c;限制不匹配的提示。2、这是我们点击菜单来的数据菜单。3、然后点击数据工具栏的数据验证下拉按钮。4、在弹出的菜单中选择数据验证的菜单项。5、然后在打开的窗口中点击左下…
阅读更多...
Jmeter(二十七)：BeanShell PostProcessor跨线程全局变量使用

Jmeter(二十七)：BeanShell PostProcessor跨线程全局变量使用

在性能测试中&#xff0c;两个相关联的接口不一定都在同一个线程组&#xff0c;遇见这种情况时&#xff0c;我们要进行跨线程组传参&#xff0c;此处用登录和查询配送单两个请求举例&#xff1b; 1、登录请求中配置json提取器&#xff0c;将接口返回的token保存在变量中&#…
阅读更多...
Python爬虫异常处理实践：处理被封禁和网站升级问题

Python爬虫异常处理实践：处理被封禁和网站升级问题

在这篇文章中&#xff0c;我们将一起探讨Python爬虫异常处理实践&#xff0c;特别关注处理被封禁和网站升级问题。让我们一起来看看如何解决这些问题&#xff0c;提高我们爬虫程序的稳定性和可靠性。 　　首先&#xff0c;我们要了解为什么会遇到这些问题。网站封禁爬虫的原因主…
阅读更多...
从C语言到C++_34(C++11_下)可变参数+ lambda+function+bind+笔试题

从C语言到C++_34(C++11_下)可变参数+ lambda+function+bind+笔试题

目录 1. 可变参数模板 1.1 展开参数包 1.1.1 递归函数方式展开 1.1.2 逗号表达式展开 1.2 emplace相关接口 2. lambda表达式&#xff08;匿名函数&#xff09; 2.1 C11之前函数的缺陷 2.2 lambda表达式语法 2.3 函数对象与lambda表达式 3. 包装器 3.1 function包装器…
阅读更多...
不同子网络中的通信过程

不同子网络中的通信过程

从输入www.baidu.com经历了什么 一、DNS&#xff08;网址->IP&#xff09; 二、ARP&#xff08;IP->MAC&#xff09; A->B&#xff1a;有数据发送&#xff0c;数据封装ip之后发现没有主机B的mac地址。然后ARP在本网段广播&#xff1a;检查目标地址和源地址是否在同一…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023