利刃出鞘_Tomcat 核心原理解析（十）-- Tomcat 性能调优–2
二、Tomcat专题 - Tomcat性能调优 - 性能测试结果说明
1、压力性能测试
# 打开另一个终端，切换目录
[root@bogon ~]# cd /usr/local/tomcat# 进行压力性能测试[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10
[1] 3469
[root@bogon tomcat]# This is ApacheBench, Version 2.3 <$Revision: 1430300 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/Benchmarking localhost (be patient)
Completed 100 requests
Completed 200 requests
Completed 300 requests
Completed 400 requests
Completed 500 requests
[root@bogon tomcat]# Completed 600 requests
Completed 700 requests
Completed 800 requests
Completed 900 requests
Completed 1000 requests
Finished 1000 requestsServer Software:
Server Hostname: localhost
Server Port: 8080Document Path: /course/search.do?page=1
Document Length: 2141 bytesConcurrency Level: 100
Time taken for tests: 85.063 seconds
Complete requests: 1000
Failed requests: 0
Write errors: 0
Total transferred: 2304000 bytes
Total body sent: 188000
HTML transferred: 2141000 bytes
Requests per second: 11.76 [#/sec] (mean)
Time per request: 8506.271 [ms] (mean)
Time per request: 85.063 [ms] (mean, across all concurrent requests)
Transfer rate: 26.45 [Kbytes/sec] received2.16 kb/s sent28.61 kb/s totalConnection Times (ms)min mean[+/-sd] median max
Connect: 0 0 1.1 0 7
Processing: 600 8015 1336.4 8250 16415
Waiting: 595 8014 1337.4 8250 16415
Total: 603 8015 1335.8 8250 16415Percentage of the requests served within a certain time (ms)50% 825066% 848775% 858180% 863990% 877595% 891598% 910699% 9438100% 16415 (longest request)
[root@bogon tomcat]#
[1]+ 完成 ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=12、压力 性能测试结果说明
| 指标 | 含义 | ||
|---|---|---|---|
| Server Software | 服务器软件 | ||
| Server Hostname | 主机名 | ||
| Server Port | 端口号 | ||
| Document Path | 测试的页面 | ||
| Document Length | 测试的页面大小 | ||
| Concurrency Level | 并发数 | ||
| Time taken for tests | 整个测试持续的时间 | ||
| Complete requests | 完成的请求数量 | ||
| Failed requests | 失败的请求数量，这里的失败是指请求的连接服务器、发送数据、接收数据等环节发生异常，以及无响应后超时的情况。 | ||
| Write errors | 输出错误数量 | ||
| Total transferred | 整个场景中的网络传输量，表示所有请求的响应数据长度总和，包括每个http响应数据的头信息和正文数据的长度。 | ||
| HTML transferred | 整个场景中的HTML内容传输量，表示所有请求的响应数据中正文数据的总和 | ||
| Requests per second | 每秒钟平均处理的请求数（相当于 LR 中的 每秒事务数）这便是我们重点关注的吞吐率，它等于：Complete requests / Time taken for tests | ||
| Time per request | 每个线程处理请求平均消耗时间（相当于 LR 中的 平均事务响应时间）用户平均请求等待时间 | ||
| Transfer rate | 平均每秒网络上的流量 | ||
| Percentage of the requests served within a certain time (ms) | 指定时间里，执行的请求百分比 | ||
3、压力 性能测试 重要指标
| 参数 | 指数说明 | ||
|---|---|---|---|
| Requests per second | 吞吐率:服务器并发处理能力的量化描述，单位是reqs/s，指的是在某个并发用户数下单位时间内处理的请求数。某个并发用户数，下单位时间内能处理的最大请求数，称之为最大吞吐率。这个数值表示当前机器的整体性能，值越大越好。 | ||
| Time per request | 用户平均请求等待时间：从用户角度看，完成一个请求所需要的时间 | ||
| Time per request:across all concurrent requests | 服务器平均请求等待时间：服务器完成一个请求的时间 | ||
| Concurrency Level | 并发用户数 | ||
三、Tomcat专题 - Tomcat性能调优 - JVM内存参数调优
1、JVM 参数调优
Tomcat 是一款 Java 应用，那么 JVM 的配置便与其运行性能密切相关，而 JVM 优化的重点则集中在内存分配和 GC 策略的调整上，因为内存会直接影响服务的运行效率和吞吐量，JVM垃圾回收机制则会不同程度地导致程序运行中断。可以根据应用程序的特点，
选择不同的垃圾回收策略，调整 JVM 垃圾回收策略，可以极大减少垃圾回收次数，提升垃圾回收效率，改善程序运行性能。
2、JVM 内存参数
| 参数 | 参数作用 | 优化建议 | |
|---|---|---|---|
| -server | 启动Server，以服务端模式运行， | 服务端模式建议，开启 | |
| -Xms | 最小堆内存 | 建议与-Xmx设置相同 | |
| -Xmx | 最大堆内存 | 建议设置为可用内存的80% | |
| -XX:MetaspaceSize | 元空间初始值 | ||
| -XX:MaxMetaspaceSize | 元空间最大内存 | 默认无限 | |
| -XX:MaxNewSize | 新生代最大内存 | 默认16M | |
| -XX:NewRatio | 年轻代和老年代大小比值，取值为整数，默认为2 | 不建议修改 | |
| -XX:SurvivorRatio | Eden区与Survivor区大小的比值，取值为整数，默认为8 | 不建议修改 | |
3、 JVM 参数调优 示例演示
# 打开一个终端，切换目录
[root@bogon ~]# cd /usr/local/tomcat# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh # 查看本地内存使用情况
[root@bogon tomcat]# freetotal used free shared buff/cache available
Mem: 1014756 441968 311420 1784 261368 432512
Swap: 2097148 178688 1918460# 设置 JVM 参数后，再次启动 tomcat
JAVA_OPTS="-server -Xms2048m -Xmx2048m -XX:MetaspaceS1ze=256m -XX:MaxMetaspaceSize=512m -XX:SurvivorRatio=8"# 打开并编辑 catalina.sh 文件
[root@bogon tomcat]# [root@bogon tomcat]# vim ./apache-tomcat-8.5.42/bin/catalina.sh# 在 catalina.sh 文件中，根据自己物理内存大小而设置。
JAVA_OPTS="-server -Xms1024m -Xmx1024m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m -XX:SurvivorRatio=8"# 启动tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh # 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out# 第一次测试：
[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10Requests per second: 11.76 [#/sec] (mean)
Time per request: 8506.271 [ms] (mean)# 第二次测试：
[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10Requests per second: 11.97 [#/sec] (mean)
Time per request: 8354.323 [ms] (mean)# 第三次测试：
[root@bogon tomcat]# ab -n 1000 -c 100 -p data.json -T application/json http://localhost:8080/course/search.do?page=1&pageSize=10Requests per second: 12.94 [#/sec] (mean)
Time per request: 7730.400 [ms] (mean)# 查看当前 tomcat 运行的进程 id
[root@bogon tomcat]# ps -ef | grep tomcat# 查看 堆内存使用情况（8021 是 tomcat 进程 id）
[root@bogon tomcat]# jmap -heap 8021
四、Tomcat专题 - Tomcat性能调优 - JVM垃圾收集器介绍
1、 GC 垃圾回收 策略。JVM 垃圾回收性能有以下两个主要的指标:
- 吞吐量:工作时间(排除Gc时间)占总时间的百分比，工作时间并不仅是程序运行的时间，还包含内存分配时间。
- 暂停时间:测试时间段内，由垃圾回收导致的应用程序停止响应次数/时间。
2、在 sun 公司推出的 HotSpotJVM 中，包含以下几种不同类型的垃圾收集器:
| 垃圾收集器 | 含义说明 | ||
|---|---|---|---|
| 串行收集器 (serial Collector) | 采用单线程执行所有的垃圾回收工作， 适用于单核cpu服务器，无法利用多核硬件的优势 | ||
| 并行收集器 (Parallel Collector) | 又称为吞吐量收集器， 以并行的方式执行年轻代的垃圾回收，该方式可以显著降低垃圾回收的开销(指多条垃圾收集线程并行工作，但此时用户线程仍然处于等待状态)。适用于多处理器或多线程硬件上运行的数据量较大的应用 | ||
| 并发收集器 (Concurrent Collector) | 以并发的方式执行大部分垃圾回收工作，以缩短垃圾回收的暂停时间。适用于那些响应时间优先于吞吐量的应用，因为该收集器虽然最小化了暂停时间(指用户线程与垃圾收集线程同时执行,但不一定是并行的，可能会交替进行)，但是会降低应用程序的性能 | ||
| CMS收集器 (Concurrent Mark sweep Collector) | 并发标记清除收集器，适用于那些更愿意缩短垃圾回收暂停时间并且负担的起与垃圾回收共享处理器资源的应用 | ||
| G1收集器 (Garbage-First Garbage Collector) | 适用于伙容量内存的多核服务器可以在满足垃圾回收暂停时间目标的同时，以最大可能性实现高吞吐量(JDK1.7之后） | ||
3、不同的应用程序，对于垃圾回收会有不同的需求。JVM 会根据运行的平台、服务器资源配置情况选择合适的垃圾收集器、堆内存大小及运行时编译器。如无法满足需求，参考以下准则:
- A、程序数据量较小，选择串行收集器。
- B、应用运行在单核处理器上且没有暂停时间要求，可交由 JVM 自行选择或选择串行收集器，
- C、如果考虑应用程序的峰值性能， 没有暂停时间要求，可以选择并行收集器。
- D、如果应用程序的响应时间比整体吞吐量更重要，可以选择并发收集器。[
4、串行、并行收集器工作线程、GC线程图。
五、 Tomcat专题 - Tomcat性能调优 - 垃圾收集器配置调整
1、查看 tomcat 中的默认的垃圾收集器:
在 tomcat/bin/catalina.sh 的配置中，加入如下配置
# 打开一个终端，切换目录
[root@bogon ~]# cd /usr/local/tomcat# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh # 设置 GC 垃圾 参数后，再次启动 tomcat # 打开并编辑 catalina.sh 文件
[root@bogon tomcat]# [root@bogon tomcat]# vim ./apache-tomcat-8.5.42/bin/catalina.sh# 设置 GC 垃圾 参数JAVA_OPTS="-Djava.rmi.server.hostname=192.168.1.107 -Dcom.sun.management.jmxremote.port=8999 -Dcom.sun.management.jmxremote.rmi.port=8999 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false"JAVA_OPTS="-server -Xms1024m -Xmx1024m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m -XX:SurvivorRatio=8 -Djava.rmi.server.hostname=192.168.1.107 -Dcom.sun.management.jmxremote.port=8999 -Dcom.sun.management.jmxremote.rmi.port=8999 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false"# 启动tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh # 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out2、打开 jconsole 查看远程的 tomcat 的概要信息( C:\Java\jdk1.8.0_131\bin\jconsole.exe )
连接远程 tomcat ( Java 监视和管理控制台-192.168.1.107:8999 )
3、GC 垃圾回收参数配置：
| 参数 | 描述 | ||
|---|---|---|---|
| -XX:+UseserialGC | 启用串行收集器 | ||
| -XX:+UseParallelcC | 启用并行垃圾收集器，配置了该选项，那么-xx:+useparalleloldcc默认启用 | ||
| -XX:+UseParalleloldGC | Fu11GC采用并行收集，默认禁用。如果设置了 -xx:+useparallelGc则自动启用 | ||
| -XX:+UseParNewGC | 年轻代采用并行收集器，如果设置了-xx:+UseconcMarksweepcc选项，自动启用 | ||
| -XX:ParallelGCThreads | 年轻代及老年代垃圾回收使用的线程数。默认值依赖于JVM使用的cpu个数 | ||
| XX:+UseConcMarksweepGC | 对于老年代，启用cs垃圾收集器。 当并行收集器无法满足应用的延迟需求是，推荐使用cMs或G1收集器, 启用该选项后-Xx:+useParNewGc 自动启用， | ||
| -XX:+UseG1GC | 启用G1收集器。 G1是服务器类型的收集器 ， 用于多核、大内存的机器。它在保持高吞吐量的情况下,高概率满足cc暂停时间的目标， | ||
4、可以在 tomcat/bin/catalina.sh 的脚本中 ，追加如下配置，配置 GC 垃圾回收参数。
JAVA_OPTS="-XX:+UseConcMarkSweepGC -XX:+PrintGCDetails"
5、可以在测试的时候，将参数调整之后，将 GC 的信息打印出来，便于进行参数调整提供依据，具体参数如下:
| 选项 | 描述 | ||
|---|---|---|---|
| -XX:+PrintGC | 打印每次GC的信息 | ||
| -XX:+PrintGCApplicationConcurrentTime | 打印最后一次暂停之后所经过的时间，即响应并发执行的时间 | ||
| -XX:+PrintGcApplicationstoppedTime | 打印GC时应用暂停时间 | ||
| -XX:+PrintGCDatestamps | 打印每次GC的日期戳 | ||
| -XX:+PrintGcDetails | 打印每次GC的详细信息 | ||
| -XX:+PrintGCTaskTimestamps | 打印每个GC工作线程任务的时间戳 | ||
| -XX:+PrintGcTimestamps | 打印每次GC的时间截 | ||
6、设置 GC 垃圾回收参数，重新启动 tomcat 进行测试。
# 打开一个终端，切换目录
[root@bogon ~]# cd /usr/local/tomcat# 查询 tomcat 进程的 PID
ps -ef | grep tomcat # 杀死 tomcat 进程
kill -9 PID# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh # 设置 GC 垃圾 参数后，再次启动 tomcat # 打开并编辑 catalina.sh 文件
[root@bogon tomcat]# [root@bogon tomcat]# vim ./apache-tomcat-8.5.42/bin/catalina.sh# 设置 GC 垃圾 参数JAVA_OPTS="-XX:+UseConcMarkSweepGC -XX:+PrintGCDetails"JAVA_OPTS="-server -Xms1024m -Xmx1024m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m -XX:SurvivorRatio=8 -XX:+UseConcMarkSweepGC -XX:+PrintGCDetails -Djava.rmi.server.hostname=192.168.1.107 -Dcom.sun.management.jmxremote.port=8999 -Dcom.sun.management.jmxremote.rmi.port=8999 -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false"# 启动 tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh # 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out
六、Tomcat专题 - Tomcat性能调优 - 链接器配置调整
1、Tomcat 配置调优
调整 tomcat/conf/server.xml 中关干链接器的配置可以提升应用服务器的性能，
| 参数 | 说明 | ||
|---|---|---|---|
| maxConnections | 最大连接数，当到达该值后，服务器接收但不会处理更多的请求， 额外的请求将会阻塞直到连接数低于maxconnections。可通过u1imit -a查看服务器限制。对于cpu要求更高(计算型)时，建议不要配置过大;对于cpu要求不是特别高时，建议配置在2000左右。当然这个需要服务器硬件的支持 | ||
| maxThreads | 最大线程数，需要根据服务器的硬件情况，进行一个合理的设置 | ||
| acceptCount | 最大排队等待数，当服务器接收的请求数量到达maxconnections，此时Tomcat会将后面的请求，存放在任务队列中进行排序，acceptcount指的就是任务队列中排队等待的请求数。-台Tomcat的最大的请求处理数量，是 maxConnections + acceptCount。 | ||
2、tomcat/conf/server.xml 中，设置参数，进行调优测试。
# 打开一个终端，切换目录
[root@bogon ~]# cd /usr/local/tomcat# 查询 tomcat 进程的 PID
ps -ef | grep tomcat # 杀死 tomcat 进程
kill -9 PID# 关闭tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/shutdown.sh # 设置 tomcat 链接器配置调整# 打开并编辑 tomcat/conf/server.xml 文件[root@bogon tomcat]# vim ./apache-tomcat-8.5.42/conf/server.xml <!-- tomcat 调优设置 --><Connector port="8080" protocol="HTTP/1.1"connectionTimeout="20000"redirectPort="8443"maxConnections="1000"maxThreads="500"acceptCount="200"/># 启动 tomcat
[root@bogon tomcat]# ./apache-tomcat-8.5.42/bin/startup.sh # 查看tomcat运行日志
[root@bogon tomcat]# tail -f ./apache-tomcat-8.5.42/logs/catalina.out
上一节关联链接请点击
# 利刃出鞘_Tomcat 核心原理解析（九）
# 利刃出鞘_Tomcat 核心原理解析（十）-- Tomcat 性能调优–1
