关于springboot内置tomcat最大请求数配置的一些问题

前言

springboot内置了tomcat。那么一个springboot web应用，最大的请求链接数是多少呢？很早以前就知道这个是有个配置，需要的时候，百度一下即可。但，事实并非如此，有几个问题我想大多数人还真不知道。比如：

  • 为什么会有最大连接数和等待队列两个配置：要限制最大链接，用一个最大连接数限制即可，搞个等待队列有什么用呢？（我看网上有说，就像是餐厅有在餐厅里等待上菜的（最大链接数），也有在外坐小板凳排队的（等待队列），但，餐厅这么设计，可以说是由于实际场地等因素，那程序呢？它考虑的是什么？）
  • 有两个应用A、B，A调用B的一个接口，A在http请求方法的开始和结尾记录了时间，相减得到值是20s，B方法在controller方法的开头和结尾(或者AOP拦截)也记录了时间是10s，如果认为接口15s以内都是正常的，那么B就会认为自己的接口正常，A认为B的接口不正常。那么这差的10s问题出在哪里？

说明：

  1. 有些结论叙述不太准，但是这并不重要，理解所表达的意思即可，不要纠结一个答案；
  2. 有些配置的默认值，或者结论现象和网上其他说法不同，不必怀疑，可能大家都是对的，我们的环境不同罢了。

正文

关于spirngboot内置tomcat的最大请求数，大体有如下四个配置：（后续配置中，如不特殊说明，都是按照这个参数值来进行验证）

#最少的工作线程数，默认大小是10
server.tomcat.threads.min-spare=1
#最多的工作线程数，默认大小是200
server.tomcat.threads.max=2
#最大连接数，默认大小是8192。表示Tomcat可以处理的最大请求数量，超过8192的请求就会被放入到等待队列。
server.tomcat.max-connections=2
#等待队列的长度，默认大小是100。
server.tomcat.accept-count=4

结论

先直接上结论，后续一一用代码来实际论证：

  1. 最小工作线程数server.tomcat.threads.min-spare是一个优化配置，应用启动就会创建相应数目的线程（不管有没有请求），这些线程是不会被销毁的，而server.tomcat.threads.max是在请求的任务数多的时候，会临时创建的线程，之后这些线程会被销毁；
  2. 最大可接受的请求数为：server.tomcat.max-connections + server.tomcat.accept-count,超过该数目会拒绝请求；
  3. 最多能同时工作的线程数是：server.tomcat.threads.max
  4. 如果配置server.tomcat.max-connections 小于server.tomcat.threads.max，那么实际中创建的任务线程数应该是：server.tomcat.max-connections
  5. 最大连接数中的请求没有处理完之前，是不会处理等待队列中的请求的；
  6. 假如把最大连接数和等待队列都看作容器：那么
    • 并非是要等最大链接数中的链接，全部处理完了，才会处理等待队列中的链接，而是最大链接容器中，有空位了，等待队列中就会有个链接进入最大链接容器，从而又可以接受一个新的链接了（debug源码发现：其实接受最大链接的池子是一个无限队列，但是通过server.tomcat.max-connections来控制这个最多能容纳的链接，当等于max-connections之后，新的链接就会进入等待队列，判断是否拒绝链接，是判断当前请求中，server.tomcat.accept-count的值是否大于等于配置值，如果是就拒绝链接）
    • 等待队列的存在是有意义的，特别是在异步请求

论证

这里我准备了一个接口，不考虑其他代码（如拦截器、过滤器之类的）的执行耗时，就认为这个接口的耗时时间为10s：

@GetMapping("/test10")
public String test10() throws InterruptedException {log.info("当前线程test10：{}.", Thread.currentThread().getName());Thread.sleep(10000);return "test10s";
}

应用启动就会创建min-spare个线程

依次将server.tomcat.threads.min-spare设置为1、2、3，会发现项目启动后，就会创建对应多个数目的线程数（不要将该数值设置的大于server.tomcat.threads.max），当链接超过了这个最小的线程数之后，就会再创建线程，但是不会超过最大链接数，这些线程最终会被销毁（项目启动时创建的server.tomcat.threads.min-spare的线程却不会被销毁）

image.png

image.png

image.png

最大可接受请求数：server.tomcat.max-connections + server.tomcat.accept-count

现在配置的server.tomcat.max-connections + server.tomcat.accept-count 为7，那么发起7个请求，就应该有6个请求得到正常响应，一个请求被拒绝：

image.png

最多能同时工作的线程数是：server.tomcat.threads.max

同样，用上面的验证结果，看响应时间：

image.png

我配置的server.tomcat.threads.max为2，意味着同时有两个线程会执行请求。那么，接口耗时10s，每两个线程的响应时间是相同的，两两之间相差10秒。

想一下开头说的：A、B两应用接口调用有10s的时间对不上，也许有一种可能就是这里：从接口打印的时间来看，是10秒，但是实际的响应却是10s、20s、30s。

由此可见：有些项目所谓的接口响应时间的记录，其实仅仅是记录的业务代码的执行时间。对于请求方而言，并非接口的响应时间。知道这个，对于分析问题，又多了一种思路了。

如果配置server.tomcat.max-connections 小于server.tomcat.threads.max，那么实际中创建的任务线程数应该是：server.tomcat.max-connections

这种配置法，在实际中是不存在的，我想，应该不会有人这么干吧！！！

server.tomcat.threads.min-spare=1
server.tomcat.threads.max=3
server.tomcat.max-connections=2
server.tomcat.accept-count=4

依然是7个请求并发，结果一个失败，6个成功，耗时30秒：

image.png

看这个图，时间依旧是两两一组，说明虽然允许最多创建3个任务线程，但是实际最大链接有2个，那么也认为只有两个任务要执行，而不会管等待队列中的任务。只有等最大链接池中的任务有执行完的了，才会让等待队列中的任务进来。
如果把server.tomcat.threads.min-spare设置为3，结果也是一样的。

最大连接数中的请求没有处理完之前，是不会处理等待队列中的请求的

这个结论是在其他地方看到的，当时一直不理解：假如最大链接数中有10个请求，等待有2个，那么必须要等到这10个请求全部完成了，才会处理等待队列的两个吗？其实，这句话的意思应该是，创建出的线程只会处理最大连接数中的请求，当有一个请求完了之后，才会让等待队列中的请求进来，然后然后又被任务线程处理。即便有空余的任务线程，也不会处理等待队列中的请求。在：

如果配置server.tomcat.max-connections 小于server.tomcat.threads.max，那么实际中创建的任务线程数应该是：server.tomcat.max-connections

已经论证了。

等待队列存在的作用

虽然之前也有说了，最大连接数中的请求没有处理完之前，是不会处理等待队列中的请求的，但这个作用意义不大，毕竟在实际中，不会有人配置工作线程数小于最大线程数。
所以，从以上现象中看，这个等待队列的意义不大（从我的测试结果看，这个确实没有啥意义，但是如果看源码，它还是有作用的，但我认为按照官方指导数来配置就可以了，理解它的作用比较抽象），除非————使用异步请求。

之前的接口，都是同步请求的：工作线程从最大链接容器中拿取一个人请求处理，处理完之后，再拿取下一个，它所针对的是最大链接，和等待队列没有关系，但等待队列看到最大链接中有空位了，就安排它的一个链接请求去补位，所以，从这里看它的存在意义不大。

但如果是异步请求中，这个等待队列就有意义了：如之前所说，工作线程只管最大请求链接中的请求。那么如果我允许项目的最大链接说是10，只有一个参数控制这个值的话，在异步线程中几乎可以认为会同时处理10个请求，但有了等待队列，则可以控制同时处理的请求数了。描述的不是很准确，直接看结果：增加一个异步请求接口和之前的同步请求逻辑一样，从客户端的角度看，这两个接口都是耗时10s：

@GetMapping("/testCallAble")
public Callable<String> testCallAble(){return () -> {log.info("当前线程：{}.", Thread.currentThread().getName());Thread.sleep(10000);return "hello";};
}

使用如下配置参数，依次请求两个接口：7个并发请求：

server.tomcat.threads.min-spare=1
server.tomcat.threads.max=2
server.tomcat.max-connections=4
server.tomcat.accept-count=2

异步请求结果：1个请求失败，总耗时20秒：有4个请求（server.tomcat.max-connections的值）是同一时间返回的：说明任务线程由于异步请求，它空闲出来之后会处理最大链接数中的其他请求，但是不会处理等待队列中的请求。如果没有等待队列，那么就会造成这个异步线程会一下处理6(server.tomcat.max-connections+server.tomcat.accept-count)个请求链接的业务方法,这个时候可能服务器没有足够的资源。
image.png

同步请求结果：1个请求失败，总耗时30秒：每两个请求的响应时间是相同的：
image.png

通过以上例子以及之前的例子，对于这个等待队列，应该有了个较为清晰且模糊的认识了吧。哈哈！！！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/829483.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

前端学习＜四＞JavaScript——54-原型链

前端学习＜四＞JavaScript——54-原型链

常见概念 构造函数 构造函数-扩展 原型规则和示例 原型链 instanceof 构造函数 任何一个函数都可以被 new&#xff0c;new 了之后&#xff0c;就成了构造方法。 如下&#xff1a; function Foo(name, age) {this.name name;this.age age;//retrun this; //默认有这…
阅读更多...
NEFU计算机图形学实验四

NEFU计算机图形学实验四

编写二次插值样条曲线生成函数&#xff0c;然后利用该函数根据自己设计的型值点绘制出相应的曲线图形。 // erView.cpp : implementation of the CErView class //#include "stdafx.h" #include "er.h"#include "erDoc.h" #include "erVie…
阅读更多...
大型语言模型高效推理综述

大型语言模型高效推理综述

论文地址&#xff1a;2404.14294.pdf (arxiv.org) 大型语言模型&#xff08;LLMs&#xff09;由于在各种任务中的卓越表现而受到广泛关注。然而&#xff0c;LLM推理的大量计算和内存需求给资源受限的部署场景带来了挑战。该领域的努力已经朝着开发旨在提高LLM推理效率的技术方…
阅读更多...
C语言递归刷题（一）

C语言递归刷题（一）

目录 走台阶题目思路代码 西格玛题目思路代码 用函数实现数的阶乘题目思路代码 digit题目思路代码 Hermite多项式题目思路代码 排列数题目思路代码 逆序输出题目思路代码 结语 走台阶 题目 描述 小乐乐上课需要走n阶台阶&#xff0c;因为他腿比较长&#xff0c;所以每次可以选…
阅读更多...
常见的SSH功能

常见的SSH功能

SSH&#xff08;Secure Shell&#xff09;是一种加密的网络传输协议&#xff0c;用于在不安全的网络中为网络服务提供安全的传输环境。SSH最初是由芬兰的一家公司开发的&#xff0c;现在已经成为互联网上最常用的远程登录工具之一。SSH提供了许多强大的功能&#xff0c;让我们能…
阅读更多...
挑战特斯拉？深蓝汽车与华为强强联手

挑战特斯拉？深蓝汽车与华为强强联手

作为中国乃至全球汽车行业的盛宴&#xff0c;4月25日在中国国家展览中心揭幕的2024北京国际车展&#xff0c;吸引了无数企业行业人士的关注。 而就在车展开幕当天&#xff0c;深蓝汽车发布会就爆出了一个大新闻&#xff1a;深蓝汽车将携手华为&#xff0c;打造比特斯拉更好的智…
阅读更多...
面试逻辑题，有8个小球和一个天平，一个小球偏重，其它小球一样重，问最少称几次可以找出那个重球？

面试逻辑题，有8个小球和一个天平，一个小球偏重，其它小球一样重，问最少称几次可以找出那个重球？

1. 问题描述 现在有8个小球和一个天平&#xff0c;已知其中1个小球偏重&#xff0c;其余小球重量相等。问&#xff1a;最少称几次一定可以找出那个重量更大的小球&#xff1f; 2. 解题思路 第一次称重&#xff1a;将任意三个小球放在天平的左边&#xff0c;将另外三个小球放…
阅读更多...
【内附完整redis配置文件】linux服务器命令设置redis最大限制内存大小，设置redis内存回收机制，redis有哪些回收机制

【内附完整redis配置文件】linux服务器命令设置redis最大限制内存大小，设置redis内存回收机制，redis有哪些回收机制

redis经常出现进程自己挂掉&#xff0c;经排查后是因为redis占用内存过大&#xff0c;导致服务器内存爆满进程自己挂掉 第一步&#xff1a;打开 Redis 的配置文件 打开 Redis 的配置文件 redis.conf&#xff0c;通常位于 /etc/redis/redis.conf。 第二步&#xff1a;设置redi…
阅读更多...
【开发问题记录】启动某个服务时请求失败（docker-componse创建容器时IP参数不正确）

【开发问题记录】启动某个服务时请求失败（docker-componse创建容器时IP参数不正确）

问题记录 一、问题描述1.1 产生原因1.2 产生问题 二、问题解决2.1 找到自己的docker-compose.yml文件2.2 重新编辑docker-compose.yml文件2.3 通过docker-componse重新运行docker-compose.yml文件2.4 重新启动docker容器2.5 查看seata信息 一、问题描述 1.1 产生原因 因为我是…
阅读更多...
FPGA 以太网通信UDP通信环回

FPGA 以太网通信UDP通信环回

1 实验任务 上位机通过网口调试助手发送数据给 FPGA &#xff0c; FPGA 通过 PL 端以太网接口接收数据并将接收到的数据发送给上位机&#xff0c;完成以太网 UDP 数据的环回。 2 系统设计 系统时钟经过PLL时钟模块后&#xff0c;生成了两种不同频率和相位的时钟信号&#…
阅读更多...
第29篇 分布式网站

第29篇 分布式网站

大型分布式网站架构是指将一个网站系统分解为多个独立的组件或服务&#xff0c;这些组件或服务部署在不同的物理或虚拟机器上&#xff0c;协同工作以提供高效、可靠且可扩展的网站功能。这种架构设计旨在应对高并发访问、处理海量数据、保证服务高可用性、快速响应业务变化及增…
阅读更多...
Python 面向对象——6.封装

Python 面向对象——6.封装

本章学习链接如下&#xff1a; Python 面向对象——1.基本概念 Python 面向对象——2.类与对象实例属性补充解释&#xff0c;self的作用等 Python 面向对象——3.实例方法&#xff0c;类方法与静态方法 Python 面向对象——4.继承 Python 面向对象——5.多态 1. 封装的基…
阅读更多...
unity cinemachine相机 （案例 跟随角色移动）

unity cinemachine相机 （案例 跟随角色移动）

安装相机包 打开包管理工具 在 unity registry 搜索cinemachine 会在maincamera中生成一个组件cinemachineBrain 只能通过虚拟相机操控 主相机 虚拟相机的参数 案例 1.固定相机效果 位置 在固定的地方 默认的模式 2.相机跟随人物效果 焦距设置 20 跟随设置 把playere…
阅读更多...
使用Tortoise 创建远程分支

使用Tortoise 创建远程分支

1。首先创建本地分支branch1&#xff0c;右键tortoise git->创建分支&#xff0c;输入分支名称branch1&#xff0c;确定。 2。右键tortoise git->推送&#xff0c;按下图设置&#xff0c;确定&#xff0c;git会判断远程有没有分支branch1&#xff0c;如果没有会自动创建…
阅读更多...
centOS7.9| 无root安装 openssl 1.1.1

centOS7.9| 无root安装 openssl 1.1.1

这里写自定义目录标题 0.先安装 gcc121.下载和编译 openssl 1.1.12. 让 pkg-config 能找到.pc文件 0.先安装 gcc12 见之前的博客: 无root编译安装 gcc12 1.下载和编译 openssl 1.1.1 https://www.openssl.org/source/https://github.com/openssl/openssl/releases?page3 (2…
阅读更多...
重看Spring聚焦Environment分析

重看Spring聚焦Environment分析

目录 一、理解Environment的设计 &#xff08;一&#xff09;整体理解 &#xff08;二&#xff09;聚焦Profiles分析 &#xff08;三&#xff09;聚焦Properties分析 二、Environment类图结构分析 三、PropertyResolver源码分析 &#xff08;一&#xff09;源码展示说明…
阅读更多...
C语言学习/复习36

C语言学习/复习36

一、程序的环境与预处理 二、翻译环境与执行环境 三、运行环境 四、预编译(预处理)详解
阅读更多...
【SpringBoot】92、SpringBoot中使用SSE实现服务端向客户端推送实时消息

【SpringBoot】92、SpringBoot中使用SSE实现服务端向客户端推送实时消息

在Spring Boot中整合Server-Sent Events (SSE) 是一种简单且有效的方法，用于实现服务器向客户端推送实时更新的功能。SSE 是一种服务器到客户端的单向通信协议，允许服务器推送消息到客户端，而不需要客户端发出请求。 1、添加依赖 首先，确保你的Spring Boot项目中已经包含…
阅读更多...
mac电脑搭建vue环境（上篇）

mac电脑搭建vue环境（上篇）

第一步&#xff1a;mac电脑要有homebrew&#xff0c;如何安装homebrew 点击下方 MAC安装homebrew-CSDN博客 第二步&#xff1a;homebrew安装node.js 第三步&#xff1a;安装npm 第四步&#xff1a;安装webpack 第五步&#xff1a;安装vue脚手架 第六步&#xff1a;可以在…
阅读更多...
大文件分片上传前端手写

大文件分片上传前端手写

此前介绍过&#xff0c;文件上传前端有造好的轮子可以方便使用&#xff0c;比如百度fex的webuploader。那么我们离开这些轮子&#xff0c;自己手写一个难不难呢&#xff1f;完成基本功能确实不难&#xff0c;但是要把方方面面的情况都考虑到&#xff0c;那可就不简单了。我们先…
阅读更多...
最新文章

Copyright @ 2022~2023