springboot内置tomcat支持最大的并发量问题怎么解决

这篇文章主要介绍“SpringBoot内置Tomcat支持最大的并发量问题怎么解决”的相关知识，小编通过实际案例向大家展示操作过程，操作方法简单快捷，实用性强，希望这篇“springboot内置tomcat支持最大的并发量问题怎么解决”文章能帮助大家解决问题。

springboot内置的tomcat支持最大的并发量

SpringBoot内置Tomcat，在默认设置中，Tomcat的最大线程数是200，最大连接数是10000。支持的并发量是指连接数，也就是说 支持最大并发量是一万(默认)

Tomcat有两种处理连接的模式

1，是Bio，一个线程只处理一个Socket连接，

2，是NIO，一个线程处理多个Socket连接。

由于Http请求不会太耗时，而且多个连接一般不会同时来消息，所以一个线程处理多个连接没有太大问题。一个线程处理多个连接数会很慢 有可能会超时

默认内嵌Tomcat配置

• server.tomcat.accept-count：等待队列长度，当可分配的线程数全部用完之后，后续的请求将进入等待队列等待，等待队列满后则拒绝处理，默认100。

• server.tomcat.max-connections：最大可被连接数，默认10000

• server.tomcat.max-threads：最大工作线程数，默认200,

• server.tomcat.min-spare-threads：最小工作线程数，初始化分配线程数，默认10

默认配置下，连接超过10000后会出现拒绝连接情况

默认配置下，触发的请求超过200+100后拒绝处理(最大工作线程数+等待队列长度)

如果默认配置无法满足当前需求 可以自己调优 可以手动修改配置来进行处理并发

修改pro文件

server.port=7001server.tomcat.accept-count=1000server.tomcat.max-connections=10000server.tomcat.max-threads=500server.tomcat.min-spare-threads=100

然后 打包重启项目

kill -9 9545   //杀死进程

ps -ef | grep java   //查看项目启动的端口

pstree -p 7968 | wc -l    //查看进程数

我们也可以使用配置文件, 可以新增WEBServerConfiguration.java文件

import org.apache.catalina.connector.Connector;import org.apache.coyote.http11.Http11NioProtocol;import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer;import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory;import org.springframework.boot.web.server.ConfigurableWebServerFactory;import org.springframework.boot.web.server.WebServerFactoryCustomizer;import org.springframework.stereotype.Component;//当Spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时，会吧此bean加载进spring容器中@Componentpublic class WebServerConfiguration implements WebServerFactoryCustomizer<ConfigurableWebServerFactory> {    @Override    public void customize(ConfigurableWebServerFactory configurableWebServerFactory) {            //使用对应工厂类提供给我们的接口定制化我们的tomcat connector        ((TomcatServletWebServerFactory)configurableWebServerFactory).addConnectorCustomizers(new TomcatConnectorCustomizer() {            @Override            public void customize(Connector connector) {                Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();                //定制化keepalivetimeout,设置30秒内没有请求则服务端自动断开keepalive链接                protocol.seTKEepAliveTimeout(30000);                //当客户端发送超过10000个请求则自动断开keepalive链接                protocol.setMaxKeepAliveRequests(10000);            }        });    }}

备注：

MySQL 数据库 QPS 容量问题：

• 主键查询： 千万级别数据 == 1-10 ms

• 唯一索引查询： 千万级别数据 == 10-100 ms

• 非唯一索引查询： 千万级别数据 == 100-1000ms

• 无索引数据： 百万级别数据 == 1000ms+

MySQL 数据库 TPS 容量问题：

• 非插入的更新删除操作： 同查询

• 插入操作： 1w~10w tps(依赖配置优化)

提高tomcat并发量的几种方法

Apache + Tomcat 结合起来用Apache负责静态页面，Tomcat负责动态页面，同时减少connectionTimeout的时间，以应对并发量大线程回收来不及的情况。

压力过大的问题，可以做负载均衡，一个TOMCAT无论如何也不可能担当如此多的线程负载，而且JVM过大，其内存管理成本将显著加大。2G的内存，做3-4个TOMCAT实例（512RAM*4），更为科学合理。

数据库连接池，不少人，都推荐使用C3P0，能提高访问数据库的并发性能好几倍。

采用Tomcat集群可以最大程度的发挥服务器的性能，可以在配置较高的服务器上部署多个Tomcat，也可以在多台服务器上分别部署Tomcat，Apache和Tomcat整合的方式还是JK方式。经过验证，系统对大用户量使用的响应方面，Apache+3Tomccat集群> Apache+2Tomcat集群 > Apache集成Tomcat > 单个Tomcat。并且采用Apache+多Tomcat集群的部署方式时，如果一个Tomcat出现宕机，系统可以继续使用，所以在硬件系统性能足够优越的情况下，需要尽量发挥软件的性能，可以采用增加Tomcat集群的方式。

设置MPM（Multi Processing Modules多道处理模块）。ThreadPerChild,这个参数用于设置每个进程的线程数，在windows环境下默认值是64，最大值是1920，建议设置为100-500之间，服务器性能高的话值大一些，反之小一些。MaxRequestPerChild表示每个子进程能够处理的最大请求数。这个参数的值更大程度上取决于服务器的内存，如果内存比较大的话可以设置为很大的参数，否则设置一个较小的值，建议值是3000.

关闭DNS和名字解析 HostnameLookups off

打开UseCanonicalName模块 UseCanonicalName on

关闭多余模块 一般来说，不需要加载的模块有，mod_include.so、mod_autoindex.so、mod_access.so、mod_auth.so.

打开KeepAlive支持

KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000

根据实际经验，通过Apache和Tomcat集群的方式提高系统性能的效果十分明显，这种方式可以最大化的利用硬件资源，通过多个Tomcat的处理来分担单Tomcat时的压力。

web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，linux是1000个左右。

关于“springboot内置tomcat支持最大的并发量问题怎么解决”的内容就介绍到这里了，感谢大家的阅读。如果想了解更多行业相关的知识，可以关注编程网精选频道，小编每天都会为大家更新不同的知识点。