iis服务器助手广告广告
返回顶部
首页 > 资讯 > 服务器 >Tomcat修正JDK原生线程池bug的实现原理
  • 247
分享到

Tomcat修正JDK原生线程池bug的实现原理

2024-04-02 19:04:59 247人浏览 八月长安
摘要

为提高处理能力和并发度,WEB容器一般会把处理请求的任务放到线程池,而jdk的原生线程池先天适合CPU密集型任务,于是Tomcat改造之。 Tomcat 线程池原理 其实Thread

为提高处理能力和并发度,WEB容器一般会把处理请求的任务放到线程池,而jdk的原生线程池先天适合CPU密集型任务,于是Tomcat改造之。

Tomcat 线程池原理

其实ThreadPoolExecutor的参数主要有如下关键点:

限制线程个数

限制队列长度

而Tomcat对这俩资源都需要限制,否则高并发下CPU、内存都有被耗尽可能。
因此Tomcat的线程池传参:


// 定制的任务队列
taskqueue = new TaskQueue(maxQueueSize);

// 定制的线程工厂
TaskThreadFactory tf = new TaskThreadFactory(namePrefix,
							                 daemon,
							                 getThreadPriority()
);

// 定制线程池
executor = new ThreadPoolExecutor(getMinSpareThreads(),
								  getMaxThreads(),
				 			      maxIdleTime, 
				 			      TimeUnit.MILLISECONDS,
				 			      taskqueue,
				 			      tf);

Tomcat对线程数也有限制,设置:

  • 核心线程数(minSpareThreads)
  • 最大线程池数(maxThreads)

Tomcat线程池还有自己的特色任务处理流程,通过重写execute方法实现了自己的特色任务处理逻辑:

  1. 前corePoolSize个任务时,来一个任务就创建一个新线程
  2. 再有任务,就把任务放入任务队列,让所有线程去抢。若队列满,就创建临时线程
  3. 总线程数达到maximumPoolSize,则继续尝试把任务放入任务队列
  4. 若缓冲队列也满了,插入失败,执行拒绝策略

和 JDK 线程池的区别就在step3,Tomcat在线程总数达到最大数时,不是立即执行拒绝策略,而是再尝试向任务队列添加任务,添加失败后再执行拒绝策略。

具体又是如何实现的呢?


public void execute(Runnable command, long timeout, TimeUnit unit) {
    submittedCount.incrementAndGet();
    try {
        // 调用JDK原生线程池的execute执行任务
        super.execute(command);
    } catch (RejectedExecutionException rx) {
       // 总线程数达到maximumPoolSize后,JDK原生线程池会执行默认拒绝策略
        if (super.getQueue() instanceof TaskQueue) {
            final TaskQueue queue = (TaskQueue)super.getQueue();
            try {
                // 继续尝试把任务放入任务队列
                if (!queue.force(command, timeout, unit)) {
                    submittedCount.decrementAndGet();
                    // 若缓冲队列还是满了,插入失败,执行拒绝策略。
                    throw new RejectedExecutionException("...");
                }
            } 
        }
    }
}

定制任务队列

Tomcat线程池的execute方法第一行:


submittedCount.incrementAndGet();

任务执行失败,抛异常时,将该计数器减一:


submittedCount.decrementAndGet();

Tomcat线程池使用 submittedCount 变量维护已提交到线程池,但未执行完的任务数量。

为何要维护这样一个变量呢?

Tomcat的任务队列TaskQueue扩展了JDK的LinkedBlockingQueue,Tomcat给了它一个capacity,传给父类LinkedBlockingQueue的构造器。


public class TaskQueue extends LinkedBlockingQueue<Runnable> {

  public TaskQueue(int capacity) {
      super(capacity);
  }
  ...
}

capacity参数通过Tomcat的maxQueueSize参数设置,但maxQueueSize默认值Integer.MAX_VALUE:当前线程数达到核心线程数后,再来任务的话线程池会把任务添加到任务队列,并且总会成功,就永远无机会创建新线程了。

为解决该问题,TaskQueue重写了LinkedBlockingQueue#offer,在合适时机返回false,表示任务添加失败,这时线程池就会创建新线程。

什么叫合适时机?


public class TaskQueue extends LinkedBlockingQueue<Runnable> {

  ...
   @Override
  // 线程池调用任务队列的方法时,当前线程数 > core线程数
  public boolean offer(Runnable o) {

      // 若线程数已达max,则不能创建新线程,只能放入任务队列
      if (parent.getPoolSize() == parent.getMaximumPoolSize()) 
          return super.offer(o);
          
      // 至此,表明 max线程数 > 当前线程数 > core线程数
      // 说明可创建新线程:
      
      // 1. 若已提交任务数 < 当前线程数
      //    表明还有空闲线程,无需创建新线程
      if (parent.getSubmittedCount()<=(parent.getPoolSize())) 
          return super.offer(o);
          
      // 2. 若已提交任务数 > 当前线程数
      //    线程不够用了,返回false去创建新线程
      if (parent.getPoolSize()<parent.getMaximumPoolSize()) 
          return false;
          
      // 默认情况下总是把任务放入任务队列
      return super.offer(o);
  }
  
}

所以Tomcat维护 已提交任务数 是为了在任务队列长度无限时,让线程池还能有机会创建新线程。

到此这篇关于Tomcat是如何修正JDK原生线程池bug的的文章就介绍到这了,更多相关Tomcat JDK原生线程池内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Tomcat修正JDK原生线程池bug的实现原理

本文链接: https://www.lsjlt.com/news/133015.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • Tomcat修正JDK原生线程池bug的实现原理
    为提高处理能力和并发度,Web容器一般会把处理请求的任务放到线程池,而JDK的原生线程池先天适合CPU密集型任务,于是Tomcat改造之。 Tomcat 线程池原理 其实Thread...
    99+
    2024-04-02
  • jdk线程池的实现
    jdk线程池ThreadPoolExecutor的7个参数 public ThreadPoolExecutor(int corePoolSize, ...
    99+
    2023-05-14
    jdk线程池
  • C/C++ 原生API实现线程池的方法
    线程池有两个核心的概念,一个是任务队列,一个是工作线程队列。任务队列负责存放主线程需要处理的任务,工作线程队列其实是一个死循环,负责从任务队列中取出和运行任务,可以看成是一个生产者和...
    99+
    2024-04-02
  • 线程池的原理与实现详解
    一. 线程池的简介通常我们使用多线程的方式是,需要时创建一个新的线程,在这个线程里执行特定的任务,然后在任务完成后退出。这在一般的应用里已经能够满足我们应用的需求,毕竟我们并不是什么...
    99+
    2022-11-15
    线程池 原理
  • Java线程池实现原理总结
    目录一、线程池参数二、线程池执行流程三、四种现成的线程池要理解实现原理,必须把线程池的几个参数彻底搞懂,不要死记硬背 一、线程池参数 1、corePoolSize(必填):核心线程数...
    99+
    2024-04-02
  • Java线程池实现原理是什么
    这篇文章主要讲解了“Java线程池实现原理是什么”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Java线程池实现原理是什么”吧!一、线程池参数corePoolSize(必填):核心线程数。m...
    99+
    2023-06-28
  • SpringBoot线程池和Java线程池的使用和实现原理解析
    目录SpringBoot线程池和Java线程池的用法和实现原理使用默认的线程池方式一:通过@Async注解调用方式二:直接注入 ThreadPoolTaskExecutor...
    99+
    2023-05-15
    SpringBoot线程池和Java线程池用法 SpringBoot线程池
  • 深入理解Java编程线程池的实现原理
    在前面的文章中,我们使用线程的时候就去创建一个线程,这样实现起来非常简便,但是就会有一个问题:如果并发的线程数量很多,并且每个线程都是执行一个时间很短的任务就结束了,这样频繁创建线程就会大大降低系统的效率,因为频繁创建线程和销毁线程需要时间...
    99+
    2023-05-30
    java 线程池 ava
  • Java中线程池的实现原理是什么
    这篇文章给大家介绍Java中线程池的实现原理是什么,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。线程池是什么?我们可以利用java很容易创建一个新线程,同时操作系统创建一个线程也是一笔不小的开销。所以基于线程的复用,就...
    99+
    2023-05-31
    java 线程池 ava
  • Java中实现线程池的原理是什么
    Java中实现线程池的原理是什么,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。01.***制线程的缺点多线程的软件设计方法确实可以***限度地发挥多核处理器的计算能力,提高生产...
    99+
    2023-06-16
  • java线程池的实现原理源码分析
    这篇文章主要介绍“java线程池的实现原理源码分析”,在日常操作中,相信很多人在java线程池的实现原理源码分析问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”java线程池的实现原理源码分析”的疑惑有所帮助!...
    99+
    2023-06-30
  • java线程池的实现原理、优点与风险、以及4种线程池实现
    为什么需要线程池 我们有两种常见的创建线程的方法,一种是继承Thread类,一种是实现Runnable的接口,Thread类其实也是实现了Runnable接口。但是我们创建这两种线程...
    99+
    2023-02-18
    java 线程池的实现原理 java 线程池优点与风险 java 4种线程池实现 java 配置线程池大小配置 java 线程池的实现原理
  • C/C++ 原生API实现线程池的方法是什么
    本篇内容主要讲解“C/C++ 原生API实现线程池的方法是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“C/C++ 原生API实现线程池的方法是什么”吧!线程池有两个核心的概念,一个是任务队...
    99+
    2023-06-25
  • java线程池的工作原理
    这篇文章主要讲解了“java线程池的工作原理”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“java线程池的工作原理”吧!一、线程池创建先看一下ThreadPoolExecutor参数最全的构...
    99+
    2023-05-30
  • 从java源码分析线程池(池化技术)的实现原理
    目录线程池的起源线程池的定义和使用方案一:Executors(仅做了解,推荐使用方案二)方案二:ThreadPoolExecutor线程池的实现原理前言: 线程池是一个非常重要的知识...
    99+
    2024-04-02
  • 深度源码解析Java 线程池的实现原理
    目录线程池的优点线程池的实现原理ThreadPoolExecutor阻塞队列线程池工厂拒绝策略提交任务到线程池execute 方法submit 方法关闭线程池合理的参数7、本文小结j...
    99+
    2024-04-02
  • android线程池的原理是什么
    Android线程池的原理是通过管理和调度线程来实现并发执行任务的机制。线程池主要由线程池管理器、工作队列和线程池的线程组成。线程池...
    99+
    2023-09-23
    android
  • 如何理解线程池的工作原理
    本篇内容主要讲解“如何理解线程池的工作原理”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“如何理解线程池的工作原理”吧!什么是线程池「小田螺」 勤勤恳恳,任劳任怨...
    99+
    2024-04-02
  • 线程池的工作原理是什么
    这篇文章主要讲解了“线程池的工作原理是什么”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“线程池的工作原理是什么”吧!线程池的自我介绍我是一个线程池(Thre...
    99+
    2024-04-02
  • 深入剖析 Java 线程池的原理与实践
    原理 线程池维护一个固定大小的线程池,这些线程处于空闲状态,等待处理任务。当一个任务提交给线程池时,它会分配一个空闲线程来执行它。如果所有线程都处于繁忙状态,则新任务将放入队列中等待执行。 线程池的常见参数包括: 核心线程数:线程池中最...
    99+
    2024-03-13
    线程池
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作