java-SpringBoot-线程池配置-压力测试(理论版)

线程池

描述

• 当代码中需要创建线程时使用(如:异步订单处理,批量数据处理,数据导出导入类等不需要实时返回的情况)

原理

1. 配置线程池
2. 使用线程池工具创建线程(new Thread() 不算)
3. 当执行创建第一个线程代码时,开始创建第一次核心线程
4. 每次创建线程,判断是否超线程池配置的最小值,如果未超正常创建核心线程
5. 超了线程池配置的最小值,进队列
6. 队列也满了,判断是否达到线程池配置的最大值,如果未超,创建非核心线程
7. 超了线程池配置的最大值,后续超出的线程根据配置的拒绝策略执行

线程池配置

线程池配置来源:可以根据压力测试得到的结果来做配置

主要参数

线程池最小值

描述:每次创建线程,判断是否超线程池配置的最小值,如果未超正常创建核心线程

线程池最大值

描述:当前线程达到线程池配置的最小值,并且队列也满了,判断是否达到线程池配置的最大值,如果未超,创建非核心线程

队列最大长度

描述:每次创建线程,判断是否超线程池配置的最小值,如果未超正常创建核心线程,超了线程池配置的最小值,进队列,当前线程达到线程池配置的最小值,并且队列也满了,判断是否达到线程池配置的最大值,如果未超,创建非核心线程

线程池前缀

描述:用于日志区分对应线程

//创建线程池对象 ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor(); //配置线程池最小数量 executor.setCorePoolSize(10); //配置线程池最大数量 executor.setMaxPoolSize(200); //配置队列最大长度 executor.setQueueCapacity(10); //配置线程池前缀 executor.setThreadNamePrefix("executor-");

线程池拒绝策略

描述:当队列满了,并且线程达到线程池配置的最大值,后续超出的线程根据配置的拒绝策略执行

配置线程池代码

ps:拿已上线springBoot工程配置代码

import org.springframework.beans.factory.annotation.Value; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import org.springframework.core.task.TaskExecutor; import org.springframework.scheduling.annotation.EnableAsync; import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor; import java.util.concurrent.ThreadPoolExecutor; @Configuration @EnableAsync(proxyTargetClass = true) public class AsycTaskConfig { /** * 线程池维护线程的最小数量. */ @Value("${asyc-task.corePoolSize:10}") private int corePoolSize; /** * 线程池维护线程的最大数量 */ @Value("${asyc-task.maxPoolSize:200}") private int maxPoolSize; /** * 队列最大长度 */ @Value("${asyc-task.queueCapacity:10}") private int queueCapacity; /** * 线程池前缀 */ @Value("${asyc-task.threadNamePrefix:executor-}") private String threadNamePrefix; @Bean public TaskExecutor taskExecutor() { ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor(); executor.setCorePoolSize(corePoolSize);//最小线程池数量 executor.setMaxPoolSize(maxPoolSize);//最大线程池数量 executor.setQueueCapacity(queueCapacity);//队列最大长度 //这个项目的线程池前缀,方便看日志区分是哪个线程 executor.setThreadNamePrefix(threadNamePrefix); /* * 线程池拒绝策略:当线程池内数量达到 maxPoolSize 且工作队列已满时, * 才会触发拒绝策略,根据配置的拒绝策略处理当前已超出的线程,默认抛异常 */ /* * AbortPolicy（默认策略） * 行为：直接抛出 RejectedExecutionException 异常 * 适用场景：必须保证任务不能丢失，需要上层捕获异常处理 */ // executor.setRejectedExecutionHandler( // new ThreadPoolExecutor.AbortPolicy()); /* * CallerRunsPolicy（调用者运行策略） * 行为：不在新线程中执行，而是由提交任务的线程（调用者）自己执行 * 适用场景：降低新任务提交速度，起到反压作用，避免任务丢失 */ executor.setRejectedExecutionHandler( new ThreadPoolExecutor.CallerRunsPolicy()); /* * DiscardPolicy（丢弃策略） * 行为：直接丢弃新提交的任务，不抛出异常 * 适用场景：允许任务丢失，对结果不敏感的场景 */ // executor.setRejectedExecutionHandler( // new ThreadPoolExecutor.DiscardPolicy()); /* * DiscardOldestPolicy（丢弃最旧策略） * 行为：丢弃队列中最老的任务（最早进入队列的），然后重新尝试提交新任务 * 适用场景：优先处理新任务，允许旧任务过期 */ // executor.setRejectedExecutionHandler( // new ThreadPoolExecutor.DiscardOldestPolicy()); //配置完成,初始化 executor.initialize(); return executor; } }

创建线程代码

taskExecutor.execute(() -> { //线程池执行代码 //发送短信,邮件 //异步修改订单状态等 });

压力测试-获取线程池配置

ps:纯理论,从AI那得到的信息

描述

• 最好在生产环境下压测
• 根据调整并发数看压测结果,来调整线程池配置

下载压测工具

打开 Apache JMeter 的官方下载页面：https://jmeter.apache.org/download_jmeter.cgi

点击 apache-jmeter-5.6.3.zip apache-jmeter-x.x.x.zip,下载压缩包 如:apache-jmeter-5.6.3.zip

解压后双击bin/jmeter.bat即可运行

压测工具配置

改成中文

测试计划配置

定义测试计划名称

在左侧的“测试计划”上点击鼠标右键,选择添加->线程（用户）->线程组

线程组配置

• 线程数:并发用户数（同时执行请求的线程数量）

• Ramp-Up时间:启动所有线程所需的时间,例如：线程数=10，Ramp-Up=5秒→ 每秒启动2个线程

• 循环次数:每个线程执行请求的次数,总请求数 = 线程数 × 循环次数

• 调度器:

  • 不勾选调度器:线程启动后，执行完循环次数就结束,总请求数 = 线程数 × 循环次数（固定）

  • 勾选调度器:循环次数此时会失效（或建议设为“永远”）;线程会在持续时间内反复执行;启动延迟：是指调度器延迟多久开始执行，只延迟一次

下图配置:1秒内启动1000个线程,在线程全部启动后,120秒内线程会重复执行,总时长 1(Ramp-Up时间) + 120(持续时间) =121秒

每次修改线程组需要保存,最好清除一下聚合报告再启动

单接口配置

目标请求配置

在刚建好的“线程组”上点击鼠标右键。选择添加->取样器->HTTP请求

• 请求名称:自定义
• 协议:http 或 https
• 服务器名称或ip:自己根据服务器配置,本地的话配 localhost
• 端口号:自己根据代码配置
• HTTP请求:自己根据接口配置
• 路径:自己根据接口配置

下图配置: GET http://localhost:8080/hello

监听器配置

还是在“线程组”上点击鼠标右键。选择添加->监听器->聚合报告。

也可以多加个查看结果树,它能显示每个请求的详细请求数据和返回结果，方便你第一时间确认脚本配置是否正确,压测的时候禁用查看结果树(右键 -> 禁用),会消耗大量本地的CPU和内存资源，导致测试结果不准确

聚合报告:分析时用。压测结束后，这个报告会汇总关键数据，比如平均响应时间、吞吐量（TPS）、错误率等。这些就是你调整线程池配置的重要依据

多接口配置

吞吐量控制器

右键线程组 →添加→逻辑控制器→吞吐量控制器

下图配置,按百分比分配请求,并且占比50%,如果多个吞吐量控制器总数不是100%,会按比例分配

目标请求配置

在刚建好的多个“吞吐量控制器”上点击鼠标右键。选择添加->取样器->HTTP请求,分别配置多个接口,其他跟上面跟单接口配置一样一样配置

监听器配置

在线程组新建,跟上面跟单接口配置一样一样配置

查看聚合报告

压测数据导出

如果有压测目标,则直接按目标配置线程组数量,如果没有,则慢慢增加压测线程数直到吞吐量最大值,得出最大值后,优化代码,线程池,数据库,缓存,架构等优化

每个压测数量最好跑3次,取平均值
ps:可以把数据发给AI 让AI帮忙整理分析,给建议

修改代码线程池配置

根据项目类型初步配置代码线程池参数

根据吞吐量,请求耗时,调整线程池最大值以及队列长度

生产环境线程池配置

AI答复:生产环境在压测最优值（10/50/100）基础上放大 20-50%，推荐 core=20, max=100, queue=300，既能应对突发，又不浪费资源

压测完成后，根据数据检查这5个问题：

1. 异常率是否 > 1%？ → 是：修错误 | 否：继续
2. 99%分位是否超过预期？ → 是：优化响应 | 否：继续
3. 吞吐量是否达到目标？ → 是：达标 | 否：扩容/优化
4. 资源利用率是否合理？ → CPU/内存/连接池是否打满
5. 波动是否过大？ → 中位数与平均值是否接近