JSF业务线程池的大小配置用例说明
1. 简介
jsf 业务线程池使用 jdk 的线程池技术，缺省情况下采用 cached 模式（核心线程数 20，最大线程数 200）。此外，还提供了 fixed 固定线程大小的模式，两种模式均可设置请求队列大小。
本文旨在通过一个简化场景（“单服务应用”）下的负载测试，为 “jsf 业务线程池大小配置” 提供基准测试结果，并形成一些普遍适用的结论。
本文的目标读者包括需要合理配置 jsf 线程大小的压测工程师、开发部署运维工程师以及架构师。
本文不涉及 jsf 服务端的其他配置项，也不针对 “复合服务应用” 的合理配置进行探讨。你可以利用本文提供的结论，作为设计压测用例或评估业务线程池大小的基本方法的参考，以便在实践中合理配置 jsf 业务线程池大小。需要注意的是，jsf 业务线程池大小的合理配置应该基于高保真的负载测试结果。
“单服务应用” 指应用仅包含一个提供接口，且接口中仅有一个方法。 “复合服务应用” 则指应用包含多个提供接口或一个接口中含有多个方法。
2. 测试用例说明
本次基准测试选取了 usf3.0 权限系统，将其定制化为一个单一的服务提供者，仅对该提供者的一个方法进行了测试，因此可以看作是一个 “单服务应用”。
测试中将 cpu 作为基准测试的核心资源，并考虑到 jvm 垃圾收集器的影响，采用了简单的测试数据以保证服务每次调用的一致性，并确保 ygc 具有规律性（即固定调用量会导致一次 30+ms 的 ygc），无 fgc 的影响。
测试用例的设计中，所有依赖的服务资源都无限制，以确保测试过程中服务的可用率达到 100%。我们的关键性能指标是 tp99，即服务响应时长的 99% 必须小于 10ms。
为了测试不同线程池模式下的性能表现，我们使用了 jsf 线程池的 cached 和 fixed 两种模式，并针对每种模式进行了多组测试，以得出在满足 tp99<10ms 的前提下，系统最大的负载情况。
测试应用：usf3.0 权限系统 (定制化处理) 测试服务：com.jd.susf.service.api.susfpermissionservice#finduserinfo，根据用户信息从 redis 中查询一条数据返回的服务。
硬件配置：单台 4c 8g 测试方法：在 forcebot 系统采用了阶梯发压的方式对 jsf 业务线程池在 cached 和 fixed 模式下进行了系统负载测试 拟定 sla 要求：服务响应时长的 tp99<10ms
注：我们对 usf3.0 权限系统进行了定制，调整了服务提供方的配置数据，仅保留了 com.jd.susf.service.api.susfpermissionservice。
3. 测试结果及分析
3.1.cached 线程池的系统负载
图：jsf 默认线程池 (cached, threads=200) 在不同并发用户数 (1-200) 下的系统负载图
并发用户数 tp99 吞吐量 tps cpu 利用率 (%)
1~23 <8ms 线性增长 线性增长
24 8ms 6553 99.62
25 11ms 6607 99.83
26～79 迅速增长 缓慢增长 99+
80 74ms 6928 99.82
81~199 缓慢增加 缓慢下降 99.82
200 99ms 6230 99.94
小结：默认的 jsf 线程池配置存在很大的风险。系统最大可支持 24 个并发，超过 24 个并发 sla 就无法满足。
3.2 fixed 线程池 (队列) 的系统负载
图：jsf 固定线程池 (fixed + 队列) 在不同并发用户数 (1-50) 下的系统负载图
jsf 业务线程数 可支持的最大并发用户数 tp 值 (50/90/99/999) 吞吐量 (tps) cpu 最大利用率（%）
4 11 7/8/10/18 1531 27.67
8 25 8/8/10/18 3113 46.45
16 50 8/8/10/21 6228 87.97
20 23 3/4/10/15 6409 99.92
24 22 3/4/7/15 6178 99.86
25 22 3/4/6/15 6182 98.83
表：jsf 固定业务线程池 (fixed + 队列) 在满足 tp99<10ms 的系统最大负载（最大并发用户数）
小结： ① 在 fixed 线程模式下，cpu 的利用率存在使用上限。
② 队列的使用可以有效增加系统对并发量的支持，同时也会带来吞吐量的提升。然而，由于任务在队列中等待，服务的响应时间会出现 “水涨船高” 的现象，存在一定风险。
3.3 fixed 线程池的系统负载
图：jsf 固定线程池 (fixed) 模式下，系统最大并发用户数时的系统负载
jsf 业务线程数 并发用户数 tp99 吞吐量 (tps) cpu 最大利用率（%）
4 4 5 1063 20.26
8 8 5 2216 36.62
16 16 6 4262 68.56
20 20 5 5550 86.22
24 24 8 6711 99.62
25 25 16 6644 98.77
26 26 19 6744 99.93
小结：综合固定线程池 (fixed) 的性能表现，需要设置一个合理的线程数大小来平衡 cpu 资源的充分利用和满足 sla 的需求，线程数过小会导致 cpu 资源浪费，线程数过大则无法满足 sla
4. 结论
根据测试结果和数据分析，我们得出以下结论：
jsf 线程池的默认配置在并发量高的场景下存在风险：所有线上生产环境中的 jsf 服务所在的服务器，很少有能够在 200 个线程的情况下还能够满足 sla 的。最大 200 个线程的线程池配置，将服务器置于 “并发量高的场景下被压垮” 的风险中。线程池大小的合理配置应该来自高保真的负载测试。
足量的线程数才能保证资源 (cpu) 的利用率：业务型的服务通常都存在一定的 io 操作（网络，磁盘等），线程执行过程中会发生等待，cpu 利用率不高，需要增加并发的线程数量，让更多的线程参与 cpu 的分配，才能提高 cpu 的利用率。服务中 io 操作越多，等待时长越长，需要的并发线程就越多。对于有 io 操作的业务型服务，负载测试的线程数可以从 2n（n 是服务器的 cpu 核数）开始。
过多的线程数只会降低系统的 sla：当线程数已能 100% 利用 cpu 后，增加线程数，线程就无法获取足够的 cpu 分配，这样服务的响应时间就会增大。
在一定范围内，tp99 还可能满足 sla 的要求，系统的吞吐量也会有少量的增加。再持续增加线程数，tp99 就无法满足系统的要求，系统的吞吐量也会开始下降。
固定的线程数可以保护系统需要承担的负载能力：固定线程数可以保证系统对 cpu 的利用率限定在一定的负载范围内，保护系统稳定运行，保证响应时间 tp99，但也限定了系统的并发能力。
合理设置队列大小可以增加系统的并发度，也不会影响系统 tp99，但会整体拉高服务的响应时间，出现不稳定性的变化，存在风险。
让 cpu100% 的高负载运行：通常服务对外的 sla 承诺通常高于服务真实的性能，这是因为我们考虑了基础设施及依赖服务的不稳定性。
因此，即使 cpu 已经达到了 100%，我们仍然可以增加一定数量的线程数，而不会影响对外的响应时间 tp99 的承诺。这样可以提高系统的并发能力。虽然系统可以在高负载下运行，但我们需要进一步进行稳定性测试，以提高系统的可靠性。
综上所述，线程池大小的合理配置需要结合业务需求和系统资源情况进行评估和测试，并预留合理的 buffer 空间，以保证系统稳定运行和满足用户的 sla。
5. 附录
附录一：统计指标及术语说明
并发用户数：同时发起请求的用户数。
tp 值 (50/90/99/999)：客户端的 tp 值，单位 ms，数据来源于 forcebot。
吞吐量 tps：数据来源于 forcebot。
cpu 利用率 (%)：数据来源于 pfinder。
jsf 业务线程数：jsf 业务线程池的线程数，如：
fixed/cached：jsf 业务线程池的线程池类型，如：
固态电池原理是什么？
易来智能冲科创板 背靠小米生态链是“乘凉”还是“引雷”
iphone8什么时候上市?iphone8最新消息:iphone7销量不佳,iphone8能否力挽狂澜一鸣惊人?
大众汽车欲购零跑？官方“不予置评”！
自制天文望远镜教程
JSF业务线程池的大小配置用例说明
小米5C领衔，诺基亚6、华为荣耀8青春版、魅蓝X高颜值手机推荐，配置强悍！
旷视科技亮相2018云栖大会 AI新零售和物流解决方案引关注
LoRaWAN网关网络模型的组成部分
基于Dialog芯片的智能门锁和智能挂锁应用方案
华为认为网络安全的本质还是技术问题所以还是需要靠技术解决
“双摄”与“三摄”之间拍照技术，当下到底谁最有优势？
一位软件开发工程师面对生活压力的自述
芯片测试座的定义
采用MMA7260QT和MC9S08QG8无线遥控直升机飞行姿态传感器电路的设计
如何充电30分钟电量80%？详解高通快速充电3.0技术
Firefly微信硬件平台介绍
原生安卓操作系统是具有虚拟手机功能的云服务器？
无人机可精确识别危险并向游泳者发出预警,有效的提高海滩安全性
RUCKUS ICX 8200企业级可堆叠接入交换机
jsf 业务线程池使用 jdk 的线程池技术，缺省情况下采用 cached 模式（核心线程数 20，最大线程数 200）。此外，还提供了 fixed 固定线程大小的模式，两种模式均可设置请求队列大小。
本文旨在通过一个简化场景（“单服务应用”）下的负载测试，为 “jsf 业务线程池大小配置” 提供基准测试结果，并形成一些普遍适用的结论。
本文的目标读者包括需要合理配置 jsf 线程大小的压测工程师、开发部署运维工程师以及架构师。
本文不涉及 jsf 服务端的其他配置项，也不针对 “复合服务应用” 的合理配置进行探讨。你可以利用本文提供的结论，作为设计压测用例或评估业务线程池大小的基本方法的参考，以便在实践中合理配置 jsf 业务线程池大小。需要注意的是，jsf 业务线程池大小的合理配置应该基于高保真的负载测试结果。
“单服务应用” 指应用仅包含一个提供接口，且接口中仅有一个方法。 “复合服务应用” 则指应用包含多个提供接口或一个接口中含有多个方法。
2. 测试用例说明
本次基准测试选取了 usf3.0 权限系统，将其定制化为一个单一的服务提供者，仅对该提供者的一个方法进行了测试，因此可以看作是一个 “单服务应用”。
测试中将 cpu 作为基准测试的核心资源，并考虑到 jvm 垃圾收集器的影响，采用了简单的测试数据以保证服务每次调用的一致性，并确保 ygc 具有规律性（即固定调用量会导致一次 30+ms 的 ygc），无 fgc 的影响。
测试用例的设计中，所有依赖的服务资源都无限制，以确保测试过程中服务的可用率达到 100%。我们的关键性能指标是 tp99，即服务响应时长的 99% 必须小于 10ms。
为了测试不同线程池模式下的性能表现，我们使用了 jsf 线程池的 cached 和 fixed 两种模式，并针对每种模式进行了多组测试，以得出在满足 tp99<10ms 的前提下，系统最大的负载情况。
测试应用：usf3.0 权限系统 (定制化处理) 测试服务：com.jd.susf.service.api.susfpermissionservice#finduserinfo，根据用户信息从 redis 中查询一条数据返回的服务。
硬件配置：单台 4c 8g 测试方法：在 forcebot 系统采用了阶梯发压的方式对 jsf 业务线程池在 cached 和 fixed 模式下进行了系统负载测试 拟定 sla 要求：服务响应时长的 tp99<10ms
注：我们对 usf3.0 权限系统进行了定制，调整了服务提供方的配置数据，仅保留了 com.jd.susf.service.api.susfpermissionservice。
3. 测试结果及分析
3.1.cached 线程池的系统负载
图：jsf 默认线程池 (cached, threads=200) 在不同并发用户数 (1-200) 下的系统负载图
并发用户数 tp99 吞吐量 tps cpu 利用率 (%)
1~23 <8ms 线性增长 线性增长
24 8ms 6553 99.62
25 11ms 6607 99.83
26～79 迅速增长 缓慢增长 99+
80 74ms 6928 99.82
81~199 缓慢增加 缓慢下降 99.82
200 99ms 6230 99.94
小结：默认的 jsf 线程池配置存在很大的风险。系统最大可支持 24 个并发，超过 24 个并发 sla 就无法满足。
3.2 fixed 线程池 (队列) 的系统负载
图：jsf 固定线程池 (fixed + 队列) 在不同并发用户数 (1-50) 下的系统负载图
jsf 业务线程数 可支持的最大并发用户数 tp 值 (50/90/99/999) 吞吐量 (tps) cpu 最大利用率（%）
4 11 7/8/10/18 1531 27.67
8 25 8/8/10/18 3113 46.45
16 50 8/8/10/21 6228 87.97
20 23 3/4/10/15 6409 99.92
24 22 3/4/7/15 6178 99.86
25 22 3/4/6/15 6182 98.83
表：jsf 固定业务线程池 (fixed + 队列) 在满足 tp99<10ms 的系统最大负载（最大并发用户数）
小结： ① 在 fixed 线程模式下，cpu 的利用率存在使用上限。
② 队列的使用可以有效增加系统对并发量的支持，同时也会带来吞吐量的提升。然而，由于任务在队列中等待，服务的响应时间会出现 “水涨船高” 的现象，存在一定风险。
3.3 fixed 线程池的系统负载
图：jsf 固定线程池 (fixed) 模式下，系统最大并发用户数时的系统负载
jsf 业务线程数 并发用户数 tp99 吞吐量 (tps) cpu 最大利用率（%）
4 4 5 1063 20.26
8 8 5 2216 36.62
16 16 6 4262 68.56
20 20 5 5550 86.22
24 24 8 6711 99.62
25 25 16 6644 98.77
26 26 19 6744 99.93
小结：综合固定线程池 (fixed) 的性能表现，需要设置一个合理的线程数大小来平衡 cpu 资源的充分利用和满足 sla 的需求，线程数过小会导致 cpu 资源浪费，线程数过大则无法满足 sla
4. 结论
根据测试结果和数据分析，我们得出以下结论：
jsf 线程池的默认配置在并发量高的场景下存在风险：所有线上生产环境中的 jsf 服务所在的服务器，很少有能够在 200 个线程的情况下还能够满足 sla 的。最大 200 个线程的线程池配置，将服务器置于 “并发量高的场景下被压垮” 的风险中。线程池大小的合理配置应该来自高保真的负载测试。
足量的线程数才能保证资源 (cpu) 的利用率：业务型的服务通常都存在一定的 io 操作（网络，磁盘等），线程执行过程中会发生等待，cpu 利用率不高，需要增加并发的线程数量，让更多的线程参与 cpu 的分配，才能提高 cpu 的利用率。服务中 io 操作越多，等待时长越长，需要的并发线程就越多。对于有 io 操作的业务型服务，负载测试的线程数可以从 2n（n 是服务器的 cpu 核数）开始。
过多的线程数只会降低系统的 sla：当线程数已能 100% 利用 cpu 后，增加线程数，线程就无法获取足够的 cpu 分配，这样服务的响应时间就会增大。
在一定范围内，tp99 还可能满足 sla 的要求，系统的吞吐量也会有少量的增加。再持续增加线程数，tp99 就无法满足系统的要求，系统的吞吐量也会开始下降。
固定的线程数可以保护系统需要承担的负载能力：固定线程数可以保证系统对 cpu 的利用率限定在一定的负载范围内，保护系统稳定运行，保证响应时间 tp99，但也限定了系统的并发能力。
合理设置队列大小可以增加系统的并发度，也不会影响系统 tp99，但会整体拉高服务的响应时间，出现不稳定性的变化，存在风险。
让 cpu100% 的高负载运行：通常服务对外的 sla 承诺通常高于服务真实的性能，这是因为我们考虑了基础设施及依赖服务的不稳定性。
因此，即使 cpu 已经达到了 100%，我们仍然可以增加一定数量的线程数，而不会影响对外的响应时间 tp99 的承诺。这样可以提高系统的并发能力。虽然系统可以在高负载下运行，但我们需要进一步进行稳定性测试，以提高系统的可靠性。
综上所述，线程池大小的合理配置需要结合业务需求和系统资源情况进行评估和测试，并预留合理的 buffer 空间，以保证系统稳定运行和满足用户的 sla。
5. 附录
附录一：统计指标及术语说明
并发用户数：同时发起请求的用户数。
tp 值 (50/90/99/999)：客户端的 tp 值，单位 ms，数据来源于 forcebot。
吞吐量 tps：数据来源于 forcebot。
cpu 利用率 (%)：数据来源于 pfinder。
jsf 业务线程数：jsf 业务线程池的线程数，如：
fixed/cached：jsf 业务线程池的线程池类型，如：
固态电池原理是什么？
易来智能冲科创板 背靠小米生态链是“乘凉”还是“引雷”
iphone8什么时候上市?iphone8最新消息:iphone7销量不佳,iphone8能否力挽狂澜一鸣惊人?
大众汽车欲购零跑？官方“不予置评”！
自制天文望远镜教程
JSF业务线程池的大小配置用例说明
小米5C领衔，诺基亚6、华为荣耀8青春版、魅蓝X高颜值手机推荐，配置强悍！
旷视科技亮相2018云栖大会 AI新零售和物流解决方案引关注
LoRaWAN网关网络模型的组成部分
基于Dialog芯片的智能门锁和智能挂锁应用方案
华为认为网络安全的本质还是技术问题所以还是需要靠技术解决
“双摄”与“三摄”之间拍照技术，当下到底谁最有优势？
一位软件开发工程师面对生活压力的自述
芯片测试座的定义
采用MMA7260QT和MC9S08QG8无线遥控直升机飞行姿态传感器电路的设计
如何充电30分钟电量80%？详解高通快速充电3.0技术
Firefly微信硬件平台介绍
原生安卓操作系统是具有虚拟手机功能的云服务器？
无人机可精确识别危险并向游泳者发出预警,有效的提高海滩安全性
RUCKUS ICX 8200企业级可堆叠接入交换机