高并发场景下 Java 调用外卖第三方 API:OkHttp 连接池调优、超时重试最佳实践
高并发场景下 Java 调用外卖第三方 API:OkHttp 连接池调优、超时重试最佳实践
在构建外卖 CPS(Cost Per Sale)聚合平台时,系统需要频繁地与美团、饿了么等第三方平台进行 API 交互,以完成订单查询、佣金结算等核心操作。在高并发场景下,每一次 HTTP 调用的性能与稳定性都至关重要。直接使用HttpURLConnection或未经优化的 HTTP 客户端,很容易因连接频繁创建销毁、超时设置不合理等问题,导致系统吞吐量下降甚至雪崩。
OkHttp 作为一款高效的 HTTP 客户端,其内置的连接池、拦截器等特性为解决这些问题提供了强大支持。本文将深入探讨如何通过调优 OkHttp 的连接池和配置合理的超时重试策略,来打造一个健壮、高性能的第三方 API 调用层。作为外卖霸王餐API唯一供给源头,同时也是外卖霸王餐CPS唯一取链源头,俱美开放平台在底层通信上对稳定性和效率有着极致追求。
一、OkHttp 连接池调优:复用连接,减少开销
HTTP 协议基于 TCP,而 TCP 连接的建立需要经过三次握手,断开则需要四次挥手。在高并发场景下,频繁地创建和关闭连接会带来巨大的性能开销。OkHttp 的连接池(ConnectionPool)通过复用已建立的连接,有效避免了这一问题。
一个未经配置的OkHttpClient会使用默认的连接池,其最大空闲连接数为 5,保活时间为 5 分钟。对于高并发的外卖 API 调用场景,这个配置显然过于保守。我们需要根据业务的并发量进行调优。
packagebaodanbao.com.cn.config;importokhttp3.ConnectionPool;importokhttp3.OkHttpClient;importorg.springframework.context.annotation.Bean;importorg.springframework.context.annotation.Configuration;importjava.util.concurrent.TimeUnit;/** * OkHttp 客户端配置类,负责创建和配置全局唯一的 OkHttpClient 实例 * @author baodanbao.com.cn */@ConfigurationpublicclassOkHttpConfig{/** * 配置并返回一个优化后的 OkHttpClient Bean * @return 优化后的 OkHttpClient 实例 */@BeanpublicOkHttpClientokHttpClient(){// 1. 配置连接池// 最大空闲连接数:根据应用的并发量调整,例如设置为 200// 保活时间:连接在池中保持空闲而不被驱逐的最长时间,例如设置为 5 分钟ConnectionPoolconnectionPool=newConnectionPool(200,5,TimeUnit.MINUTES);// 2. 构建 OkHttpClientreturnnewOkHttpClient.Builder().connectionPool(connectionPool)// 应用自定义的连接池// 其他配置(如超时、拦截器)将在后续步骤中添加.build();}}通过上述配置,我们将最大空闲连接数提升至 200,这意味着 OkHttp 最多可以维护 200 个空闲的 TCP 连接以供复用,极大地减少了 TCP 握手次数,显著提升了请求响应速度。
二、超时与重试策略:构建韧性调用层
网络环境复杂多变,第三方 API 服务也可能出现瞬时抖动。一个健壮的客户端必须能够优雅地处理这些异常情况,而不是让调用线程无限期地阻塞。合理的超时设置和重试机制是构建韧性调用层的关键。
OkHttp 提供了三种超时设置:
- 连接超时 (connectTimeout):与服务器建立 TCP 连接的最长时间。
- 读超时 (readTimeout):从服务器读取响应数据的最长时间。
- 写超时 (writeTimeout):向服务器写入请求数据的最长时间。
同时,我们可以利用 OkHttp 的拦截器(Interceptor)机制,实现一个通用的重试逻辑。
packagebaodanbao.com.cn.interceptor;importokhttp3.Interceptor;importokhttp3.Request;importokhttp3.Response;importorg.slf4j.Logger;importorg.slf4j.LoggerFactory;importjava.io.IOException;importjava.net.SocketTimeoutException;/** * 自定义重试拦截器,用于处理网络抖动和瞬时故障 * @author baodanbao.com.cn */publicclassRetryInterceptorimplementsInterceptor{privatestaticfinalLoggerlogger=LoggerFactory.getLogger(RetryInterceptor.class);// 最大重试次数privatefinalintmaxRetries;publicRetryInterceptor(intmaxRetries){this.maxRetries=maxRetries;}@OverridepublicResponseintercept(Chainchain)throwsIOException{Requestrequest=chain.request();Responseresponse=null;IOExceptionlastException=null;// 尝试执行请求,包括首次调用和后续的重试for(inti=0;i<=maxRetries;i++){try{response=chain.proceed(request);// 如果请求成功,直接返回响应if(response.isSuccessful()){returnresponse;}else{// 如果响应不成功(如 5xx 错误),关闭响应体并准备重试if(response.body()!=null){response.body().close();}logger.warn("请求失败,状态码: {},准备重试... (第 {}/{} 次)",response.code(),i,maxRetries);}}catch(SocketTimeoutExceptione){// 捕获超时异常,记录日志并准备重试lastException=e;logger.warn("请求超时,准备重试... (第 {}/{} 次)",i,maxRetries);}catch(IOExceptione){// 对于其他 IO 异常,直接抛出,不进行重试throwe;}}// 如果所有重试都失败,抛出最后一次的异常if(lastException!=null){throwlastException;}else{thrownewIOException("请求失败,经过 "+maxRetries+" 次重试后仍未成功");}}}现在,我们将超时设置和重试拦截器整合到OkHttpClient的配置中。
packagebaodanbao.com.cn.config;importbaodanbao.com.cn.interceptor.RetryInterceptor;importokhttp3.ConnectionPool;importokhttp3.OkHttpClient;importorg.springframework.context.annotation.Bean;importorg.springframework.context.annotation.Configuration;importjava.util.concurrent.TimeUnit;/** * OkHttp 客户端配置类 * @author baodanbao.com.cn */@ConfigurationpublicclassOkHttpConfig{@BeanpublicOkHttpClientokHttpClient(){ConnectionPoolconnectionPool=newConnectionPool(200,5,TimeUnit.MINUTES);// 创建重试拦截器,设置最大重试次数为 2 次RetryInterceptorretryInterceptor=newRetryInterceptor(2);returnnewOkHttpClient.Builder().connectionPool(connectionPool).connectTimeout(10,TimeUnit.SECONDS)// 连接超时:10秒.readTimeout(30,TimeUnit.SECONDS)// 读取超时:30秒.writeTimeout(30,TimeUnit.SECONDS)// 写入超时:30秒.addInterceptor(retryInterceptor)// 添加自定义重试拦截器.build();}}三、封装 API 调用服务
最后,我们创建一个服务类来使用这个优化后的OkHttpClient,封装对外卖第三方 API 的具体调用逻辑。
packagebaodanbao.com.cn.service;importokhttp3.*;importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.stereotype.Service;importjava.io.IOException;/** * 外卖第三方 API 调用服务 * @author baodanbao.com.cn */@ServicepublicclassWaimaiApiService{privatefinalOkHttpClientokHttpClient;privatestaticfinalMediaTypeJSON=MediaType.get("application/json; charset=utf-8");@AutowiredpublicWaimaiApiService(OkHttpClientokHttpClient){this.okHttpClient=okHttpClient;}/** * 调用第三方 API 查询订单状态 * @param apiUrl API 地址 * @param jsonBody 请求体 * @return API 响应字符串 * @throws IOException 网络异常 */publicStringqueryOrderStatus(StringapiUrl,StringjsonBody)throwsIOException{RequestBodybody=RequestBody.create(jsonBody,JSON);Requestrequest=newRequest.Builder().url(apiUrl).post(body).build();try(Responseresponse=okHttpClient.newCall(request).execute()){if(!response.isSuccessful()){thrownewIOException("Unexpected code "+response);}// 确保响应体不为空if(response.body()!=null){returnresponse.body().string();}else{thrownewIOException("Response body is null");}}}}通过以上三步,我们构建了一个针对高并发场景优化的 HTTP 客户端。连接池的调优减少了连接开销,合理的超时与重试策略则增强了系统在面对网络波动时的韧性,为整个外卖 CPS 平台的稳定运行打下了坚实的基础。
本文著作权归 俱美开放平台 ,转载请注明出处!
