020、生产环境考量：异步支持、超时、重试与错误处理

020、生产环境考量：异步支持、超时、重试与错误处理

从一次深夜告警说起

上周三凌晨两点，手机突然震个不停。打开监控一看，某个基于LangChain构建的问答服务响应时间飙到了30秒以上，上游调用方大量超时，线程池被打满。登录服务器一看，发现是在调用某个外部API时发生了阻塞，而代码里既没有设置超时，也没有做异步隔离。这个坑，不少刚上手LangChain的团队都踩过。

今天我们就聊聊在生产环境中，那些容易被忽视却至关重要的工程细节：异步支持、超时控制、重试策略和错误处理。这些东西文档里往往一笔带过，但线上故障大多源于此。

异步不是可选项，是必选项

LangChain的很多组件默认是同步的，比如早期的LLMChain。但在高并发场景下，同步调用会阻塞整个事件循环。举个例子：

# 危险写法：同步阻塞fromlangchain.llmsimportOpenAI llm=OpenAI(