当前位置: 首页 > news >正文

故障排查:Pytest Asyncio Event Loop Closed 错误

1. 问题描述

在运行RetrievalService的集成测试(使用pytest-asyncio)时,当连续运行多个异步测试用例时,遇到了以下错误:

RuntimeError: Task <Task pending ...> got Future <Future pending ...> attached to a different loop ... RuntimeError: Event loop is closed

症状

  • 第一个测试用例 (test_search_knowledge_base_flow) 成功通过。
  • 第二个测试用例 (test_search_knowledge_base_no_results) 在 setup 或执行阶段立即失败,抛出RuntimeError

出错的代码(原始版本)

这是在修复之前,导致错误的测试代码结构和db_sessionfixture:

# test/services/test_retrieval_service.py@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 错误发生点:直接调用 get_async_engine(),它返回的是一个被缓存的 Engine 实例# 这个 Engine 绑定到了创建它时的 Event Loop(即第一个测试的 Loop)engine=get_async_engine()async_session=async_sessionmaker(engine,expire_on_commit=False)asyncwithasync_session()assession:asyncwithengine.begin()asconn:awaitconn.run_sync(Base.metadata.create_all)yieldsessionawaitsession.rollback()# 测试函数 1:使用新创建的 Loop A,成功获取 Engine(绑定到 Loop A)@pytest.mark.asyncioasyncdeftest_search_knowledge_base_flow(db_session):# ... PASS ...# 测试函数 2:使用新创建的 Loop B# 这里的 db_session fixture 再次运行,但 get_async_engine() 返回的是# 绑定到已关闭的 Loop A 的旧 Engine。导致报错。@pytest.mark.asyncioasyncdeftest_search_knowledge_base_no_results(db_session):# ... FAIL with RuntimeError: Event loop is closed ...

2. 根本原因分析

2.1 冲突来源

该问题源于pytest-asyncio管理 Event Loop 的机制与我们应用程序创建 SQLAlchemy Engine 的方式之间存在冲突。

  1. Pytest-Asyncio 的行为:默认情况下(严格模式),pytest-asyncio会为每个测试函数创建一个新的asyncio Event Loop,以确保隔离性。
  2. 应用程序的行为:我们的src/configs/db.py使用了functools.lru_cache来缓存AsyncEngine实例:
    # src/configs/db.pyfromfunctoolsimportlru_cache@lru_cache()# <--- Engine 实例被缓存了defget_async_engine():""" Returns a cached async engine instance. The engine is created on the first call and reused on subsequent calls within the same event loop. """logger.info("Creating new async engine instance.")returncreate_async_engine(DATABASE_URL,pool_pre_ping=True,echo=False,)

2.2 事件序列

  1. 测试 1 开始
    • Pytest 创建Loop A
    • get_async_engine()被调用。它创建了Engine 1并将其绑定到Loop A
    • 测试 1 结束。Pytest 关闭Loop A
  2. 测试 2 开始
    • Pytest 创建Loop B
    • get_async_engine()再次被调用。
    • 由于有缓存(@lru_cache),它返回了Engine 1(这个 Engine 仍然绑定在已关闭的Loop A上)。
    • 当 SQLAlchemy 尝试使用Engine 1Loop B中连接数据库或执行查询时,失败了,因为 Engine 的内部组件(如asyncpg连接池)试图使用已关闭的 Loop A。

3. 解决方案

3.1 修复方法

我们需要确保为每个测试上下文创建一个新的 AsyncEngine,并绑定到当前由pytest-asyncio提供的 Event Loop。

我们在测试文件 (test/services/test_retrieval_service.py) 的db_sessionfixture 中修改了代码,在请求 Engine 之前显式清除缓存。

@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 修复:强制为当前 Event Loop 创建一个新的 Engineget_async_engine.cache_clear()engine=get_async_engine()# 现在返回的是绑定到当前 Loop 的新 Engine# ... fixture 的其余部分 ...

3.2 为什么有效

通过调用get_async_engine.cache_clear(),我们使缓存的AsyncEngine实例失效。随后的get_async_engine()调用会重新执行函数体,创建一个正确绑定到当前运行 Event Loop 的新AsyncEngine实例。

4. 替代方案(供参考)

  1. Scope 匹配:将event_loopfixture 的 scope 更改为session(所有测试共用一个 Loop)。这虽然降低了隔离性,但避免了多 Loop 问题。
  2. 依赖覆盖:如果使用依赖注入框架,可以覆盖get_async_engine依赖。
  3. 全局 Conftest:在conftest.py的 autouse fixture 中实现缓存清除,从而全局应用于所有测试。
http://www.jsqmd.com/news/168017/

相关文章:

  • 使用Miniconda实现PyTorch模型的滚动更新策略
  • espidf打造可扩展智能家居中枢:深度剖析
  • Miniconda环境下PyTorch模型热更新技术方案
  • Miniconda-Python3.10环境下使用conda env export导出环境
  • 全面讲解USB转串口硬件接线与软件配置
  • Miniconda如何帮助开发者规避PyTorch版本陷阱
  • Miniconda-Python3.10镜像在剧本创作大模型中的尝试
  • Miniconda-Python3.10环境下安装Pandas进行数据清洗
  • 入门必看:AUTOSAR架构图各层功能通俗解读
  • 基于Java+SpringBoot+SpringBoot博物馆文创系统(源码+LW+调试文档+讲解等)/博物馆文创产品/博物馆数字化系统/博物馆创意设计系统/博物馆文化衍生品系统/博物馆文创平台
  • Miniconda-Python3.10环境下使用conda create新建虚拟环境
  • Docker run命令如何启动AI开发容器?Miniconda-Python3.10镜像模板分享
  • 使用Miniconda为PyTorch项目构建可复现的基准环境
  • 使用Miniconda为PyTorch项目集成CI自动化测试
  • Meta 数十亿美元收购 Manus,肖弘将出任 Meta 副总裁
  • Miniconda-Python3.10环境下使用html报告监控训练进度
  • 基于Java+SpringBoot+SpringBoot咖啡店点餐系统(源码+LW+调试文档+讲解等)/咖啡店点单系统/咖啡厅点餐系统/咖啡厅点单系统/咖啡店自助点餐/咖啡店扫码点餐/咖啡店智能点餐
  • 基于Java+SpringBoot+SpringBoot大学生就业管理系统(源码+LW+调试文档+讲解等)/大学生就业平台/毕业生就业管理系统/高校就业管理系统/学生就业信息管理系统/就业服务管理系统
  • allegro导出gerber文件常见问题:新手避坑指南
  • Nginx 静态图片访问故障快速排查手册
  • STM32开发第一步:IAR编译器安装的系统化教程
  • Miniconda-Python3.10镜像支持多种AI框架灵活切换
  • Miniconda-Python3.10结合FastAPI构建高性能Token API
  • 基于Java+SpringBoot+SpringBoot家政服务与互助平台(源码+LW+调试文档+讲解等)/家政服务平台/互助服务平台/家政互助/家政服务网站/互助服务网站/家政与互助/家政互助系统
  • STM32上I2C HID中断处理机制解析
  • Miniconda-Python3.10镜像如何支撑高并发Token计费接口
  • Miniconda-Python3.10结合Nginx反向代理保护模型接口
  • es连接工具开发调试全记录:系统学习手册
  • Miniconda环境下PyTorch模型性能调优实战
  • Miniconda环境下PyTorch模型剪枝与蒸馏优化