爬虫测试：单元测试与集成测试实践
在爬虫开发中，稳定性、可维护性、容错性是核心指标。随着爬取目标站点结构变化、反爬策略升级、业务逻辑日趋复杂，没有测试的爬虫往往是 “一次性脚本”，上线即埋坑。单元测试与集成测试，是保障爬虫长期可靠运行的关键工程实践。
一、为什么爬虫需要做测试
很多开发者认为爬虫是 “快速脚本”，不值得写测试。但实际场景中：
- 页面结构微调，会导致爬虫直接崩溃；
- 请求、解析、存储逻辑耦合，改一处错一片；
- 异常场景（403、500、空数据、乱码）难以复现；
- 多人协作维护爬虫，逻辑不可控。
测试的核心价值：
- 提前发现解析规则、请求逻辑、数据处理的问题；
- 重构代码时保证原有功能不被破坏；
- 让爬虫具备可迭代、可维护、可监控的工程化能力；
- 减少线上故障、重复调试与人工验证成本。
二、爬虫测试的分层思路
爬虫通常分为三层，对应不同测试策略：
- 单元测试：针对最小可独立运行的模块（函数 / 方法），如解析函数、数据清洗函数、工具函数。
- 集成测试：测试多个模块协同工作，如请求→解析→存储全流程。
- 端到端测试（可选）：真实请求目标站点，验证整体链路。
本文重点聚焦单元测试 + 集成测试的工程实践。
三、爬虫单元测试实践
单元测试的核心：隔离依赖、mock 外部请求、只测内部逻辑。
1. 单元测试测什么
- HTML/JSON 解析函数是否正确提取字段；
- 数据清洗、去重、格式转换是否符合预期；
- 签名、加密、header 生成逻辑是否正确；
- 异常数据（空、None、乱码）是否兼容。
2. 依赖与工具（Python 生态）
unittest/pytest：测试框架requests-mock/unittest.mock：Mock 网络请求pytest-cov：统计测试覆盖率
3. 典型实践：Mock 响应，测试解析函数
单元测试严禁真实请求外网，必须用本地 HTML/JSON 做测试用例。
示例步骤：
- 保存一份真实页面源码为测试 fixture；
- 编写解析函数；
- 编写单元测试，传入 fixture，断言输出结果。
优势：
- 速度极快，毫秒级运行；
- 不受网络、站点状态影响；
- 可覆盖各种边界页面（空列表、异常结构）。
4. 单元测试核心原则
- 一个测试用例只测一个逻辑分支；
- 测试数据与代码分离；
- 不依赖外部服务、数据库、网络；
- 用覆盖率驱动，补齐未测逻辑。
四、爬虫集成测试实践
集成测试关注模块之间协作是否正常，不深度隔离依赖，但可控制环境。
1. 集成测试测什么
- 请求模块 + 解析模块能否正常配合；
- 解析后数据能否正常入库 / 存入队列；
- 异常重试、代理切换、分页逻辑是否生效；
- 全流程是否抛出未捕获异常。
2. 集成测试与单元测试的区别
- 单元测试：测 “零件是否合格”；
- 集成测试：测 “组装后能否运转”。
3. 实践建议：轻量集成测试
- 使用测试环境 / 测试页面，避免压测正式站；
- 测试前清理测试数据，测试后数据回收；
- 只保留核心链路用例，控制用例数量；
- 重点验证：数据非空、关键字段存在、格式合法。
五、爬虫测试最佳工程实践
先写测试用例，再写爬虫逻辑（TDD）先定义数据结构与期望结果，再实现解析与请求，大幅减少返工。
固定测试用例快照保存关键页面的 HTML/JSON 作为 fixture，站点更新时，快速判断是否解析失效。
区分测试环境与生产环境测试使用本地 / 内网接口，生产使用真实代理与分布式任务。
自动化运行测试提交代码自动运行测试，不通过不允许合并 / 部署。
只测试可测的逻辑网络波动、站点封禁等不可控因素，交给监控与重试机制，不强行用测试用例覆盖。
六、总结
爬虫不是 “野脚本”，单元测试保证模块可靠，集成测试保证流程通畅。
- 单元测试：稳内部、快反馈、防改错；
- 集成测试：通流程、验链路、早排错。
一套完善的测试体系，能让爬虫从 “能用” 变成 “好用、耐用、长期可用”。在规模化爬虫、反向海淘采集、数据中台建设等场景中，测试更是保障数据质量与服务稳定性的底线工程能力。