第十一章：如何设计人机协作流程？——让AI做事，但控制在手里

难度级别：★★★★☆ | 预计阅读时间：15分钟

你将学到：Human-in-the-Loop的本质、五种HITL设计模式、审批流设计核心要素、错误恢复机制、以及PM可直接使用的选型决策框架

引言：为什么"让AI自主"不是答案

一个被低估的案例

2025年，Google的AlphaGeometry2（AG2）在国际数学奥林匹克竞赛中解决了84%的几何问题，超越了人类金牌选手的平均水平，引发了"AI已经超越人类"的广泛讨论。但少有人注意到的是：AlphaGeometry2达到这个成绩，依赖一个关键设计——当纯自主推理无法证明一个定理时，系统会暂停并向人类数学家请求提示。

（补充背景：AlphaGeometry第一代产品AG1于2024年发布，当时解决了54%的IMO问题；AG2于2025年发布，解决率提升至84%。两代产品都使用了人机协作机制，AG2的突破让这一设计的价值更加引人注目。）

这不是AI的失败。这是设计的胜利。

AI的"自主能力"和"工作可靠性"是两回事。一个在测试集上达到99%准确率的模型，在真实场景中可能因为context不完整、工具调用失败、或对抗输入而频繁出错。当你的AI产品开始真正"做事"（发邮件、改数据库、执行交易）而非仅仅"回答"时，出错的成本从"一个不满意的回答"变成"真实的业务损失"。

这正是Human-in-the-Loop（人机协作，简称HITL）存在的理由。