从 Human-in-the-Loop 到 Agent Governance，理解 Agent 时代的人类角色

• Human-in-the-Loop 到 Agent Governance：2026 企业 AI 人机监督全框架
• Agent 人机治理详解：HITL/HOTL/HOOTL 区别、治理体系与合规落地
• Agentic Enterprise 底层逻辑：从人机在环，到组织全域治理
• 不是 AI 取代人类，是人类角色彻底变了｜Agent 治理深度解读

想象这样一个场景。

一家制造企业的采购 Agent 自主完成供应商比价、拟定采购订单、匹配历史合同条款，最终发起一笔300万美元原材料付款申请。

财务主管点开手机弹窗，23秒一键批准，全程无核验、无研判、无风险校验。

这就是当下绝大多数企业Human-in-the-Loop（人在环中）的真实现状：审批流程在场，人类监督缺位，HITL彻底沦为合规橡皮图章。

行业时序早已迭代：2024年探讨Agent可用性，2025年落地Agent实操，2026年核心命题只剩一件事：Agent自主行事，出事谁负责？

这绝非空想哲学问题，而是企业迫在眉睫的合规风控难题：

• Forrester预警：2026年内，将发生AI Agent直接导致的重大数据泄露，直接追责企业在岗员工；
• Gravitee.io调研：88%组织一年内发生AI Agent安全事件，医疗行业风险占比高达92.7%；
• Deloitte数据：74%企业计划布局Agentic AI，但仅21%搭建成熟Agent治理体系。

AI Agent自主执行付款、改配置、发公文、流转业务数据，错误一旦发生不可逆。曾经靠RLHF模型对齐风险的方式彻底失效，表层HITL审批已经无法兜底企业风险。

人机在环三种模式差异、RLHF到Agentic HITL进化逻辑、七层治理对象、五级监督成熟度，搭建完整Human Oversight人类监督框架，落地四大支柱Agent Governance智能体治理体系。

看懂人机角色迁移，搞定权责闭环，才敢规模化落地企业AI Agent。

本文扩展阅读资料包，后台回复：HITL ,获取资源。

Agent时代的人类角色危机

当 AI Agent 开始替你付款、发邮件、修改系统配置时，大家是否想过：如果它做错了，谁来买单？

2026 年，AI Agent 技术迎来爆发式增长，企业纷纷拥抱这场生产力革命，但一个比 "Agent 能不能做事" 更致命的问题正在浮出水面。

AI的三次进化：从回答到执行

要理解今天的问题，需要先理解 AI 的演进脉络，这是老生常谈的话题，不过这里需要再简单说一下。

图片

第一阶段：ChatGPT 时代。 AI 是一个对话框。你问，它答。输出是文字、是建议、是草稿，但最终落地靠人。AI 的边界，就是"生成内容"四个字。这个阶段最大的风险是幻觉，幻觉的后果是错误信息，而错误信息在人类审阅前不会变成任何行动。

第二阶段：Copilot 时代。 AI 进入具体工具，嵌入 Office、CRM、IDE，成为贴身助手。它开始理解上下文，给出更精准的建议。人类依然在主导，AI 依然在辅助。这个阶段的人机关系是清晰的：人是决策者，AI 是建议者。

第三阶段：Agent 时代。 Agent 不再停留在"建议"层。它开始规划任务、分解步骤、调用工具、执行操作，最终完成目标。它查询数据库、发起 API 调用、修改系统配置、处理付款、发送邮件、触发下游工作流。

这是 AI 第一次真正拥有了行动能力。

从回答问题到执行任务，这一步的跨越，比从计算器到 ChatGPT 更深刻。它改变的不只是 AI 的能力边界，更改变了人类在流程中的位置。

Agent第一次让错误变得不可逆

传统 AI 的失败是"生成了错误内容"。这是一个可见的失败，人类可以在执行前发现并纠正。

Agent 的失败是"执行了错误操作"。付款发出去了，数据删除了，邮件发出了，订单提交了，系统配置改了。

这是一个经常性不可逆的失败。

Strata.io 在 2026 年 5 月的研究中描述了这种变化："AI Agent 会自主规划、决策并执行多步骤任务，极少需要人工输入。它们查询 API、修改基础设施、处理付款、发送通讯并触发下游工作流。这意味着人类干预的窗口收缩到了几秒钟，失败的后果是即时的。"

几秒钟。这是人类可以介入的窗口。

Elementum AI的模拟测试数据，更能说明问题：AI Agent 在多步骤任务中的失败率接近 70%，这些失败有一个共同因素，就是没有结构化的人类监督来管控 Agent 实际做了什么。

企业真正担心的，从来不是"Agent不会做"

在与一些企业交流时，有一个很有意思的发现：阻碍 Agent 落地的，很少是技术能力问题，更多是治理信心问题。

企业管理者们不是在问"Agent 能不能完成这个任务"，他们在问的是：

"Agent 做错了，谁来负责？"

"Agent 访问了不该访问的数据，怎么办？"

"下次合规审计，我怎么向监管机构解释 Agent 的决策过程？"

这三个问题，指向同一个核心：企业真正担心的，不是 Agent 不会做，而是 Agent 做错，以及做错了之后问责链在哪里。

Deloitte 在 2026 年的调研给了一个残酷的数字：74% 的组织计划在未来两年内采用 Agentic AI，但其中只有 21% 目前拥有成熟的 AI Agent 治理模型。五个要上 Agent 的企业里，有四个还没想清楚出了事怎么办。

这不是技术问题，是治理赤字。

一个无法绕开的问题

所以本文的核心问题很简单：Agent 越来越聪明，人类还在哪里？

这个问题的答案，不是人类正在被取代，也不是人类要把权力收回来。

真正的答案是：人类的位置正在发生深刻的结构性变化。那些没有看清这种变化、没有主动设计这种变化的企业，将在 2026 年以后付出真实的代价。

从RLHF到Agentic HITL：人类反馈体系的进化

RLHF 曾解决了生成式 AI 的对齐问题，但当 AI 进化为拥有行动能力的 Agent 时，训练阶段的人类反馈已无法管控运行时的不可逆风险。

图片

RLHF：写在模型灵魂里的人类印记

聊 Human-in-the-Loop 之前，先聊一个更上游的概念：RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习）。

这是 ChatGPT 能说"人话"的核心秘密之一。RLHF 的逻辑很直接：模型训练期间，让人类评估员对 AI 输出进行打分，模型基于这些人类偏好信号调整参数，最终让输出更符合人类期望。

OpenAI 在 2022 年发表的论文《Training language models to follow instructions with human feedback》系统阐述了这一方法，它也是 InstructGPT 和 ChatGPT 的理论基础之一。

简单说，RLHF 是把人类判断力"烤进"模型权重的过程。训练阶段结束，这部分人类反馈就固化在模型参数里，运行时不再需要人类实时参与。

RLHF 解决了 Generative AI 时代最核心的对齐问题：让 AI 说出人类想听的话。

但在 Agent 时代，这远远不够。

为什么RLHF在Agent时代失效了

RLHF 的本质，是训练阶段的人类反馈。它塑造的是 AI 的"说话方式"，而不是 AI 的"行动边界"。

Agent 时代的新问题，发生在训练完成之后的运行时（Runtime）。Agent 在运行时面对的是真实企业的复杂流程、动态数据、突发异常和业务边界情况。更重要的是，它的每一步行动都会产生真实的、有时不可逆的后果。

Forrester 分析师 Craig Le Clair 将这种变化描述得很准确：生成式 AI 的失败模式"是可见的，用人类在环中相对容易缓解"；但 Agentic AI "从'生成并审查'转变为'规划、行动并可能自主失败'"。

训练阶段烤进去的人类偏好，管不了 Agent 运行时的自主行动。这就是 RLHF 在 Agent 时代遇到的根本性局限。

Agentic HITL：Human重新进入运行时

解决方案的方向很清晰：把人类的判断力，从训练阶段延伸到运行时。

这就是 Agentic HITL（Human-in-the-Loop）的核心逻辑。它不是一个新技术，而是一种架构设计原则：在 Agent 工作流的关键节点，强制插入人类判断和决策的环节。Agent 可以规划、可以分析、可以提出方案，但在触碰特定阈值之前，它必须等待人类的确认才能继续执行。

这个设计回答了一个根本性问题：AI 什么时候可以自己做决定，什么时候必须先问人。

从 RLHF 到 Agentic HITL，背后是一个认知的升级：人类对 AI 的监督，不能只发生在训练阶段，更必须渗透到每一次真实业务执行的关键时刻。

一条清晰的进化链

把人类反馈机制的演进拉通来看，会形成一条逻辑清晰的链条：

这不是一条线性替代的链条，而是能力的叠加。更高级别的 Agentic 系统依然需要下层的 RLHF 对齐，同时叠加更精细的运行时监督机制。

理解这条链，是理解整个 Human Oversight 体系的基础。

Human家族的崛起：一份概念图谱

围绕人类在 AI 系统中的位置，业界已经产生了一批重要概念。它们之间的关系经常被混淆，这里做一次系统梳理。

图片

HITL、HOTL、HOOTL：三种基本形态

Human-in-the-Loop（HITL，人在环中）

最经典的模式。人类是工作流程的必要组成部分，Agent 在执行关键操作前必须暂停并等待人类审批，获得确认后才能继续。核心特点：Agent 不能单独完成完整流程，人类批准是执行的前提条件。典型场景：财务付款审批、合同条款确认、高风险操作授权。

Human-on-the-Loop（HOTL，人在环上）

Agent 可以自主运行完整流程，但人类在外层持续监控，只在检测到异常或超出预设边界时介入。

这个模式更像汽车的辅助驾驶系统：平时车自己开，人类在旁边看着，出现异常立刻接管。核心特点：人类不在关键路径上，但监控覆盖全程，干预能力随时就绪。

Human-out-of-the-Loop（HOOTL，人在环外）

完全自主，没有人类干预。系统按照预设规则和参数自动运行，人类只在设计阶段参与，运行期间不介入。

这个模式效率最高，风险也最大，适用场景有严格边界：规则清晰、后果可控、失败可恢复。典型场景：云基础设施自动扩缩容、防火墙规则自动更新。

三种模式的关系，可以用一个坐标来描述：HITL 极度安全但效率较低；HOOTL 极度高效但风险较高；HOTL 是中间的平衡点。绝大多数企业的 Agentic 系统，在不同场景下会混合使用这三种模式。

延伸概念：四个重要的运行时机制

在 HITL、HOTL、HOOTL 的基本框架之上，还有四个重要的运行时机制需要单独讨论。

• Human Override（人工强制接管）： 在 Agent 执行过程中，人类可以随时强制暂停并接管控制权，无论 Agent 当前状态如何。这是一个必须存在的底层能力，是任何 Agentic 系统的安全底线。
• 一个数字让人警醒：Writer 的调研显示，超过三分之一的组织承认如果出现"流氓 AI Agent"，他们无法将其关闭。没有 Override 能力的 Agentic 系统，就像一辆没有刹车的自动驾驶汽车。
• Human Escalation（人工升级）： Agent 在执行过程中，基于预设的触发规则，主动将控制权移交给人类。关键在于"主动"，是 Agent 自己识别出自己不适合继续处理，并请求人类介入。

好的 Escalation 设计，能区分"Agent 能处理"和"Agent 不该处理"这两种截然不同的情况。

• Human-in-Control（人类掌控）： 比 HITL 更宏观的概念，指在整个系统层面，人类始终保持对 AI 系统整体方向和边界的实质性控制。它不要求人类参与每一个操作，但要求人类能够在任何时刻重新定义系统的目标和约束。
• Human-in-Command（人类统领）： 当前语境下最高层次的人类监督形态，出现在多 Agent 协作的 Agentic Enterprise 场景中。

在这个层次，人类的角色已经从"审批者"彻底转型为"统领者"：设定整体战略意图、定义治理边界、评估 Agent 劳动力的整体表现、确保 Agent 行为与组织价值观一致。

Human Oversight Framework：一个完整的认知体系

把上述所有概念整合起来，王吉伟频道将其定义为 Human Oversight Framework（人类监督框架），它包含三个层次：

运行时监督层，即 HITL、HOTL、HOOTL，定义人类在具体流程中的介入方式；干预机制层，即 Human Override、Human Escalation，定义人类在异常情况下的响应能力；控制与治理层，即 Human-in-Control、Human-in-Command，定义人类对整个 Agentic 系统的战略性掌控。

三个层次，共同构成了企业在 Agentic 时代保持人类监督的完整能力栈。

有一点需要特别强调：这套框架的意义，不在于限制 Agent，而在于确保 Agent 的自主性能够安全地发挥价值。

一套设计良好的 Human Oversight Framework，是 Agentic Enterprise 的信任基础设施，而不是效率的绊脚石。

HITL到底在治理什么

这是本文最核心的一章。理解了治理对象，才能理解治理的深度和复杂度。

治理对象的七层升维

很多人对 HITL 的理解，停留在"在审批链上放一个人"。这个理解的问题在于，把治理对象想得太简单了。从最小粒度开始，把 HITL 的治理对象一层一层展开，会发现它的复杂性远超预期。

第一层：Agent。 最基本的治理单元。每个 Agent 应该有最小权限原则，就像企业里每个员工只能访问其岗位所需的系统和数据。

Forrester 的建议很直接：将每个 Agent 视为有治理的身份，给它唯一的凭证、最小权限、完整日志记录，以及一个管理其生命周期的具名负责人，不允许无主的自主性。

第二层：Agent Skill（智能体技能）。 Agent 通过调用 Skills 来完成任务，一个 Skill 可能对应一个 API 调用、一个数据库查询、一个系统操作。

HITL 需要对高风险 Skill 的调用进行专项管控。财务付款 Skill 和信息查询 Skill，需要完全不同等级的监督设计。

第三层：Agentic Process（智能体流程）。 多个 Agent 行动组合起来，形成一个有业务意义的流程。流程层面的 HITL，关注的是流程的关键决策点和风险控制点在哪里，哪些节点需要强制性的人工确认。

第四层：Agentic Workflow（智能体工作流）。 多个 Agentic Process 串联或并行，形成完整的业务工作流。这个层面的 HITL 挑战在于，工作流的复杂性往往超过单一流程，错误可能在流程间传导放大。

第五层：Agentic BPM（智能体业务流程管理）。 企业开始用 Agent 管理和优化整体业务流程，BPM 系统本身也开始具备 Agentic 能力。这个层面的治理需要覆盖流程设计本身的合理性，而不只是执行层的操作安全。

第六层：Agentic ERP / Agentic CRM。 当 Agent 深度嵌入核心业务系统，治理的复杂度大幅上升。Agentic ERP 中的采购 Agent 错误操作，可能引发供应链连锁反应；Agentic CRM 中的客户数据处理失误，可能造成大规模合规风险。

这一层的 HITL，必须与系统的业务逻辑深度整合，而不能只是表层的审批弹窗。

第七层：Agentic Enterprise（智能体企业）。 当企业整体运营深度依赖 Agent 劳动力，治理的性质发生根本变化，从流程控制升级为组织治理。

HITL的五种触发机制

HITL 不是"每一步都审批"，那样会消灭 Agent 的所有价值。Board of Innovation 指出了这种误区的代价：企业的默认反应是在每个自主行动上叠加人工审批，

这种本能恢复了 Agentic AI 本该消除的管理开销。如果审批率达到 95% 以上，该检查点就变成了确认剧场。

好的 HITL 设计是基于规则的精准触发，让人类在最需要的地方介入。

• 金额阈值触发： 最直接的机制。小额操作自动执行，大额操作逐级审批。阈值的设定需要结合企业的风险偏好和合规要求，同时随着 Agent 的历史表现动态调整。
• 置信度触发： Agent 基于概率推理做决策，当置信度低于阈值时触发升级。通常的实践是：置信度高于 95% 自动执行，80% 到 95% 抽样审核，低于 80% 强制人工审批。
• 风险等级触发： 不同操作类型对应不同风险等级。数据查询是低风险，数据修改是中风险，数据删除是高风险；内部通讯是低风险，客户通讯是中风险，合规报告是高风险。HITL 框架应当明确每个风险等级对应的监督方式。
• 数据敏感度触发： 根据操作涉及的数据类型决定是否介入。公开数据可以自动处理，客户个人数据需要审核，财务核心数据需要审批，涉及合规监管的数据必须人工把关。
• 异常检测触发： 当 Agent 的行为模式显著偏离正常范围时，系统自动发出警报并触发人类介入。这是一种"意外情况识别"机制，捕获的是规则未能预先定义的风险场景。

成熟度模型：企业在哪里

我们可以把企业的 Agentic AI 监督成熟度划分为五级：

根据目前的行业现状，绝大多数在推进 Agentic AI 的企业，在未来三到五年内会停留在 L3 到 L4 之间，而不是直接跳到 L5。

图片

Forrester 在《2026 年 Agentic AI 状况》报告中也指出了这种情况：79% 的企业说已经采用AI Agent，但真正在生产环境稳定运行的只有 11%。那 68% 的差距，很大程度上就卡在治理和监督体系的缺位上。

核心判断：Human监督的不是模型，而是数字员工

到这里，可以给出本文一个关键的论断：

Human-in-the-Loop 的本质，不是在监督一个语言模型，而是在监督一个越来越自主的数字员工。

这个视角的转变极其重要。当你把 Agent 看作模型调用，你关心的是模型的输出质量。当你把 Agent 看作数字员工，你关心的是它的权限范围、行为记录、决策可解释性、责任归属，以及它的入职条件和离职流程。

Okta 2026 年的安全报告揭示了这个类比被忽视的后果：近三分之二的组织对 AI Agent 采用的安全控制，比对人类员工更弱。

企业给人类员工设置了详细的权限管理、访问日志和行为审计，却对一个能直接操作 ERP 系统的 Agent 放任不管。

这是一个危险的双重标准，也是当前 Agentic AI 安全事件频发的根本原因之一。

从HITL到Agent Governance：一次必要的跃迁

HITL 守住了单个 Agent 的执行底线，但要管控复杂的多 Agent 协作网络，必须构建覆盖全生命周期的 Agent 治理体系。

HITL只是起点，不是终点

HITL 是一个重要且必要的起点，但它解决不了规模化之后的所有问题。

当企业同时运行几十个、几百个乃至上千个 Agent 实例，当这些 Agent 形成复杂的多 Agent 协作网络，当 Agent 的决策和操作速度超过人类单点审批的响应能力，HITL 的局限性开始显现。

SiliconAngle 在 2026 年 1 月发表了一篇很有争议性的文章：《Human-in-the-loop 已经触墙，是时候让 AI 监督 AI 了》。

文章的核心论点是：AI 系统每秒做出数百万个决策，横跨欺诈检测、交易、个性化、物流、网络安全和自主 Agent 工作流。

在这种规模和速度下，人类能够逐一有效监督 AI 决策的想法不再现实，这是一种令人宽慰的虚构。

这个观点不是错的，但它描述的是一个极端场景。更准确的判断是：HITL 在单个流程层面依然有效且必要，但在企业整体 Agent 体系的层面，它必须升级为 Agent Governance。

就像传统企业中，财务审批管控单笔交易，但企业还需要财务制度、合规体系、审计框架来管控整个财务体系一样。HITL 是前者，Agent Governance 是后者。两者缺一不可。

Agent Governance的四大支柱

王吉伟频道将 Agent Governance 体系归纳为四大支柱。

支柱一：Guardrails（护栏机制）

Guardrails 是预先定义 Agent 行为边界的机制，包括它能做什么、不能做什么、在什么条件下必须停止。

好的 Guardrails 设计是分层的：技术层面有 API 调用限制和工具使用限制；业务层面有操作权限边界和数据访问范围；伦理层面有内容生成规范和决策公平性要求。

新加坡 IMDA 在其 Agentic AI 治理框架（MGF）中，将"提前评估和限制风险"列为首要原则，本质上就是 Guardrails 的设计哲学：不是等风险发生了再处置，而是在 Agent 部署前就把它的行动空间界定清楚。

这份框架于 2026 年 1 月在达沃斯世界经济论坛发布，是全球第一个专门为 Agentic AI 设计的治理框架，已于 2026 年 5 月更新至 1.5 版，纳入了超过 60 家组织的反馈。

支柱二：Authorization（授权管理）

每个 Agent 必须有明确定义的身份、权限和访问范围，遵循最小权限原则。这不仅是技术设置，更是治理逻辑：谁授权了这个 Agent？它可以访问哪些系统？它能代表企业做出什么级别的决策？

当前企业最普遍的 Agent 风险之一，正是 Shadow Operations，员工自行创建 Agent 并通过 API 密钥授予过高访问权限，IT 部门和安全团队完全不知情。

这是 Shadow IT 问题在 Agentic 时代的升级版，后果更严重：一个拥有宽泛访问权的未受监督 Agent，可以破坏关键系统或触发未授权操作，将看似的生产力捷径变成运营负债。

支柱三：Audit Trail（行为审计追踪）

每个 Agent 的每一次重要决策和操作，都应该有完整、可查、不可篡改的日志记录。

这有三个核心价值：事后复盘时能还原 Agent 的决策过程；满足监管机构的合规审查要求；建立 Agent 行为的基线，以便识别异常偏差。

EU AI Act 第 14 条将从 2026 年 8 月 2 日起强制执行，要求高风险 AI 系统具备人类监督能力，其中就包括可解释性和可审计性的具体要求。距离生效已不足两个月，这不再是选项，而是硬性合规要求。

2026 年仅在美国就提出了超过 40 项新的 AI 监管提案，监管的收紧是不可逆的趋势。

支柱四：Risk Management（风险管理）

Agent Governance 中的风险管理，需要超越传统 IT 风险的框架。它要覆盖 AI 特有的风险类型：幻觉风险、偏见风险、过度自主风险，以及 Agent 间相互影响产生的系统性风险。

这里要单独讨论一个被系统性低估的风险：技能萎缩（Skill Atrophy）。

新加坡 MGF 在 1.5 版更新中，将其明确列为业务连续性风险：随着 Agent 承担基础任务，员工的核心操作知识可能退化。如果 Agent 故障或不可用，员工是否仍然有能力手动完成关键业务流程？

这不是哲学问题。Cognitive World 的研究用"认知债务"来描述这种退化：无摩擦的 AI 驱动流程可以在提高效率的同时掏空人类能力。随着人们停止参与任务的执行，他们的认知肌肉会退化，这种退化直接削弱了他们做出好选择的能力。

McKinsey 将此定义为 Agentic 企业必须直面的组织风险，而不是一个渐进式的副作用。

Agent Governance全景图

综合以上四大支柱，加上 Human Oversight Framework，完整的 Agent Governance 体系呈现如下：

图片

这个框架与 Gartner 提出的 AI TRiSM（AI Trust, Risk, and Security Management）在精神上高度吻合，但更具体地指向了 Agentic AI 场景下的特定挑战。

Allianz 风险晴雨表显示，AI 在 2026 年已跃升至全球商业风险的第二位，从 2025 年的第十位大幅跃升，这是当年排名中最大的跳跃。Agent Governance 的紧迫性，正在从技术讨论升级为企业战略议题。

Agent Governance将成为Agent时代的ERP

这里要提出一个核心判断：Agent Governance 将成为 Agent 时代最重要的企业基础设施，其战略地位类似于传统企业时代的 ERP 系统。

这个类比为什么成立？

ERP 解决的问题是：企业规模扩大后，如何保证各部门的业务数据一致、流程可控、合规可审计。在 ERP 出现之前，企业用 Excel 和人工协调，规模一大就乱。ERP 出现之后，提供了一套跨部门的信息和流程治理基础设施。

Agent Governance 解决的问题是：Agent 规模扩大后，如何保证所有 Agent 的行为在授权范围内、决策可追溯、风险可控制、责任归属清晰。

在 Agent Governance 出现之前，企业用分散的 HITL 审批点和碎片化的安全措施，规模一大就失控。Agent Governance 出现之后，提供了跨 Agent 的行为治理基础设施。

更关键的是，就像今天没有 ERP 的规模企业无法正常运营，未来没有 Agent Governance 的 Agentic Enterprise 也将无法安全地依赖 Agent 劳动力。

这不是做了更好的锦上添花，而是不做就会出问题的基础设施投资。

Gartner 预测，2026 年底之前将发生超过 2000 起"AI 致死"索赔，源于自主系统的安全失败。现在来看，这并不是预言，而是一道正在逼近的账单。

Human不会消失，但会升级

AI Agent 正在接管越来越多的执行工作，但这并不意味着人类的退场，而是人类角色从 操作者"向 治理者 的必然升级。

一个警示，一份反面教材

说到人类角色的变化，无论如何绕不开 Klarna 这个案例。

2024 年，Klarna 推出 AI 客服系统，单月处理 230 万次对话，CEO Sebastian Siemiatkowski 宣布这相当于 700 名客服人员的工作量，并开始大规模削减人员。

这成为"AI 替代人类"故事里被引用最多的案例，也一度成为 CEO 们追捧的模板。

2025 年，Klarna 开始悄悄重新招聘人类客服。

2026 年，CEO 公开承认激进的 AI 取代措施导致服务质量显著下降，提出了一个耐人寻味的新原则：客户永远应该能找到一个人类。

Fast Company 对此做出了非常精准的总结：Klarna 公开经历的，是许多领导者私下遇到的。AI 本身无法修复一个损坏的工作流，没有人的 AI 也无法承载品牌的信任。

Verizon 的 CX 报告数字支撑了这个论断：AI 驱动交互的客户满意度为 60%，人类主导交互为 88%。这 28 个百分点的差距，是 Klarna 教训的量化版本。

SurveyMonkey 的另一项研究发现，79% 的受访者强烈倾向于与人类而非 AI Agent 互动进行客服，即使速度和服务质量相同。

Klarna 案例的真正教训，不是"I 不行，而是用 AI 替代人类 和 用 AI 赋能人类 是两条截然不同的路。第一条路的终点，往往是 Klarna 式的翻车。第二条路的终点，才是真正的 Agentic Enterprise。

人类角色的三次迁移

在 Agentic Enterprise 的演进过程中，人类在组织中的角色经历了三次明显的迁移。

第一阶段：Operator（操作者）。 在传统 IT 和 RPA 时代，人类是系统的操作者，直接执行任务，AI 是辅助工具。人类通过点击、填写、审核来完成工作，价值来自执行能力。

第二阶段：Supervisor（监督者）。 在 Copilot 到单 Agent 时代，Agent 开始承担大量执行工作，人类转型为监督者，关注异常、审批关键决策、处理 Agent 无法自主解决的例外场景。价值从执行能力转向判断能力。

第三阶段：Governor（治理者）。 在多 Agent 协作和 Agentic Enterprise 时代，人类进一步升级为治理者，设定整体战略意图、定义 Agent 劳动力的边界和规则、建立问责体系、确保 Agent 行为与组织价值观和合规要求一致。价值从判断能力转向设计能力和价值判断能力。

这三个阶段不是完全替代，而是重心的转移。即使在 Agentic Enterprise 阶段，部分场景依然需要人类直接操作；但人类最核心的价值，已经从"我能做什么"转向"我能设计什么、我能判断什么、我能负责什么"。

Hyperscience CEO 对这种转变给出了实践层面的描述：这是人类“在环上”的模式：设定护栏、治理决策、确保自动化在规模上准确、可负担、可解释和可信。这就是 Agentic 系统真正实现企业就绪的方式。

双轨制劳动力：Human Workforce + Agent Workforce

未来的企业组织将呈现一种双轨制结构：Human Workforce（人类劳动力）和 Agent Workforce（智能体劳动力）并行存在，各自承担不同类型的工作，在治理框架下协同运转。

图片

两类劳动力的分工，遵循一个简单的原则：Agent Workforce 承担规模化、重复性、规则明确、可量化评估的工作；Human Workforce 承担需要价值判断、需要信任背书、需要创造性、需要负责任决策的工作。

两者的关键接口，正是 Human Oversight Framework：它定义了在什么条件下、用什么方式，把工作从 Agent 交接给人类，或者把控制权从人类移交给 Agent。

McKinsey 对这种双轨制劳动力结构的管理提出了明确警告：企业必须防止组织技能萎缩，随着 Agent 承担基础任务，人类员工的核心能力可能退化。

这需要刻意的培训投入和工作机会设计来对冲，而不是放任 Agent 蚕食员工的操作知识。

这个警告在新加坡 IMDA 的官方治理框架里已经成为具体的治理要求：组织应识别核心能力，并提供充分的培训和工作接触机会，确保员工保留基础技能。

Agentic Enterprise的未来运行公式

综合全文的讨论，这里设计一个 Agentic Enterprise 的运行公式：

图片

Agent + Governance + Human-in-Command = Agentic Enterprise

三个要素缺一不可。

• Agent 提供规模化的执行能力，将人类从重复性工作中解放出来，这是所有效率增益的来源；

• Governance 提供行为框架和治理基础设施，确保 Agent 在授权范围内安全运作，这是所有可信赖性的来源；

• Human-in-Command 提供战略方向、价值判断和终极责任，是整个系统的压舱石，这是所有合法性的来源。

只有 Agent 没有 Governance，结果是 Klarna。

只有 Governance 没有 Human-in-Command，结果是有规则但没有方向。

只有 Human-in-Command 没有足够强大的 Agent，结果是用了新名词的旧模式。

结语

在工业时代，人类管理机器；在软件时代，人类管理系统；而在 Agent 时代，人类将第一次开始管理数字员工。Human-in-the-Loop 不是 Agent 能力不足时的补丁，而是 Agentic Enterprise 的起点。

RLHF 把人类智慧烤进了模型权重，HITL 把人类判断力嵌入了运行时流程，而 Agent Governance 将把人类的价值观和组织意志，转化为整套 Agentic 系统的行为边界。

六国政府网络安全机构已经联合发声，新加坡发布了全球首个 Agentic AI 治理框架，EU AI Act 的人类监督条款将在 2026 年 8 月 2 日强制生效。监管层面的讨论已经形成共识，产业层面的落地实践才刚刚开始。

有一个事实需要正视：AI 安全风险在 2026 年已经跃升为全球商业风险排名第二的议题，从上一年的第十位大幅跃升。这不是一个小步迈进，这是一次断崖式的认知升级。

这是一个明确的信号：Agent Governance 的时代正在到来，领先的企业已经开始行动了。

学习资源推荐

如果你想更深入地学习大模型，以下是一些非常有价值的学习资源，这些资源将帮助你从不同角度学习大模型，提升你的实践能力。

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！​

因篇幅有限，仅展示部分资料，需要点击文章最下方名片即可前往获取

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示

​因篇幅有限，仅展示部分资料，需要点击文章最下方名片即可前往获取

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

因篇幅有限，仅展示部分资料，需要点击文章最下方名片即可前往获取

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。