当前位置: 首页 > news >正文

当 Agent 在半路翻车:一个 200 微秒的健康体检如何抓住失控的 LLM

你写了一个 Agent。它跑着跑着,开始原地打转——同一个工具调用重复第七次;或者更糟,它从某个工具那里拿到了一个被污染的结果,安静地吞下去,然后用这个错误数据编出了一个看起来完全合理的答案。等任务跑完你才发现:预算烧光了,答案错了,而你甚至不知道它是从哪一步开始坏的。

这是 2026 年 Agent 工程最疼的那个问题。不是"模型不够聪明",而是你根本不知道它什么时候开始坏了

现有的标准答案很直接:用一个 LLM 当裁判,每一步都打分。问题是,这个裁判每一步都要跑一次 7B 模型的 forward pass,算下来比 Agent 本身还贵。Sunny Dubey 在 8 月 3 日挂到 arXiv 的这篇论文(2608.02464)问了一个看起来很傻的问题:

如果我只看 Agent 每一步"留下的脚印"——它说了什么、token 有多不确定、调了什么工具、工具返回了什么——我能用 200 微秒一步的成本,在它彻底翻车之前就拉响警报吗?

答案是可以,但故事比"可以"有意思得多。

一、核心设定:只看健康样本,不问失败长什么样

这篇论文最反直觉的设计选择是:监控器只见过健康的运行轨迹,从来没见过失败长什么样

这听起来像是在故意给自己挖坑。常规的故障

http://www.jsqmd.com/news/1380155/

相关文章:

  • 2026进口/国产隐形车衣全价位选购攻略:3 千到 3 万价差拆解 - 滚动商讯
  • Claude Code工程化实践:用Rules构建团队AI协作规范
  • 鸿蒙自动化测试新范式:DeepAgents智能体框架实战与避坑指南
  • 香港移民公司推荐:2026年十大专业机构综合实力解析 - 滚动商讯
  • 111.ABAP 大批量 UPDATE 批量更新数据库性能优化
  • Vue 3响应式进阶:toRef、toRefs与toRaw核心原理与应用场景
  • 三维扫描能不能直接获取STP格式/CAD图纸吗模具检测场景解答 - 匠言榜单
  • 鱼丸哪家品质好:【深鲜季】鱼糜充盈 - 17728098551
  • 【2014-05-09】某《魔鬼训练营》读书笔记:特定服务扫描
  • 微流控LNP合成仪厂家分析与选型指南 - 生活动态圈
  • 刷题笔记:力扣第968题-监控二叉树
  • 浙江GEO优化服务商哪家好?2026自研技术、落地效果深度对比测评 - 商业新知
  • MySQL int(11)与Java数据类型:存储原理、映射实践与性能优化
  • 2026年实验室通风柜怎么选?材质、标准、厂家实力,一篇讲透 - 深度智识库
  • Python环境高效部署指南:国内镜像加速与全流程配置详解
  • CAMERA-CMOS
  • 2026 武汉图文店必备资质:印刷经营许可证办理条件与周期一文看懂 - 招小财
  • Rust 编译期安全的边界:类型系统拦不住哪些问题
  • 第79章 「认知战」—— 墨子篇
  • 【集训】ZR集训——图论(2)
  • 【2014-05-11】某《魔鬼训练营》读书笔记:活跃主机探测
  • Claude Code:AI编程助手核心能力、配置与实战指南
  • 自主订单履约适合你的企业吗?(2026)
  • 2026卖家精灵一年多少钱?单人版、标准版、高级版、VIP价格及优惠折扣码整理 - 麦麦唛
  • 钣金镶嵌防水紧固件源头厂商盘点 华南厂家支持非标定制打样 - 变量人生001
  • 大模型微调避坑指南:LoRA实战中的四大工程陷阱与解决方案
  • 鼻基底自填2.0:分层定点支撑技术解析与材料选择指南
  • 2026年求职APP全面盘点:如何在众多选择中选到最适合自己的?附避坑指南与靠谱平台推荐 - 产业观察报
  • 孩子被同事投诉辞职后几年不工作怎么办?雅方咨询效果如何? - 生活动态圈
  • ## 落地干货|广东天气多变,企业团建必须掌握的“晴雨双预案” - 友人团建