当前位置: 首页 > news >正文

Agent 系列(22):Context Engineering 深度——三种上下文管理策略的量化对比

上下文的线性成本问题

Agent 不是无状态的 API 调用——它需要记住对话历史。每一轮对话都会累积到上下文窗口里,直到触发两个问题:

Turn 1: 1K tokens ← 便宜 Turn 10: 5K tokens ← 还好 Turn 50: 25K tokens ← 开始贵了 Turn 100: 50K tokens ← 每次调用都是重新喂一遍历史

这不是理论问题。一个 30 轮的项目讨论对话,全量历史 ~2,500 tokens;100 轮之后这个数字是 ~8,000 tokens,且线性增长。

常见的三种应对策略:

策略做法直觉上的代价
Naive全量历史传入贵,但准
Sliding Window只保留最近 N 条省,但可能丢信息
Rolling SummaryLLM 压缩旧消息 + 保留近期均衡?

本文用真实 benchmark 验证"直觉上的代价"是否准确。


Demo 设计

对话构造

30 轮项目讨论,覆盖数据库选型、缓存配置、迁移责任、部署平台、CI/CD、认证方案等 30 个技术决策。关键设计:重要决策刻意放在第 1-4 轮(最早期),后续才是"近期内容"。这样可以强制暴露上下文丢失问题。

三种策略实现

Strategy 1:Naive(基准)

defrun_naive(history:list,query:str,keywords:list[str])->StrategyResult:msgs=[SystemMessage(content=SYSTEM_PROMPT)]+history+[HumanMessage(content=query)]tokens=count_messages_tokens(msgs)t0=time.time()text=str(llm.invoke(msgs).content)returnStrategyResult(text,tokens,time.time()-t0,recall_score(text,keywords))

Strategy 2:Sliding Window(截断)

defrun_sliding_window(history:
http://www.jsqmd.com/news/1042649/

相关文章:

  • Catcher核心功能详解:从异常捕获到多平台错误处理
  • UVa 538 Balancing Bank Accounts
  • 深入解析S12 MSCAN模块:硬件保护、时钟配置与低功耗设计实战
  • 思源宋体终极指南:7种字重免费开源字体解决你的中文排版难题
  • RevokeMsgPatcher深度解密:Windows平台即时通讯软件二进制补丁完整技术手册
  • 大模型转型攻略:小白程序员轻松入门,收藏这份从零到精通的学习指南!
  • ThumbmarkJS架构解析:从工厂模式到组件管理的设计哲学
  • MPC555/556微控制器架构解析:PowerPC内核、IMB总线与关键外设实战
  • MC9S12KG128内存映射控制(MMCV4)详解:突破64KB限制的嵌入式开发实战
  • Numix图标主题与Numix Circle、Numix Square的完美组合方案
  • Beyond Compare 5密钥生成器:3种终极解决方案完整指南
  • 5分钟快速掌握Android设备终极优化:Universal Android Debloater完整指南
  • 构建MLflow+Kubeflow协同架构:实现企业级机器学习平台工程化
  • Photoshop图层导出革命:如何用脚本引擎将设计效率提升90倍
  • 2026郑州黄金回收靠谱推荐|收的顶领跑实测避坑全攻略 - 奢侈品回收测评
  • 告别物品混乱:5步掌握HomeBox家庭物品管理系统
  • 链路层:亲密的网络旅程(十七):PPP 的“调参”艺术与多车道合流——LCP 的深度调优、链路体检与多链路聚合
  • 终极指南:如何用Canvas编辑器解决传统富文本编辑器的5大痛点
  • 2026黔南放心贵金属回收,CCIC 中检授权收黄金回收铂金回收白银回收持证实体门店 - 中安检金银铂钻回收
  • 2026北京海淀区爱马仕LV回收人气口碑榜单|五家本地实测高人气门店汇总 - 逸程
  • MC68HC908JG16微控制器:振荡器与系统集成模块的深度解析与实战配置
  • MPC555/556系统配置与保护寄存器详解:从原理到实战避坑指南
  • 034、Superpowers 技能体系:核心技能详解与实战
  • 成为开放科学讲师:TOPS Open Science 101教学资格获取与课程组织完整指南 [特殊字符]
  • 终极指南:在macOS上高效运行Windows应用的专业解决方案
  • grunt-nw-builder高级功能:实现Windows、Mac和Linux三平台同时打包的终极指南
  • 2026南昌放心贵金属回收,CCIC 中检授权收黄金回收铂金回收白银回收持证实体门店 - 中安检金银铂钻回收
  • MC68HC908SR12 LVI与BRK模块:嵌入式系统电源监控与硬件调试实战
  • 如何扩展javascript-typescript-langserver:添加自定义语言功能完整指南
  • 2026北京海淀区爱马仕LV回收人气口碑榜单|本地实测高人气门店汇总 - 逸程