Agent 卡在执行第一步？90% 的问题出在 Query 理解（附完整技术架构）

在实际业务中，超过 60% 的 Agent 执行错误源于 Query 理解失败——指代消解错误、时间表达歧义、意图识别偏差。当用户说"帮我查一下那个上周订的东西"，系统需要同时解决：实体指代（"那个"→订单 ID）、时间解析（"上周"→具体日期范围）、动作映射（"查"→物流/状态接口）。这不仅是 NLP 问题，更是工程架构问题。 本文从工程视角完整拆解 Agent Query 理解的技术链路，涵盖三级级联处理、混合检索策略、多轮状态管理，以及从 0 到 1 的建设路径与关键指标。

一、从搜索到 Agent：为何 Query 理解难度陡增？

在传统搜索引擎中，Query 理解的目标相对单一：把用户输入转成有利于文档召回的查询表达。而对 Agent 来说，Query 理解的目标则完全不同——它要输出的是能直接驱动系统行为的结构化指令。

可以粗略对比两类系统的特征：

搜索引擎 Query 理解Agent Query 理解

搜索引擎：单轮交互、意图变化小、错误容忍度高Agent：多轮对话、意图随时切换、错误容忍度低

输出：文档列表输出：可执行的结构化调用/动作

错误后果：结果不太相关错误后果：误操作、业务风险、用户投诉

上下文：当前 Query 为主上下文：多轮历史 + 用户画像 + 工具/接口能力

1.1 三个关键难点

（1）自然语言表达高度碎片化

真实用户不会按产品文档说话，常见输入形式包括：

•强烈口语化：“那个红色的衣服，退了吧”

•大量省略：“上次那个，还有吗”

•一句话多个诉求：“帮我查下快递，顺便看下有没有优惠券”

•跨轮指代：“它还有其他颜色吗”（"它"依赖上一轮上下文）

（2）意图要落到可执行动作

搜索系统只要返回一堆文档即可，而 Agent 必须把"退款"、“改地址”、"查物流"等意图转成具体接口调用及参数。比如"退款"要明确：哪一笔订单、退款金额、原因类型等。这就涉及意图识别、实体抽取和槽位填充的协同。

（3）多轮状态要持续维护

用户可能这样说：

•第一轮：“我想退款”

•第二轮：“上周买的那件”

•第三轮：“质量问题”

Agent 需要把这三句话合并成一个完整、可执行的退款请求。这不只是逐句理解，更是对话状态长期维护的问题。

⚡ 核心认识

在 Agent 场景中，Query 理解的本质是：把自然语言转成系统可执行的结构化语义表示。其中包含两个维度： - 用户想干什么（意图） - 需要哪些参数来执行（实体/槽位） 两者缺一不可。

二、Query 理解的整体架构：从清洗到执行

从工程角度看，一个完整的 Agent Query 理解系统大致分为三层，由浅入深：

Query 理解三层处理

1基础处理层：预处理 → 纠错 → 分词 → NER；以规则和轻量组件为主，延迟要求通常 < 50ms

2语义理解层：意图识别 → 槽位填充 → 实体链接 → 指代消解 → Query 改写；主要依赖模型，延迟 < 200ms

3执行匹配层：向量检索 → 混合召回 → 重排序；面向检索与工具调用，延迟 < 500ms

业界普遍采用**级联式（Cascade）**架构：简单 Query 用最快的方法解决，复杂 Query 再逐级升级处理。

规则匹配 → 小模型 → 大模型 ↓ ↓ ↓ <10ms <50ms <200ms60%-70% 20%-25% 5%-10%（高频简单） （中等复杂） （长尾复杂）

这种设计的目标是：大部分请求在可控延迟内被快速处理，小部分复杂请求通过更强的模型获得更高质量理解，在性能与效果之间取得平衡。

三、基础处理层：先把"输入"整理干净

3.1 预处理与归一化：把脏数据标准化

用户输入往往包含各种非标准写法，第一步是做统一规范化处理。

💡 工程注意

停用词过滤在 Agent 场景要格外慎重。"最好手机"与"最好的手机"语义有细微差别，"来吗"和"来了吗"语气也不同。情绪词、语气词往往是判断用户态度和意图强度的重要信号，不宜简单删除。

3.2 拼写纠错：处理"iphnoe 15"这类输入

纠错在 Query 理解中出现频率极高。公开数据表明，搜索场景中约有两成 Query 存在输入错误。

常见方案对比如下：

真正棘手的往往不是传统错误，而是新词识别。“AIGC”、“Sora”、“MCP"等新名词如果被误当作错别字替换，体验会非常糟糕。常见做法是：通过热搜、日志监控等手段实时发现新词，并维护"保护词白名单”。

3.3 分词与 NER：把字符串拆成语义单元

以中文为例，分词是后续理解的前提。“南京市长江大桥"可以被切成"南京市/长江/大桥”（合理）或"南京/市长/江大桥"（错误）。在 Agent 场景中，分词错误可能直接导致实体识别失败，从而影响工具调用。

分词之后是命名实体识别（NER）——识别人名、地名、机构名、时间、商品名等关键实体。典型 Agent 场景中常见的实体类型包括：

技术演进路径大致经历了：规则+词典 → BiLSTM-CRF → BERT-CRF → 直接用 LLM 抽取。每一代技术都在减少对人工标注的依赖、提升长尾泛化能力。

四、语义理解层：Agent 的"决策中枢"

4.1 意图识别：先搞清楚"要做什么"

意图识别决定 Query 属于哪类任务，是整个 Agent 的路由核心。简单说，就是判断用户是在查信息、办业务，还是闲聊。

从建模角度看，意图识别是分类问题，但在 Agent 场景下，分类本身只是其中一环。

意图理解├── 意图分类：要做什么│ └── 商品查询 / 订单操作 / 投诉 / 闲聊 / ...└── 实体识别：用什么参数做 └── 如 city=北京, age=32, amount=50000

可以概括为：意图分类决定调用哪个工具，实体/槽位决定传入哪些参数。

工程落地的五种主流方案

方案一：规则匹配

高优先级关键词 → 直接归类"退款" / "退货" → 退款意图"好的" / "成" / "行吧" → 确认意图

•优点：几乎无延迟、可控性强、无需数据

•缺点：对口语变体覆盖有限，如"嗯行吧"可能漏掉

•适用：冷启动阶段，覆盖 60%-70% 高频意图

方案二：传统分类模型（如 BERT 微调）

以几千条标注数据微调中文 BERT，做多类意图分类，主流场景下可达到较高准确率；量化后单条预测延迟在几十毫秒级，适合高并发。

•局限：

•每个新意图需要额外标注样本

•类别数增多后效果容易下降

•新增或调整类别需要重新训练

方案三：向量检索式匹配

为每类意图准备若干典型表达，编码成向量。用户输入实时向量化，与意图库计算相似度，相似度高于阈值则认为命中。

•优点：对表达多样性有较好鲁棒性，能覆盖大量口语变体

•常用配置：

•编码模型：如 BGE-base-zh、M3E-large 等中文向量模型

•向量库：意图类别较少时可用 Faiss，规模大时可用 Milvus 等

•阈值：初期可设 0.75，再结合线上效果调整

方案四：LLM 分类（零/少样本）

在大模型基础上，通过精心设计的 Prompt，直接让模型输出意图类别。即便没有标注数据，零样本也能获得较高准确率；再配合少量示例，效果可进一步提升。

关键要素包括：

•明确角色和业务范围（如"你是电商售后意图识别助手"）

•对每个意图类别给出清晰定义

•限制输出格式，如"只输出意图标签"

•提供少量带标签示例

工程实践中，通常会固定模型版本、降低 temperature，并在后端对输出格式做严格校验，对低置信度结果统一归为"未知"。

方案五：混合架构

综合以上几种方式，形成多层级决策链路：

用户输入 → 规则匹配（覆盖 60%-70% 简单意图） → 命中：直接输出 → 未命中：进入向量检索 → 向量检索（覆盖 20%-25% 中等复杂意图） → 相似度>阈值：输出 → 未命中：调用 LLM 分类 → LLM 分类（兜底 5%-10% 长尾复杂意图）

这种三层结构在效率、效果和成本之间相对均衡。

意图识别 vs Query 改写：路由和翻译的区别

在系统设计中，意图识别和 Query 改写经常被混用。更清晰的理解是：

•意图识别：决定请求应该被路由到哪条处理链路/哪个工具

•Query 改写：把用户表达转换成系统更易处理的形式（包括纠错、扩展、拆分等）

一般做法是：先通过意图识别确定大方向，再由 Query 改写对具体表达做细化补全。实践中还常采用"快车道/慢车道"设计：标准化请求走规则快车道，复杂请求交给大模型慢车道处理。

多意图识别：一句话多个任务

用户常把多个需求塞进一句话：“帮我查下快递，要是没发货就直接取消”——其中同时包含物流查询和条件取消。

一种可行方案是：多路召回 + 精排筛选：

Query 改写 → 针对不同意图类别并行召回候选 → Reranker 对各候选意图打分排序 → 选出若干高置信度意图 → 调用工具并由 LLM 组织最终回复

关键在于：召回的是不同类别的意图，而不是同类意图的多个重复表达。

多意图组合与意图跳转的处理

在真实业务中，不同意图之间还存在顺序、优先级和互斥约束。可以将业务粗分为三类：

•W：固定流程型（Workflow），如报案、申请理赔

•A：Agent 型（需动态规划），如复杂排障

•Q：问答型

不同组合下典型策略如下：

意图跳转时，常见处理包括：

•W→Q：先回答问题，再用引导语拉回流程

•A→Q：暂存 Agent 状态，问答后由 Agent 决定如何继续

•W/A→W/A：用意图栈缓存未完成任务，栈满时按策略淘汰

实际系统中还会引入意图排序策略：综合考虑用户表达顺序、业务优先级和互斥关系，而不是机械按出现顺序执行。

4.2 槽位填充：再确定"用什么参数做"

意图确定后，下一步是把执行该意图所需的所有参数补全，这就是槽位填充。

示例：

用户："帮我把订单20260318001的收货地址改到上海市闵行区虹桥街道"意图：修改地址槽位：{ "order_id": "20260318001", "new_address": "上海市闵行区虹桥街道"}

槽位填充的难点在于：用户表达往往不规整，需要归一化。

不同槽位类型的常见策略：

•高度结构化（订单号、金额、日期等）：优先用正则和规则，速度快、准确率高

•语义灵活（问题描述、退款原因等）：适合交给 LLM 做抽取和归一化

•枚举型（城市、车型、类目等）：向量检索结合别名词典，兼顾简称、误写等情况

⚡ 工程建议

一般采用"规则前置 + 模型兜底"的混合方案。能用规则解决的不要交给大模型，以降低成本和延迟；但对于高度语义化的槽位，规则很难覆盖，则应充分利用模型能力。

4.3 多轮对话与指代消解：跨句理解"它/那个/上次"

在多轮对话中，指代现象非常普遍：

轮1：用户："iPhone 15 多少钱？"轮2：用户："它有 256G 的版本吗？" ← "它"指 iPhone 15轮3：用户："那就买这个吧" ← "这个"指"iPhone 15 256G"

要做好指代消解，系统需要维护一份对话实体状态表，记录对话中出现的关键实体，并在新一轮输入时进行关联判断。

常见情形包括：

•代词指代："它/这个/那个"等，需结合最近几轮上下文判断指代对象

•省略表达：“有便宜的吗”——省略了商品类别，需要从上文补全

•对话状态追踪（DST）：以 slot-value 形式维护用户当前目标和参数

例如，到第三轮结束时，对话状态可能是：

{ "product": "iPhone 15", "storage": "256G", "action": "purchase", "price_confirmed": true}

任务型对话系统（如语音助手）普遍依赖 DST 来保证多轮对话的一致性。

规划与回复分离：快思考与慢思考的协同

在一些实践中，会将 Agent 的"规划"和"回复生成"交给不同模型：

•规划：使用速度较快、成本较低的模型，负责工具调用决策和步骤规划

•回复：使用推理能力更强的模型，对工具结果进行整理和说明

工程上通常通过约定输出格式（如标记"Finish:"等），在检测到规划完成后中断输出，并将工具结果交给另一模型生成最终��复。实测表明，这种分工有助于在成本可控的前提下提升整体体验。

此外，还可以把工具泛化为三类：

这种设计使得 Agent 能在规划过程中主动与用户交互，并协调多个 Agent 协作，更贴近真实业务。

上下文携带策略：多少才合适

给大模型的历史上下文并非越多越好。可以用一个粗略的"上下文相关性"概念来指导：

•相关性很低：历史信息多为干扰，应尽量少带或不带

•相关性中等：可带最近几轮（如 2-3 轮）

•相关性很高：可适当多带，但仍需避免冗余

例如在外呼场景中，每轮问答往往相对独立，过多携带历史可能导致模型误解当前回答指向的对象。

4.4 Query 改写：增强召回与理解的杠杆

Query 改写的目标是：把原始 Query 转换成一组更利于检索和执行的表达。常见类型包括：

针对真实环境中大量 noisy、多意图、含歧义的 Query，近期有工作提出了类似"Omni-RAG"的框架：先用 LLM 对 Query 做深度理解和分解，再分别检索、聚合和生成回答。这类思路的共同点是：不再假设 Query 已经"干净"，而是把 Query 理解本身作为 RAG/Agent 流程中的显式步骤。

五、执行匹配层：语义检索与工具调用的基础设施

5.1 为什么不能只靠关键词？

以搜索为例：

Query："怎么让照片更好看"文档关键词："滤镜" "修图" "美颜" "后期"

两者没有任何词面交集，传统 BM25 等关键词检索很难召回相关内容。

向量检索通过将 Query 和文档编码到同一语义空间，用余弦相似度衡量相似性，从而跨越词汇差异。

5.2 编码模型选型：中文场景常用方案

具体选型需结合延迟、成本和部署环境综合考虑。

5.3 混合检索：关键词 + 向量的组合拳

单一检索方式各有盲区：

•BM25：擅长精确匹配关键词和专有名词，对同义表达无能为力

•向量检索：擅长语义相似度，但对罕见词、缩写和精确匹配不敏感

因此，生产环境常采用混合检索（Hybrid Search）：

BM25 召回（关键词） ↓向量检索（语义） ↓RRF 等方法融合排序 ↓Reranker（交叉编码器）精排 ↓输出 Top-K 结果

常用向量数据库包括 Faiss、Milvus、Chroma、Weaviate 等，分别适用于本地高性能、分布式大规模、轻量原型和图检索等不同场景。

六、从 0 到 1：工程落地路径与关键指标

6.1 分阶段建设路径

冷启动期（0-3 个月）

•以规则、词典为主快速上线

•使用现成分词工具（如 jieba）

•手工维护意图列表和简单路由

•重点收集真实日志

成长期（3-12 个月）

•引入 BERT 等模型做意图识别和 NER

•建设向量检索和混合召回

•搭建 AB 测试体系

成熟期（1 年+）

•全面采用级联混合架构

•接入 LLM 处理长尾复杂 Query

•支持多意图、指代消解、多轮状态追踪

•端到端持续优化

6.2 关键指标参考

6.3 生产级案例：阿里商旅多智能体架构

阿里商旅的差旅助手是一个较典型的多智能体落地案例，其演进过程揭示了 Query 理解在复杂业务中的实际挑战。

问题起点：早期单 Agent 模式下，随着 Prompt 规模膨胀，模型注意力分散，事项识别准确率仅约 50%，并伴随稳定性问题。

关键升级点包括：

1快慢车道路由

2规则引擎优先：能直接识别的意图走快车道，直接路由到对应智能体

3未命中则由 LLM 意图识别智能体处理，完成多意图识别、消歧、Query 改写和结构化决策

4动态 Prompt 状态机

5将原本线性流程描述改造为状态机

6结合程序化状态控制与自然语言理解，精确识别当前对话阶段

7目标是让模型注意力聚焦在当前主链路，避免无关上下文干扰

8上下文分层管理

9全局上下文、会话记忆、动态 Prompt、工具注册分层管理

10各智能体独立管理自己的历史，只在必要时共享部分上下文

11遵循"最小必要上下文"原则，减少无效信息，提升推理质量

12可观测性与追踪

13引入 Langfuse 等工具，对单次对话、整场会话和用户级行为进行追踪

14解决多智能体调用链复杂、问题难定位、优化缺乏数据支撑等问题

整体效果上，事项识别准确率从约 50% 提升到 90%+，历史遗留问题得到系统性解决。

6.4 异常与容错：生产环境绕不开的问题

在真实环境中，Agent 系统不可避免会遇到各种异常，包括但不限于：

兜底策略需要与产品侧充分沟通，通常不会直接向用户暴露"模型错误"，而是用更可接受的方式表达，如"系统繁忙，请稍后重试"等。

6.5 监控与持续优化

系统上线后，持续优化比初次上线更关键，主要包括：

1日志分析：从真实请求中挖掘规则覆盖不到的高频 Query，补充规则和向量库

2AB 测试：对意图识别模型、改写策略、召回权重等进行实验验证

3新实体监控：通过热搜、新品发布等渠道发现新词，及时更新词典和保护名单

结合全链路观测工具，可以形成"发现问题 → 定位原因 → 评估方案 → 持续迭代"的闭环。

七、大模型背景下的 Query 理解新范式

7.1 LLM 吃掉中间层：从流水线到一体化

在大模型普及之前，Query 理解通常是一个多模块流水线：

Query → 预处理 → 分词 → NER → 意图识别 → 槽位填充 → 执行

随着 LLM 能力增强，越来越多的中间步骤可以被统一到一次模型调用中：

Query → LLM（统一完成理解 + 结构化输出） → 执行

这带来的好处是开发效率和长尾覆盖能力提升，但也引入了延迟、成本和可控性等方面的挑战。因此，在实际生产中，纯 LLM 方案和传统多模块方案往往会以混合形态共存。

7.2 面向 noisy Query 的新框架

近期研究指出，很多 RAG/Agent 系统在实验环境中依赖的是干净、明确、单意图的 Query，而真实业务中的 Query 更常见的是：

•拼写错误、语法不完整（noisy）

•语义含糊、上下文依赖（ambiguous）

•一次表达多个诉求（multi-intent）

针对这一现实，一些框架提出：在检索/工具调用之前，显式增加"Query 深度理解与分解"步骤，由 LLM 负责纠错、去噪、拆分子任务，再分别检索或执行。这与前文对 Query 理解的系统化拆解是同一思路。

7.3 可能的演进方向

当前形态未来方向

当前：多模块流水线，各模块独立优化未来：端到端模型，多任务联合训练

当前：以文本 Query 为主未来：语音、图像、文本多模态统一理解

当前：面向"平均用户"，个性化程度有限未来：结合用户画像和历史行为的个性化 Query 理解

当前：模型决策过程难以解释未来：可溯源的 Query 理解链路，支持审计和调试

八、结语：从"能对话"到"能办事"

围绕 Agent 场景，本文从工程角度梳理了 Query 理解的完整链路：

1基础处理层：预处理、纠错、分词、NER，解决输入规范化问题，为后续理解打基础

2语义理解层：意图识别、槽位填充、指代消解、Query 改写，完成对用户需求的结构化理解

3执行匹配层：向量检索、混合召回、精排，为工具调用和回答生成提供高质量支撑

在工程实践中，几条原则尤为关键：

•级联策略：规则优先、小模型补充、大模型兜底，在准确率、延迟和成本之间取得平衡

•快慢分离：高频标准请求走规则/小模型快车道，复杂长尾请求交给大模型慢车道

•异常容错：从输出格式约束到循环检测，再到兜底策略，确保系统在各种异常下仍能给出可接受反馈

•数据驱动：依托日志和观测系统，持续发现问题并迭代优化

•混合架构：既不过度依赖单一模型，也不过度依赖规则，而是根据任务特点进行分层组合

⚡ 总结一句话

在 Agent 场景中，Query 理解不是简单堆叠 NLP 模块，而是一项围绕"把用户自然语言转成可执行结构化指令"的系统工程。意图识别解决"走哪条路"的问题，Query 改写解决"怎么走得更顺"的问题，两者协同，才能让 Agent 真正"听懂"用户并可靠执行。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】