Agentic RAG：解锁智能问答新范式，让AI自主解决复杂问题！

上下文工程失败的原因只有两个：

❶底层LLM能力不够

❷正确的上下文没有传递给LLM

以正确格式为大模型提供正确信息和工具，才是RAG头号工作。

一、传统RAG

Agentic RAG是什么

AI新范式

Agentic RAG定义

RAG + Agents = Agentic RAG

Agentic RAG 是一种基于 AI Agents 的 RAG 实现：

将 AI Agents 整合到 RAG 流程中，协调各组件，执行超越简单信息检索与生成的操作，它将 RAG 从「信息检索增强工具」，彻底升级为 「自主问题解决框架」

关键技术与改进（范式转移：引入 AI Agent），从「数据流」到「推理环」工作流从线性变为智能体主导的循环往复：「思考 - 行动 - 观察 - 循环」

自主工具使用（Autonomous Tool Use）智能体在每一步自主判断并选择最合适工具（搜索、计算、API 调用等）；

二、Agentic Rag优化步骤

• 第一步、数据质量优化：文本切割优化

  问题：简单固定长度的分割会割裂语义（比如把一个句子从中间切断）

• 优化：使用更高级的分割策略，递归分割：先按段落 / 标题等大边界分割，再对过长部分进行二次分割，利用模型或算法识别语义连贯的单元。

示例：所有文件转成json 标题-段落-语义切割（Base64解码处理图片）

第二步、元数据增强优化

问题：检索时只依赖纯文本内容，缺乏上下文。

优化：为每个文本块附加丰富的元数据，如：来源文件、章节标题、作者、创建日期、类型等。这些元数据可以用于混合检索或后处理过滤。

第三步、多模态数据优化

问题：输入资料中包含图片、表格和公式，如何实现 Any-To-Any（任意模态间的检索与交互）。

优化：采用 OCR 模型解析多模态内容，保留关键特征，多模态嵌入模型实现多模态向量化。

常用工具 / 模型：

Deepseek.OCR

Dots.OCR

Dolphin

GME-Qwen-VL 等

a.什么是向量数据库（Milvus为例）

b.常规存储样式

c.文字切片存储样式

d.向量数据（此表为1024长度的向量）

第四步、提升数据库索引优化

问题：近似近邻搜索算法繁多，需选择合适算法与度量来加快搜索速度。

优化：选择 AUTOINDEX来匹配最优密集向量索引，同时为文字内容建立倒排索引以提升速度。使用 MaxScore 算法优化 Document-at-a-Time (DAAT) 查询处理；在专业术语较多的场景下，需优先选择 DAAT_MAXSCORE。

为什么要“稀疏+密集”？

向量数据库中不能只有密集向量

也需要稀疏向量[00010000…]需要针对性进行优化（如IP向量度量），一般采用独热编码‌（One-Hot Encoding）得到的都是稀疏向量。

密集向量：将文本转化为固定长度的数组（维度），捕捉的是语义（“轿车”和“奥迪”很近）。但它是不可解释的黑盒，且容易丢失精确关键词。

稀疏向量：向量中绝大部分是 0，只有少数维度有值（代表关键词的权重）。捕捉的是精确词汇（“宝马 X5”和“宝马”匹配）。传统 BM25 算法本质上就是一种稀疏表示。

这会让你的 Agent 在回答“数字化营销具体包含哪些指标？”这种泛化问题时靠语义，在回答“某某系统的指标代码A010-产值达成率是什么？”这种精确问题时靠关键词。

第五步、搜索质量优化

问题：单纯基于语义检索易忽略关键词匹配的重要性。

优化：结合稀疏检索（如 BM25）和稠密检索（嵌入模型）。BM25 对精确关键词匹配更有效，两者结果融合可以取长补短。

重排：初步检索返回的 Top K 个结果中，可能混入一些相关性不高的文档。

Rerank 模型（大模型）：混合检索不是简单的“把两个结果放在一起”，核心难点在于分数归一化和结果融合。

核心算法：RRF

这是目前最主流、最不需要调参的融合算法。它不在乎 BM25 的分数是 100 还是向量相似度是 0.8，它只在乎排名。

逻辑：如果一个文档在向量检索排第 1，在关键词检索也排第 1，它的分数就会爆高。如果只在排第 50，加分就很少。

实现流程图：

第六步、检索结果评估优化

问题：检索返回的TopK个结果中，质量不佳或者最终大模型生产的答案出现幻觉；

优化：结合RAGAS框架，实现多种指标的评估。

关键：浮点数scorer指标定义（评价标准）

第七步、上下文工程优化

核心观点

上下文不应只是“填满窗口”，而应是“推理路径的燃料”。优化的核心在于减少噪声，提高信息密度，并让 Agent 具备自我纠正检索质量的能力。当上下文内容冗长繁杂时，易超出 LLM 上下文窗口，或导致关键信息被淹没；尤其当用户输入问题关联历史聊天记录时，该问题更突出。

查询路由与动态规划

(Query Routing & Dynamic Planning)

不要直接拿用户问题去检索。

策略：在检索前加入一层Intent Analysis（意图分析）。Agent 判断当前问题是需要实时数据、静态知识库、还是需要代码/工具计算。

提示词技巧：你是一个路由专家，根据用户问题判断应该调用 [知识库搜索]、[网络搜索] 还是 [SQL查询] 工具，只输出工具名和参数。

收益：大幅减少无关文档注入，节省上下文。

ReAct 迭代式检索

(ReAct Iterative Retrieval)

Thought: 用户想知道X，但我目前不知道Y。

Action: Search(query=“Y的具体定义”)

Observation: 搜索结果显示…

Thought: 结合Y的定义，我现在可以回答…

假设性文档嵌入

(Hypothetical Document Embeddings‌)

用户的问题往往语义与向量库不匹配。

策略：让 Agent 在检索前，先“生成”一个完美的假设性答案，以搜代问，然后用这个假设答案去向量库做语义检索。

提示词技巧：请根据用户问题，生成一段包含可能答案的虚构段落。这段话将被用于检索相似的真实文档。

收益：显著提升语义向量的召回率。

上下文压缩与重排

(Context Compression & Reranking)

检索回来的 Top-K文档不等于都是有用的。

Rerank：使用 Cross-Encoder 模型（如BGE-Reranker）对召回文档重打分。

Compress：利用 LLM 提取文档中的核心信息，丢弃废话。

提示词技巧：给定以下检索到的文档和用户问题，请提取出直接回答问题所需的关键信息，忽略无关的修饰语。如果文档没有答案，请输出"无相关信息"。

收益：降低“迷失”，提高 Token 利用率。

反思式自我修正

(Reflective Self-Correction)

检查上下文：

1. 是否包含回答用户问题的所有关键实体？

2. 信息之间是否存在矛盾？

如果任一答案为否，请重新生成一个新的搜索查询来弥补缺口。

示例：

RAG流式输出和反思：

Agentic RAG常用模型：

大模型常用推理框架：

最近两年大模型发展很迅速，在理论研究方面得到很大的拓展，基础模型的能力也取得重大突破，大模型现在正在积极探索落地的方向，如果与各行各业结合起来是未来落地的一个重大研究方向

大模型应用工程师年包50w+属于中等水平，如果想要入门大模型，那现在正是最佳时机

2025年Agent的元年，2026年将会百花齐放，相应的应用将覆盖文本，视频，语音，图像等全模态

如果你对AI大模型入门感兴趣，那么你需要的话可以点击这里大模型重磅福利：入门进阶全套104G学习资源包免费分享！

扫描下方csdn官方合作二维码获取哦！

给大家推荐一个大模型应用学习路线

这个学习路线的具体内容如下：

第一节：提示词工程

提示词是用于与AI模型沟通交流的，这一部分主要介绍基本概念和相应的实践，高级的提示词工程来实现模型最佳效果，以现实案例为基础进行案例讲解，在企业中除了微调之外，最喜欢的就是用提示词工程技术来实现模型性能的提升

第二节：检索增强生成（RAG）

可能大家经常会看见RAG这个名词，这个就是将向量数据库与大模型结合的技术，通过外部知识来增强改进提升大模型的回答结果，这一部分主要介绍RAG架构与组件，从零开始搭建RAG系统，生成部署RAG，性能优化等

第三节：微调

预训练之后的模型想要在具体任务上进行适配，那就需要通过微调来提升模型的性能，能满足定制化的需求，这一部分主要介绍微调的基础，模型适配技术，最佳实践的案例，以及资源优化等内容

第四节：模型部署

想要把预训练或者微调之后的模型应用于生产实践，那就需要部署，模型部署分为云端部署和本地部署，部署的过程中需要考虑硬件支持，服务器性能，以及对性能进行优化，使用过程中的监控维护等

第五节：人工智能系统和项目

这一部分主要介绍自主人工智能系统，包括代理框架，决策框架，多智能体系统，以及实际应用，然后通过实践项目应用前面学习到的知识，包括端到端的实现，行业相关情景等

学完上面的大模型应用技术，就可以去做一些开源的项目，大模型领域现在非常注重项目的落地，后续可以学习一些Agent框架等内容

上面的资料做了一些整理，有需要的同学可以下方添加二维码获取（仅供学习使用）