当前位置： 首页 > news >正文

Agent 的两大核心能力——Memory（记忆系统）与 RAG（本地知识库）

news 2026/7/29 3:06:59

从“会调用工具”的 AI，到“了解用户、掌握知识”的智能助手

上一篇文章我们介绍了 AI Agent 的核心能力：

  • LLM 负责理解和推理
  • Function Calling 让 AI 调用工具
  • Tool 系统让 AI 连接外部能力

一个简单的 Agent 已经可以完成：

用户提出问题

↓

LLM 理解需求

↓

选择工具

↓

执行任务

↓

返回结果

例如： 用户： > 查询一下广州天气。 Agent：

用户问题

↓

LLM 判断需要天气信息

↓

调用 weather 工具

↓

获取天气结果

↓

生成回答

但是，一个真正可用的 AI 助手，还需要解决两个更重要的问题：

第一个问题：

AI 每次聊天都像第一次认识我，它如何理解我的习惯和背景？

第二个问题：

AI 本身不知道我的公司资料、个人文件，它如何获得这些知识？

这两个问题分别对应：

  • Memory（记忆系统）
  • RAG（检索增强生成）

它们也是现代 AI Agent 的两个核心能力。

一、为什么 Agent 需要 Memory？

我们人类交流有一个非常自然的能力：

记忆。

例如：

第一次聊天：

我叫小明，是一家互联网公司的产品经理。

第二次聊天：

最近我要负责一个 AI 项目。

朋友会知道：

“小明是一名产品经理。”

所以交流会越来越自然。

但是，大语言模型（LLM）默认并没有这种能力。

每一次请求：

用户 ↓ LLM ↓ 回答

模型并不知道：

  • 你是谁
  • 你的工作背景
  • 你的兴趣习惯
  • 之前聊过什么

除非这些信息被重新发送给它。

所以：

Memory 的作用，就是让 Agent 拥有持续记忆能力。

二、Memory 到底保存什么？

很多人认为：

Memory 就是保存聊天记录。

其实并不完全准确。

完整的 Memory 系统通常包含：

Memory ├── 短期记忆 │ ├── 长期记忆 │ └── 用户事实记忆
  1. 短期记忆（Short-term Memory）
    ==========================

短期记忆就是：

当前对话上下文。

例如：

用户： 我喜欢喝咖啡。 AI： 好的，我知道了。 用户： 推荐一个饮品。

为什么 AI 知道用户喜欢咖啡？

因为之前的信息还存在：

[ { "role": "user", "content": "我喜欢喝咖啡" }, { "role": "assistant", "content": "好的，我知道了" } ]

这种方式叫：

Conversation Buffer（对话缓冲区）

但是短期记忆有一个问题：

如果关闭聊天窗口：

上下文消失。

下一次：

AI 又不知道之前发生过什么。

  1. 长期记忆（Long-term Memory）
    =========================

长期记忆解决的是：

如何让 AI 跨时间记住重要信息。

例如：

用户告诉 AI：

我的公司叫 ABC 科技。 我的职位是产品经理。 我喜欢阅读 AI 技术文章。

系统可以提取：

{ "company": "ABC科技", "job": "产品经理", "interest": "AI技术文章" }

然后保存到数据库。

下一次聊天：

AI 可以重新加载这些信息。

例如：

用户：

帮我写一篇技术文章。

Agent：

读取记忆：

用户： - 喜欢技术内容 - 运营公众号 - 偏好 Markdown 格式

然后生成更符合用户需求的内容。

三、Memory 在 Agent 中的位置

完整结构：

用户 | ↓ Agent | ----------------- | | LLM Memory | 用户信息库

Agent 的工作流程：

  1. 用户提出问题
  2. 查询相关记忆
  3. 将记忆加入 Prompt
  4. 调用 LLM
  5. 生成回答

例如：

用户：

帮我规划学习路线。

Memory：

找到：

用户背景： - Java开发经验 - 正在学习AI - 想转型AI应用方向

LLM 就可以给出更符合用户情况的建议。

四、为什么还需要 RAG？

Memory 解决：

AI 记住用户。

但是还有另一个问题：

AI 不知道用户自己的知识资料。

例如企业内部：

员工手册.pdf 产品说明书.docx 技术文档.md 销售数据.xlsx

这些内容：

没有出现在模型训练数据里。

所以：

LLM 不知道。

怎么办？

答案：

RAG。

五、什么是 RAG？

RAG：

Retrieval-Augmented Generation

中文：

检索增强生成。

简单理解：

让 AI 在回答问题之前：

先去知识库搜索相关资料。

流程：

用户问题 ↓ 搜索知识库 ↓ 找到相关资料 ↓ 交给 LLM ↓ 生成答案

例如：

用户：

公司年假是多少？

普通 LLM：

我不知道你公司的年假制度。

RAG：

先搜索：

员工手册.pdf ↓ 找到： 员工连续工作满一年， 享受5天带薪年假。

然后：

LLM：

根据员工手册，公司员工连续工作满一年，可以享受5天带薪年假。

六、RAG 的完整流程

一个完整 RAG 系统：

文档 | ↓ Loader | ↓ Chunk | ↓ Embedding | ↓ Vector Database | ↓ Retriever | ↓ LLM | ↓ Answer

第一步：Loader（文档加载）

负责读取各种文件：

例如：

PDF Word Markdown Excel 网页

转换成统一的数据结构：

Document

第二步：Chunk（文本切分）

为什么需要切分？

因为一个文档可能非常长。

例如：

一本 200 页的 PDF：

不能全部发送给 LLM。

所以需要拆成：

Chunk 1 Chunk 2 Chunk 3 ...

每个小片段作为独立知识单元。

第三步：Embedding（向量化）

计算机无法直接理解文字。

所以需要把文本转换成向量。

例如：

文本：

员工年假5天

转换：

[0.23,0.51,0.88,...]

这个过程叫：

Embedding。

第四步：Vector Database（向量数据库）

保存：

文本内容 + 向量 + 元数据

例如：

文本： 员工满一年享受5天年假 向量： [0.23,0.51...] 来源： 员工手册.pdf

常见向量数据库：

  • Chroma
  • Milvus
  • FAISS

第五步：Retriever（检索）

用户：

公司的年假是多少？

系统：

先把问题转换成向量。

然后在向量数据库搜索：

最相似的内容。

返回：

员工手册第三章： 员工工作满一年享受5天年假。

七、Memory 和 RAG 的区别

很多人容易混淆。

简单理解：

能力解决的问题
MemoryAI记住用户
RAGAI获取外部知识

举例：

Memory：

用户喜欢喝咖啡。

这是：

用户信息。

RAG：

公司的咖啡报销制度。

这是：

知识信息。

八、现代 AI Agent 的完整架构

现在，一个完整 Agent：

用户 | ↓ AI Agent | -------------------------------- | | | Tools Memory RAG | | | 外部能力 用户信息 企业知识库 | ↓ LLM

三种能力分别解决：

Tool

让 AI：

会做事。

例如：

  • 查询天气
  • 查询数据库
  • 发送邮件

Memory

让 AI：

了解用户。

例如：

  • 用户身份
  • 用户偏好
  • 历史信息

RAG

让 AI：

掌握自己的知识。

例如：

  • 企业文档
  • 产品资料
  • 私有数据

九、回到我们的 Mini-Agent 项目

我们自己实现的 Mini-Agent：

已经逐步具备：

Mini-Agent ├── Function Calling │ ├── Tool System │ ├── Agent Loop │ ├── Memory │ └── RAG

它的核心思想和企业 AI Agent 架构是一致的。

我们并不是重新训练一个 AI 模型。

而是在利用已有的大语言模型，通过：

工具 + 记忆 + 知识库 + 任务规划

让一个通用模型变成一个真正解决问题的智能助手。

十、下一步学习方向

完成 Memory 和 RAG 后，Agent 还需要解决：

MCP（Model Context Protocol）

解决：

Agent 如何标准化连接更多外部工具？

例如：

  • 文件系统
  • 数据库
  • 企业软件
  • 第三方服务

Multi-Agent

解决：

多个 Agent 如何协作完成复杂任务？

例如：

研究Agent ↓ 写作Agent ↓ 审核Agent

Agent 工程化

包括：

  • 权限管理
  • 日志系统
  • 异常处理
  • 部署上线

最终：

AI Agent 的完整形态：

AI Agent ｜ ---------------------- | | | Tools Memory RAG | | | 能行动 懂用户 有知识 | ↓ LLM

这就是从“大语言模型”走向“智能应用”的关键路径。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

http://www.jsqmd.com/news/1284573/

相关文章：

  • 万圣节手工牛角帽制作全攻略：从设计到装饰的亲子DIY指南
  • STM32从零到量产开发：四路继电器工业控制模块开发— 继电器模块bsp_led.h与 bsp_led.c文件
  • 一文搞懂 RAG：为什么大模型需要“外挂知识库“？
  • Edge 密码同步 1046 条却全部失败：从 Model error type 10 定位到 Windows DPAPI
  • （2026最新）连云港本地人必选的靠谱漏水检测维修推荐：正规防水补漏防水-卫生间/厨房/屋顶/阳台/外墙渗漏水精准测漏，本地人的信赖之选 - 安佳防水
  • 盲盒电商小程序高并发架构与防刷设计实战
  • FH8A15G芯片应用指南：低成本实现8种LED灯光效果
  • 【数据分享】2005-2026年我国逐日露点温度栅格数据
  • 不干预孩子所有交友，自主筛选朋友锻炼判断力
  • 如何安全编辑幻兽帕鲁存档：palworld-save-tools完整使用指南
  • 减速机空载电流大与漏油问题的诊断与解决方案
  • 存储数据与存储索引的区别
  • 天辛大师浅谈传统文化传承技术，AI研究邵康节神秘思想
  • （2026最新）辽阳本地人必选的靠谱漏水检测维修推荐：正规防水补漏防水-卫生间/厨房/屋顶/阳台/外墙渗漏水精准测漏，本地人的信赖之选 - 安佳防水
  • 机器学习入门实战：从环境配置到完整项目的Python数据科学指南
  • 四轴飞行器DIY组装与Betaflight调参全攻略：从零到首飞
  • uvicorn 进程残留问题
  • 智元模仿学习面试，教机器人叠衣服到底有多难
  • 电动汽车与电网协同优化的双层调度策略及MATLAB实现
  • 机器人控制架构设计：将 Python 推理与 C++ 实时控制分离为独立 ROS2 节点
  • AI Agent开发实战：从LangChain到RAG系统的完整指南
  • Mac上MySQL与Navicat环境搭建：从安装配置到故障排查全指南
  • Unity与FMOD动态音频系统设计：自适应音乐与环境音参数化实战
  • DIY移动烧烤系统：从需求分析到模块化设计的完整实现方案
  • 2026盘点：如何甄选靠谱的不锈钢天沟批发合作厂家 - 装修教育财税推荐2026
  • 多款AI证件照生成方案的技术特点与使用对比
  • 51单片机数字电子钟设计：从硬件搭建到软件编程全解析
  • 远程工具实测：UU · 远程 10 项核心深度解析
  • TTS-Backup终极指南：一键备份Tabletop Simulator游戏数据的完整解决方案
  • 国产 AI 多轮对话按项目归档：Markdown、Word 与 PDF 导出实践