LLM、Embedding、RAG、Agent、Function Calling、幻觉 完整详解
目录
一、LLM 大语言模型（Large Language Model）
1. 定义
2. 核心原理
3. 局限（后续技术全部用来弥补 LLM 缺陷）
4. 常见代表
二、Embedding 向量嵌入模型
1. 定义
2. 核心逻辑
3. 工作流程
4. 和 LLM 的区别
5. 核心用途
三、RAG 检索增强生成（Retrieval-Augmented Generation）
1. 诞生目的
2. 完整标准流程（五步）
3. 优势
4. 短板
极简对比：原生 LLM vs RAG
四、Function Calling / 工具调用
1. 定义
2. 核心能力
3. 完整执行链路
示例流程
4. 价值
五、Agent 智能体
1. 定义
2. Agent 四大核心组件
3. 经典运行逻辑（ReAct 框架，最通用）
举个复杂任务例子
4. Agent vs RAG vs Function Calling
六、Hallucination 模型幻觉
1. 定义
2. 幻觉两大分类
3. 幻觉产生的核心原因
4. 主流抑制幻觉方案（对应前面所有技术）
5. 幻觉负面影响
整体技术链路串联（完整业务流程）
一、LLM 大语言模型（Large Language Model）
1. 定义
基于Transformer 架构，以海量文本数据预训练得到的巨型神经网络，核心能力是理解、生成人类自然语言，能完成翻译、写作、推理、问答、总结等通用语言任务。
2. 核心原理
- 基础单元：Transformer（自注意力机制 Self-Attention），能捕捉文本长距离语义关联；
- 训练分为两阶段： 1）预训练：全网海量无标注文本，学习通用语法、常识、知识； 2）微调（SFT/RLHF）：人工标注对话数据，对齐人类偏好，学会听懂指令、输出合规回答。
3. 局限（后续技术全部用来弥补 LLM 缺陷）
- 知识截止：训练数据有时间窗口，无法获取实时、私有数据；
- 上下文窗口有限：一次性读不完海量文档；
- 幻觉：会编造不存在的事实；
- 不会使用外部工具：不能查数据库、计算器、联网搜索；
- 复杂长任务自主规划能力弱。
4. 常见代表
GPT 系列、Claude、通义千问、文心一言、Llama、Qwen、GLM 等。
二、Embedding 向量嵌入模型
1. 定义
把文字（句子 / 段落 / 词语）转化为固定长度的数字向量的轻量模型，向量称为 Embedding 向量，核心作用：量化语义相似度。
2. 核心逻辑
语义相近的文本，向量在高维空间距离更近；语义无关文本距离很远。 例：
- “苹果手机”、“iPhone” 向量距离极小；
- “苹果手机”、“苹果树” 向量距离很大。
3. 工作流程
- 输入文本 → Embedding 模型编码 → 输出一维浮点数组（如 1536 维、768 维）；
- 使用向量数据库（Chroma、FAISS、Milvus、Pinecone）存储向量；
- 查询时：把问题转向量，在库中做相似度检索，召回语义匹配的原文片段。
4. 和 LLM 的区别
| Embedding | LLM |
|---|---|
| 只做编码，不生成文字 | 负责生成完整回答 |
| 模型小、推理快、成本低 | 参数量巨大，推理慢 |
| 输出数字向量 | 输出自然语言 |
5. 核心用途
RAG 知识库检索、文本分类、聚类、内容查重、推荐系统。
三、RAG 检索增强生成（Retrieval-Augmented Generation）
1. 诞生目的
解决 LLM 两大痛点：知识过时、私有数据不可用、幻觉严重。 简单一句话：先查资料，再让大模型基于查到的资料回答。
2. 完整标准流程（五步）
- 文档预处理：PDF/Word/ 网页等私有文档分割成小段（Chunk 切片）；
- 向量化入库：每段文本用 Embedding 转向量，存入向量数据库；
- 用户提问向量化：用户问题输入 Embedding，生成查询向量；
- 相似度检索：向量库匹配 Top-K 最相似的文档片段；
- 拼接上下文生成：把检索到的原文 + 用户问题一起塞给 LLM，限定模型只能依据检索内容作答。
3. 优势
- 支持私有知识库（企业合同、内部文档、本地资料）；
- 实时更新知识，不用重新微调大模型；
- 大幅降低幻觉，模型有参考原文约束；
- 突破 LLM 上下文长度限制，海量文档无需一次性喂给模型。
4. 短板
- 检索质量决定回答质量：切片不合理、相似度匹配不准会出现 “答非所问”；
- 长复杂推理场景，单纯 RAG 规划能力不足，需要搭配 Agent。
极简对比：原生 LLM vs RAG
- 原生 LLM：仅凭内部训练知识回答，容易瞎编；
- RAG：先检索外部真实资料，再基于资料回答。
四、Function Calling / 工具调用
1. 定义
大模型识别用户需求后，自动生成结构化工具调用参数，调用外部工具接口，拿到工具返回结果后，再整理成自然语言回复用户。
2. 核心能力
LLM 不再只靠自身知识，具备调用外部系统的能力：计算器、搜索引擎、数据库、API、代码解释器、天气接口、订单查询等。
3. 完整执行链路
- 开发者定义工具描述（工具名称、功能、入参格式、参数说明），传给 LLM；
- 用户提问，LLM 判断是否需要调用工具；
- 如需调用：输出 JSON 格式调用指令（工具名 + 参数），而非直接回答；
- 程序解析 JSON，发起工具请求，拿到工具返回数据；
- 将工具结果再次传入 LLM，模型整理结果输出自然语言答案。
示例流程
用户：“今天深圳多少度？”
- LLM 识别需要调用天气工具；
- 输出结构化调用：
{"tool":"get_weather","city":"深圳"}； - 后端调用天气 API，返回
28℃，多云； - LLM 结合数据回复：“今日深圳气温 28 摄氏度，天气多云。”
4. 价值
- 消除实时信息幻觉（联网搜索最新新闻）；
- 处理数值计算、数据库查询等 LLM 不擅长的精准任务；
- 是 Agent 智能体的底层基础能力。
五、Agent 智能体
1. 定义
具备自主思考、任务拆解、工具规划、多轮循环执行能力的大模型智能体，不止单次问答，能自主完成复杂多步骤任务。 简单理解：带大脑 + 工具 + 循环执行的 LLM。
2. Agent 四大核心组件
- LLM 大脑：负责思考、规划、判断下一步动作；
- 工具库（Function Calling）：搜索、代码、数据库、RAG 检索器等；
- 记忆（Memory）
- 短期记忆：本轮对话上下文；
- 长期记忆：向量库存储历史任务、用户偏好；
- 规划器（Planner）：复杂任务自动拆分成多步骤子任务。
3. 经典运行逻辑（ReAct 框架，最通用）
思考 (Thought) → 行动 (Action) → 观察 (Observation) 循环
- Thought：分析当前任务，判断下一步该做什么；
- Action：调用对应工具（搜索、RAG 查询、计算等）；
- Observation：接收工具返回结果；
- 循环往复，直到任务全部完成，再输出最终答案。
举个复杂任务例子
用户需求：“整理 2026 上半年深圳新能源充电桩销量，对比去年同期，生成分析表格” Agent 自动拆解步骤：
- Thought：需要 2025、2026 上半年充电桩数据，先联网搜索；
- Action：调用搜索工具查销量；
- Observation：拿到行业报告数据；
- Thought：需要计算同比增长率，调用代码解释器；
- Action：运行 Python 计算、生成表格；
- Observation：得到表格；
- Thought：数据齐全，无需再调用工具，整合输出分析报告。
4. Agent vs RAG vs Function Calling
- Function Calling：单次单工具调用，无自主规划；
- RAG：专用检索工具，只解决知识库问答；
- Agent：整合 RAG、Function Calling、记忆、规划，自主完成多步骤复杂任务。
六、Hallucination 模型幻觉
1. 定义
大模型输出不存在、错误、虚假、无依据的内容，编造事实、文献、数据、人名、案例，看起来逻辑通顺，但完全不实。
2. 幻觉两大分类
- 内在幻觉：和输入上下文冲突。 例：上下文写 “小明 20 岁”，模型回答 “小明今年 30 岁”；
- 外在幻觉：编造原文不存在的外部信息。 例：问某个产品参数，模型编造一套不存在的规格数据。
3. 幻觉产生的核心原因
- 生成机制本质：LLM 是概率预测下一个字，只追求语句通顺，不自带 “事实校验能力”；
- 知识缺失 / 过时：训练数据没有相关信息，模型只能靠脑补补全；
- 上下文过长、信息混杂：长文本下模型容易混淆细节；
- 参数规模、训练数据缺陷：小模型幻觉远高于大模型；
- 指令模糊、约束不足：没有限制模型 “只能依据给定内容回答”。
4. 主流抑制幻觉方案（对应前面所有技术）
- RAG 检索增强：给模型提供真实参考原文，强制模型引用资料作答；
- Function Calling 联网检索：实时获取最新真实信息，替代模型内部过时知识；
- Agent 校验机制：Agent 完成回答后，自动调用工具二次核查事实；
- Prompt 约束：提示词强制要求 “不确定就说不知道，禁止编造信息”；
- 后处理校验：对输出内容做事实检索、引用溯源；
- 微调优化：用事实准确的数据微调，降低编造倾向。
5. 幻觉负面影响
企业知识库问答给出虚假条款、论文辅助生成编造参考文献、客服输出错误业务规则，直接造成业务损失。
整体技术链路串联（完整业务流程）
用户提问 → Embedding 向量检索（RAG）召回知识库资料 → LLM 判断是否需要工具（Function Calling）→ Agent 规划多步骤任务，循环调用搜索 / 数据库 / 代码工具 → 汇总所有真实资料 → LLM 整合输出回答，全程通过外部资料约束，大幅减少幻觉。
简单层级总结：
- 基础单元：Embedding（文本转向量）、LLM（语言生成）
- 基础工具能力：Function Calling（调用外部接口）
- 知识库增强：RAG（向量检索 + LLM 结合）
- 复杂任务智能体：Agent（整合上面全部能力，自主规划执行）
- 全链路共同解决：幻觉（Hallucination）问题