4.3 向量检索与嵌入模型选型：RAG 工程的关键一环
4.3 向量检索与嵌入模型选型：RAG 工程的关键一环
基于《大规模语言模型：从理论到实践（第2版）》第9章 检索增强生成
爆款小标题：检索准不准，一半看嵌入：原书第9章延伸之向量与检索器选型
为什么这一节重要
RAG 的检索质量很大程度上取决于「查询与文档」在向量空间中的表示是否一致、以及检索是否又快又准。嵌入模型负责把文本变成向量，向量库与检索方式决定在百万级甚至更大规模下如何高效找出最相似的文档。选错嵌入（如用生成模型最后一层隐状态直接当向量）或忽略归一化、索引类型，会导致检索相关性差、延迟高或显存爆。本节基于原书第 9 章相关讨论，把「文本→嵌入→相似度检索」的链路、常用相似度与 ANN 的取舍、以及嵌入与生成模型的匹配问题讲清，并给出选型与避坑要点。
学习目标
- 理解嵌入在 RAG 中的角色：说明「文本→嵌入向量→相似度检索」的完整链路，以及嵌入模型如何影响检索相关性。
- 掌握相似度与索引类型：说明余弦相似度、内积、欧氏距离在 L2 归一化下的关系；区分精确检索与近似最近邻（ANN）的适用规模与精度/延迟权衡。
- 能做初步选型：根据数据规模、延迟与成本选嵌入模型与向量库；理解中英文/多语言场景下嵌入模型的选择；知道何时需考虑「嵌入与生成模型」的语义一致（原书第 9 章）。
一、嵌入模型的作用与选型（原书第 9 章）
作用：嵌入模型把不定长的文本映射为固定维度的稠密向量，使得「语义相近」的文本在向量空间中距离更近（如余弦相似度更高）。在 RAG 中