RAG 实战｜向量数据库检索原理 + Chroma 实战全攻略
一、为什么 RAG 离不开向量数据库
RAG=LLM + 外部知识库，核心流程：索引→检索→增强生成。
- 索引：文档分块→向量化→存储向量
- 检索：用户问题向量化→向量库相似度匹配→返回 Top-K 相关块
- 生成：用检索内容增强 Prompt→LLM 输出答案
向量数据库解决两大痛点：
- 高效存储海量高维向量
- 毫秒级向量相似度检索，支撑 RAG 实时响应
二、向量与 Embedding 基础
1. 什么是向量（Embedding）
把文本 / 图像转为固定长度高维数值数组，语义相近的文本向量距离更近。例："长沙"→ [0.8, -0.3, 0.5, ..., 0.5]
2. 向量模型（嵌入模型）
- 在线：通义文本向量 v4、OpenAI Embedding
- 本地：BGE-M3（多语言、长文本 8192token）、Ollama 一键部署
- 部署命令：
ollama pull bge-m3
3. 三大相似度计算方法
表格
| 方法 | 原理 | 适用场景 |
|---|---|---|
| 余弦相似度 | 向量夹角余弦 | 文本语义检索最常用 |
| 欧氏距离 L2 | 空间直线距离 | 归一化后效果好 |
| 点积 | 向量内积 | 已归一化向量 |
三、向量数据库全景：选型与对比
1. 核心定义
专门存储、索引、查询向量嵌入，支持近似最近邻 ANN 搜索，比传统库快百倍。
2. 主流库对比（RAG 开发必看）
表格
| 数据库 | 特点 | 适用场景 | 开源 |
|---|---|---|---|
| Chroma | 轻量、易集成、LangChain 友好 | 中小项目、快速开发 | 是 |
| Milvus | 分布式、十亿级向量、毫秒级 | 企业大规模 | 是 |
| Pinecone | 全托管、去重 / 排名 | 云上 SaaS | 否 |
| Faiss | Meta 出品、高效检索 | 图像 / 推荐 | 是 |
四、Chroma 实战：RAG 开发标配步骤
1. 环境准备
bash
运行
pip install chromadb # 课程配套requirements.txt一键安装2. 核心 API（背会直接用）
（1）创建客户端
python
运行
import chromadb # 持久化客户端（数据落地） client = chromadb.PersistentClient(path="./chroma_db")（2）集合 Collection 操作
- 列出：
client.list_collections() - 创建：
client.create_collection(name="rag_kc") - 有则获取、无则创建：
client.get_or_create_collection(name="rag_kc") - 删除：
client.delete_collection(name="rag_kc")
（3）添加文档（索引入库）
python
运行
collection.add( documents=["RAG是检索增强生成", "向量库存Embedding"], embeddings=[[0.1,...], [0.2,...]], # 必传 ids=["doc1", "doc2"] # 唯一ID必传 )（4）相似度检索（核心）
python
运行
results = collection.query( query_embeddings=[0.1, 0.2, ...], # 问题向量 n_results=5 # Top-K ) # 返回：ids、distances、documents五、RAG 检索全流程（面试高频）
- 文档分块：按字符 / 句子 / 递归切分，加重叠窗口防上下文断裂
- 向量化：嵌入模型转句向量
- 入库：存入向量库建索引
- 查询向量化：用户问题转向量
- 检索：相似度计算→Top-K
- 增强生成：拼接 Prompt→LLM 回答
六、复习要点速记
- RAG 用向量库解决大模型时效差、知识不全、幻觉
- 相似度：余弦相似度优先用于文本检索
- 开发首选：Chroma轻量易上手，课程实战标配
- 检索流程：分块→Embedding→入库→查询向量→召回→生成
- 本地向量模型：Ollama + BGE-M3，离线可用