002-AI客服-RAG优化分析
文章目录
- 前言
- 项目结构概览与实现状态总结
- 当前状态
- 📊 项目概况
- 🏗️ 技术架构
- ✅ 已实现功能
- ⚠️ 有待修复的问题
- 📝 下一步规划
- 📊 当前 RAG 现状
- 🧭 RAG 优化全景图
- 🥇 强烈推荐的 5 个优化（按性价比排序）
- 1. 混合搜索 (Hybrid Search)
- 2. 相似度阈值过滤
- 3. 引用标注
- 4. Reranking（重排序）
- 5. Prompt 模板优化
- 🔜 推荐实施顺序
- 🎯 实施后的效果
前言
项目结构概览与实现状态总结
该项目基于Next.js 15，使用App Router架构，已实现以下核心功能：
- 项目结构：主目录下有src、prisma、public等标准目录，src内部组织了App Router所需的页面、API路由和组件。
- RAG功能实现：
- 项目包含关键的RAG文件（src/lib/rag.ts、embedding.ts、documents/route.ts等）
- 数据库模型通过Prisma schema定义，已建立多个迁移版本支持RAG相关表结构
- API路由已实现文档上传和聊天接口
- 前端包含ChatPanel组件，用于聊天界面交互
- 依赖项：项目集成了openai、prisma、supabase等多个技术栈，支持现代Web开发需求。
当前状态
项目在RAG功能的实现上已有初步基础，主要包含以下内容：
- 核心RAG算法实现（rag.ts）
- 嵌入向量处理（embedding.ts）
- 文档处理API（documents/route.ts）
- 聊天功能API（chat/route.ts）
- 前端聊天界面组件（ChatPanel.tsx）
但从现有文件来看，项目仍处于初期开发阶段，RAG功能的具体实现细节和完整集成程度尚不明确，需要进一步阅读相关核心文件来评估其成熟度。
项目的整体情况：
📊 项目概况
Next.js 15 + TypeScript全栈项目，定位为电商 AI 助手，目前已实现完整的 RAG 知识库功能。
🏗️ 技术架构
| 层级 | 技术 | 用途 |
|---|---|---|
| 前端 | Next.js 15 App Router + React 19 | UI 框架 |
| 样式 | Tailwind CSS 4 + shadcn/ui | 组件库 |
| 数据库 | PostgreSQL + pgvector | 数据和向量存储 |
| ORM | Prisma 6 | 数据管理 |
| 认证 | Supabase Auth | 用户登录 |
| AI | OpenRouter API | LLM 和 Embedding |
| 国际化 | i18next + react-i18next | 多语言支持 |
✅ 已实现功能
- 用户系统- Supabase 登录/注册、用户信息管理
- AI 聊天- 支持流式输出、多模型切换、图片上传
- RAG 知识库- 完整的检索增强生成功能
- 向量搜索（pgvector + HNSW 索引）
- 文本搜索（降级方案）
- 知识库管理页面（添加/编辑/删除/搜索）
- 国际化- 中英文切换
- 对话历史- 保存和恢复聊天记录
⚠️ 有待修复的问题
- 认证代码被注释-
layout.tsx中的认证检查被注释了 - 编辑文档功能不完善- 编辑文档是 DELETE + 重新创建，不是真正的 UPDATE
- lint 错误较多- 有未使用的导入变量、
any类型等 - 消息去重存储- 保存用户消息时
content是 MessageContent[] 对象，可能导致存储问题
📝 下一步规划
高优先级：
- 文档真正的编辑更新 API
- 清理 lint 错误
- PDF/Markdown 文件上传
- 文档分块（chunking）
中优先级：
- 混合搜索（关键词 + 向量）
- 文档版本控制
- 知识库权限管理
低优先级：
- RAG 调试/可视化界面
- Embedding 缓存优化
- AI 自动整理知识库
📊 当前 RAG 现状
你的项目目前是Naive RAG阶段。流程图：
用户问题 → Embedding →向量搜索(Top-K=5)→ 直接拼接上下文 →LLM回答每一步都有优化空间，上图每个箭头都是一个可优化的点。
🧭 RAG 优化全景图
RAG 优化分了4 个层次，以下是我整理的全策略清单，标注了 ✅/🔶/❌：
| 策略 | 效果 | 复杂度 | 本项目 |
|---|---|---|---|
| 🔴 检索前 — 让查询更精准 | |||
| 查询改写 (Query Rewriting) | ⭐⭐⭐ | 中 | ✅ 高优先 |
| 多查询生成 (Multi-Query) | ⭐⭐⭐ | 中 | ✅ 高优先 |
| HyDE (假设文档向量) | ⭐⭐ | 中 | 🔶 可用 |
| 同义词扩展 | ⭐ | 低 | 🔶 可用 |
| 🔴 检索中 — 提升召回质量 | |||
| 混合搜索 (向量+关键词) | ⭐⭐⭐⭐ | 中 | ✅ 强烈推荐 |
| 相似度阈值过滤 | ⭐⭐⭐ | 低 | ✅ 强烈推荐 |
| 文档分块 (Chunking) | ⭐⭐⭐ | 中 | ✅ 重要 |
| 元数据预过滤增强 | ⭐⭐ | 低 | 🔶 已有基础 |
| 🔴 检索后 — 筛选和重排 | |||
| 重排序 (Reranking) | ⭐⭐⭐⭐ | 中 | ✅ 强烈推荐 |
| 上下文压缩 | ⭐⭐⭐ | 中 | ✅ 推荐 |
| 去重 | ⭐⭐ | 低 | 🔶 看情况 |
| 🔴 生成优化 — 让回答更可靠 | |||
| 引用标注 | ⭐⭐⭐⭐ | 低 | ✅ 强烈推荐 |
| Prompt 模板优化 | ⭐⭐⭐ | 低 | ✅ 强烈推荐 |
| 自省/反思 (Self-Reflection) | ⭐⭐ | 中 | 🔶 可用 |
| Query-Doc 相关性校验 | ⭐⭐ | 中 | 🔶 可用 |
🥇 强烈推荐的 5 个优化（按性价比排序）
1. 混合搜索 (Hybrid Search)
当前：纯向量搜索，短词/精确关键词（如"苹果909"）效果可能不如关键词搜索
优化：向量搜索 + PostgreSQL 全文搜索，用 RRF 融合排序
用户问题"苹果909"├── 向量搜索：匹配语义相关文档 └── 关键词搜索：精确匹配"苹果909"→RRF融合排序 → 综合结果实现成本低，pgvector 和 PostgreSQL 都原生支持。
2. 相似度阈值过滤
当前：无阈值，相似度 0.1 的文档也返回
优化：设置最小相似度（如 0.5），低于阈值的直接丢弃
// 一行改动constvalidDocs=results.filter(r=>r.similarity>0.5)避免 LLM 被不相关文档误导。
3. 引用标注
当前：AI 回答不标明信息来源
优化：让 AI 在回答中标注[来源: 文档名]
不仅要召回，还要让用户知道答案来自哪里，可信度翻倍。
4. Reranking（重排序）
当前：pgvector 的余弦距离直接作为最终排序
优化：粗召回 Top-K(如20) → 用更精确的模型重排 → 取 Top-N(如5)
OpenRouter 上有免费/便宜的 rerank 模型，投入产出比极高。
5. Prompt 模板优化
当前：RAG 指令比较简单
优化：加入 Few-shot 示例、引用格式要求、不相关时的处理逻辑
这是零成本的优化，纯 Prompt Engineering。
🔜 推荐实施顺序
第1波（零成本）:Prompt 优化+相似度阈值 第2波（低成本）:混合搜索+引用标注 第3波（中等成本）:Reranking+文档分块 第4波（进阶）:上下文压缩+查询改写🎯 实施后的效果
当前:用户问题 → 向量搜索 → 拼接上下文 →LLM回答优化后:用户问题 → 查询改写 → 向量搜索+关键词搜索 →RRF融合 → 阈值过滤 → Reranker重排 → 引用标注 → 上下文压缩 →LLM回答 ✅