Spring AI RAG 生产级实战：从 0 构建企业智能知识库系统

Spring AI RAG 生产级实战：从 0 构建企业智能知识库系统

摘要：RAG（检索增强生成）是当前最热门的 AI 应用架构。本文基于 Spring AI 框架，手把手教你构建生产级 RAG 知识库系统。涵盖向量数据库选型（PostgreSQL/pgvector、Milvus）、文档处理、向量化、语义检索、与大模型集成等完整流程。提供企业知识库、智能客服等真实场景案例，包含完整的 Spring Boot 代码示例和性能优化方案。

一、RAG 技术全景与架构设计

1.1 为什么需要 RAG？

┌─────────────────────────────────────────────────────────────────┐ │ 大模型的局限性 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ ❌ 知识截止：训练数据有截止时间，无法获取最新信息 │ │ ❌ 幻觉问题：可能生成看似合理但实际错误的内容 │ │ ❌ 私有数据：无法访问企业内部文档和数据 │ │ ❌ 领域专业：缺乏特定领域的专业知识 │ │ ❌ 不可追溯：无法提供答案的来源和依据 │ │ │ │ RAG 解决方案： │ │ ✅ 检索外部知识库 → 增强上下文 → 生成准确答案 │ │ │ └─────────────────────────────────────────────────────────────────┘

RAG 的核心价值：

1.2 RAG 工作原理

┌─────────────────────────────────────────────────────────────────┐ │ RAG 完整工作流程 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ 【离线流程】文档处理与向量化 │ │ │ │ 原始文档 文本分块 向量化 存储 │ │ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ │ │ │ PDF │ │ Chunk 1│ │ Vector │ │ 向量 │ │ │ │ Word │ ───▶ │ Chunk 2│ ───▶ │ Embed │ ───▶ │ 数据库 │ │ │ │ Markdown│ │ Chunk 3│ │ [768] │ │ │ │ │ └────────┘ └────────┘ └────────┘ └────────┘ │ │ │ │ 【在线流程】检索增强生成 │ │ │ │ 用户问题 语义检索 增强提示 生成答案 │ │ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ │ │ │ 用户 │ │ 向量 │ │ LLM │ │ 带 │ │ │ │ 提问 │ ───▶ │ 检索 │ ───▶ │ Prompt │ ───▶ │ 来源 │ │ │ └────────┘ └────────┘ └────────┘ └────────┘ │ │ │ │ │ │ │ │ │ "如何请假？" │ Top-K 相似 │ 问题 + 上下文 │ "根据...│ │ │ │ │ 文档片段 │ │ 第 5 条 │ │ │ │ │ │ │ ..." │ │ │ │ └─────────────────────────────────────────────────────────────────┘

1.3 RAG 系统架构

┌─────────────────────────────────────────────────────────────────┐ │ Spring AI RAG 系统架构 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ ┌─────────────────────────────────────────────────────────┐ │ │ │ API Gateway │ │ │ │ (Spring Boot + REST API) │ │ │ └────────────────────┬────────────────────────────────────┘ │ │ │ │ │ ┌─────────────┼─────────────┐ │ │ │ │ │ │ │ ▼ ▼ ▼ │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ 文档管理 │ │ 检索服务 │ │ 对话服务 │ │ │ │ Service │ │ Service │ │ Service │ │ │ └──────┬──────┘ └──────┬──────┘ └──────┬──────┘ │ │ │ │ │ │ │ └───────────────┼───────────────┘ │ │ │ │ │ ┌───────────────┼───────────────┐ │ │ │ │ │ │ │ ▼ ▼ ▼ │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ Vector │ │ Embedding │ │ LLM │ │ │ │ Database │ │ Service │ │ Client │ │ │ │ (pgvector) │ │ (本地/云) │ │ (OpenAI 等) │ │ │ └─────────────┘ └─────────────┘ └─────────────┘ │ │ │ │ 核心组件： │ │ • DocumentReader - 文档加载器（PDF/Word/Markdown） │ │ • TextSplitter - 文本分块器 │ │ • EmbeddingModel - 向量化模型 │ │ • VectorStore - 向量存储（pgvector/Milvus/Chroma） │ │ • RetrievalTemplate - 检索模板 │ │ • ChatClient - 大模型客户端 │ │ │ └─────────────────────────────────────────────────────────────────┘

1.4 技术选型

┌─────────────────────────────────────────────────────────────────┐ │ 技术栈选型 │ ├──────────────────┬──────────────────────────────────────────────┤ │ 组件类型 │ 推荐方案 │ ├──────────────────┼──────────────────────────────────────────────┤ │ 开发框架 │ Spring Boot 3.x + Spring AI 1.x │ ├──────────────────┼──────────────────────────────────────────────┤ │ 向量数据库 │ PostgreSQL + pgvector（推荐） │ │ │ Milvus / Chroma / Weaviate（可选） │ ├──────────────────┼──────────────────────────────────────────────┤ │ Embedding 模型 │ OpenAI text-embedding-3-small（云端） │ │ │ BGE-M3 / m3e-base（本地部署） │ ├──────────────────┼──────────────────────────────────────────────┤ │ 大语言模型 │ OpenAI GPT-4 / GPT-3.5（云端） │ │ │ Azure OpenAI / 通义千问（企业） │ │ │ Ollama + Llama3（本地部署） │ ├──────────────────┼──────────────────────────────────────────────┤ │ 文档处理 │ Apache Tika / Spring AI DocumentReader │ ├──────────────────┼──────────────────────────────────────────────┤ │ 文本分块 │ RecursiveCharacterTextSplitter │ ├──────────────────┼──────────────────────────────────────────────┤ │ 缓存 │ Redis（缓存检索结果和对话历史） │ ├──────────────────┼──────────────────────────────────────────────┤ │ 消息队列 │ RabbitMQ / Kafka（异步文档处理） │ └──────────────────┴──────────────────────────────────────────────┘

二、Spring AI 快速入门

2.1 什么是 Spring AI？

Spring AI 是 Spring 官方推出的 AI 应用开发框架，为 Java 开发者提供：

• 🎯 统一的 API 抽象：屏蔽不同 AI 服务商的差异
• 🎯 开箱即用的集成：支持主流大模型和向量数据库
• 🎯 Spring 生态融合：与 Spring Boot、Spring Data 无缝集成
• 🎯 企业级特性：事务管理、监控、安全等

2.2 项目初始化

Maven 依赖配置

<!-- pom.xml --> <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>3.2.5</version> <relativePath/> </parent> <groupId>com.example</groupId> <artifactId>spring-ai-rag-demo</artifactId> <version>1.0.0</version> <name>Spring AI RAG Demo</name> <description>Spring AI RAG 知识库系统</description> <properties> <java.version>17</java.version> <spring-ai.version>1.0.0-M1</spring-ai.version> </properties> <dependencies> <!-- Spring Boot 核心 --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <!-- Spring AI OpenAI --> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> <version>${spring-ai.version}</version> </dependency> <!-- Spring AI pgvector --> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-pgvector-store-spring-boot-starter</artifactId> <version>${spring-ai.version}</version> </dependency> <!-- PostgreSQL 驱动 --> <dependency> <groupId>org.postgresql</groupId> <artifactId>postgresql</artifactId> <scope>runtime</scope> </dependency> <!-- Spring Data JPA --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-data-jpa</artifactId> </dependency> <!-- Spring AI 文档处理 --> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-tika-document-reader</artifactId> <version>${spring-ai.version}</version> </dependency> <!-- Lombok --> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> <optional>true</optional> </dependency> <!-- 验证 --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-validation</artifactId> </dependency> <!-- Redis --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-data-redis</artifactId> </dependency> <!-- 测试 --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> <scope>