Spring AI RAG 生产级实战：从 0 构建企业智能知识库系统

Spring AI RAG 生产级实战：从 0 构建企业智能知识库系统摘要：RAG（检索增强生成）是当前最热门的 AI 应用架构。本文基于 Spring AI 框架，手把手教你构建生产级 RAG 知识库系统。涵盖向量数据库选型（PostgreSQL/pgvector、Milvus）、文档处理、向量化、语义检索、与大模型集成等完整流程。提供企业知识库、智能客服等真实场景案例，包含完整的 Spring Boot 代码示例和性能优化方案。一、RAG 技术全景与架构设计1.1 为什么需要 RAG？┌─────────────────────────────────────────────────────────────────┐ │ 大模型的局限性 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ ❌ 知识截止：训练数据有截止时间，无法获取最新信息 │ │ ❌ 幻觉问题：可能生成看似合理但实际错误的内容 │ │ ❌ 私有数据：无法访问企业内部文档和数据 │ │ ❌ 领域专业：缺乏特定领域的专业知识 │ │ ❌ 不可追溯：无法提供答案的来源和依据 │ │ │ │ RAG 解决方案： │ │ ✅ 检索外部知识库 → 增强上下文 → 生成准确答案 │ │ │ └─────────────────────────────────────────────────────────────────┘RAG 的核心价值：问题传统 LLMRAG 增强知识时效训练数据截止实时检索最新数据准确性可能产生幻觉基于检索内容生成私有数据无法访问可检索内部文档可追溯性无来源可追溯文档来源成本需要微调无需训练，成本低1.2 RAG 工作原理┌─────────────────────────────────────────────────────────────────┐ │ RAG 完整工作流程 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ 【离线流程】文档处理与向量化 │ │ │ │ 原始文档 文本分块 向量化 存储 │ │ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ │ │ │ PDF │ │ Chunk 1│ │ Vector │ │ 向量 │ │ │ │ Word │ ───▶ │ Chunk 2│ ───▶ │ Embed │ ───▶ │ 数据库 │ │ │ │ Markdown│ │ Chunk 3│ │ [768] │ │ │ │ │ └────────┘ └────────┘ └────────┘ └────────┘ │ │ │ │ 【在线流程】检索增强生成 │ │ │ │ 用户问题 语义检索 增强提示 生成答案 │ │ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ │ │ │ 用户 │ │ 向量 │ │ LLM │ │ 带 │ │ │ │ 提问 │ ───▶ │ 检索 │ ───▶ │ Prompt │ ───▶ │ 来源 │ │ │ └────────┘ └────────┘ └────────┘ └────────┘ │ │ │ │ │ │ │ │ │ "如何请假？" │ Top-K 相似 │ 问题 + 上下文 │ "根据...│ │ │ │ │ 文档片段 │ │ 第 5 条 │ │ │ │ │ │ │ ..." │ │ │ │ └─────────────────────────────────────────────────────────────────┘1.3 RAG 系统架构┌─────────────────────────────────────────────────────────────────┐ │ Spring AI RAG 系统架构 │ ├─────────────────────────────────────────────────────────────────┤ │ │ │ ┌─────────────────────────────────────────────────────────┐ │ │ │ API Gateway │ │ │ │ (Spring Boot + REST API) │ │ │ └────────────────────┬────────────────────────────────────┘ │ │ │ │ │ ┌─────────────┼─────────────┐ │ │ │ │ │ │ │ ▼ ▼ ▼ │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ 文档管理 │ │ 检索服务 │ │ 对话服务 │ │ │ │ Service │ │ Service │ │ Service │ │ │ └──────┬──────┘ └──────┬──────┘ └──────┬──────┘ │ │ │ │ │ │ │ └───────────────┼───────────────┘ │ │ │ │ │ ┌───────────────┼───────────────┐ │ │ │ │ │ │ │ ▼ ▼ ▼ │ │ ┌─────────────┐ ┌─────────────┐ ┌─────────────┐ │ │ │ Vector │ │ Embedding │ │ LLM │ │ │ │ Database │ │ Service │ │ Client │ │ │ │ (pgvector) │ │ (本地/云) │ │ (OpenAI 等) │ │ │ └─────────────┘ └─────────────┘ └─────────────┘ │ │ │ │ 核心组件： │ │ • DocumentReader - 文档加载器（PDF/Word/Markdown） │ │ • TextSplitter - 文本分块器 │ │ • EmbeddingModel - 向量化模型 │ │ • VectorStore - 向量存储（pgvector/Milvus/Chroma） │ │ • RetrievalTemplate - 检索模板 │ │ • ChatClient - 大模型客户端 │ │ │ └─────────────────────────────────────────────────────────────────┘1.4 技术选型┌─────────────────────────────────────────────────────────────────┐ │ 技术栈选型 │ ├──────────────────┬──────────────────────────────────────────────┤ │ 组件类型 │ 推荐方案 │ ├──────────────────┼──────────────────────────────────────────────┤ │ 开发框架 │ Spring Boot 3.x + Spring AI 1.x │ ├──────────────────┼──────────────────────────────────────────────┤ │ 向量数据库 │ PostgreSQL + pgvector（推荐） │ │ │ Milvus / Chroma / Weaviate（可选） │ ├──────────────────┼──────────────────────────────────────────────┤ │ Embedding 模型 │ OpenAI text-embedding-3-small（云端） │ │ │ BGE-M3 / m3e-base（本地部署） │ ├──────────────────┼──────────────────────────────────────────────┤ │ 大语言模型 │ OpenAI GPT-4 / GPT-3.5（云端） │ │ │ Azure OpenAI / 通义千问（企业） │ │ │ Ollama + Llama3（本地部署） │ ├──────────────────┼──────────────────────────────────────────────┤ │ 文档处理 │ Apache Tika / Spring AI DocumentReader │ ├──────────────────┼──────────────────────────────────────────────┤ │ 文本分块 │ RecursiveCharacterTextSplitter │ ├──────────────────┼──────────────────────────────────────────────┤ │ 缓存 │ Redis（缓存检索结果和对话历史） │ ├──────────────────┼──────────────────────────────────────────────┤ │ 消息队列 │ RabbitMQ / Kafka（异步文档处理） │ └──────────────────┴──────────────────────────────────────────────┘二、Spring AI 快速入门2.1 什么是 Spring AI？Spring AI是 Spring 官方推出的 AI 应用开发框架，为 Java 开发者提供：🎯统一的 API 抽象：屏蔽不同 AI 服务商的差异🎯开箱即用的集成：支持主流大模型和向量数据库🎯Spring 生态融合：与 Spring Boot、Spring Data 无缝集成🎯企业级特性：事务管理、监控、安全等2.2 项目初始化Maven 依赖配置!-- pom.xml -- ?xml version="1.0" encoding="UTF-8"? project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd" modelVersion4.0.0/modelVersion parent groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-parent/artifactId version3.2.5/version relativePath/ /parent groupIdcom.example/groupId artifactIdspring-ai-rag-demo/artifactId version1.0.0/version nameSpring AI RAG Demo/name descriptionSpring AI RAG 知识库系统/description properties java.version17/java.version spring-ai.version1.0.0-M1/spring-ai.version /properties dependencies !-- Spring Boot 核心 -- dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency !-- Spring AI OpenAI -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-openai-spring-boot-starter/artifactId version${spring-ai.version}/version /dependency !-- Spring AI pgvector -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-pgvector-store-spring-boot-starter/artifactId version${spring-ai.version}/version /dependency !-- PostgreSQL 驱动 -- dependency groupIdorg.postgresql/groupId artifactIdpostgresql/artifactId scoperuntime/scope /dependency !-- Spring Data JPA -- dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-data-jpa/artifactId /dependency !-- Spring AI 文档处理 -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-tika-document-reader/artifactId version${spring-ai.version}/version /dependency !-- Lombok -- dependency groupIdorg.projectlombok/groupId artifactIdlombok/artifactId optionaltrue/optional /dependency !-- 验证 -- dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-validation/artifactId /dependency !-- Redis -- dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-data-redis/artifactId /dependency !-- 测试 -- dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-test/artifactId scope