别再只调API了！用Langchain4j的RAG功能，5分钟给你的Java应用加上专属知识库

用Langchain4j的RAG功能为Java应用快速构建智能知识库在当今信息爆炸的时代企业内部的文档资料往往分散在各个角落员工需要花费大量时间查找相关信息。传统的全文检索方式虽然能解决部分问题但当用户用自然语言提问时往往难以精准定位到所需内容。本文将介绍如何利用Langchain4j的RAG检索增强生成功能在5分钟内为现有Java应用添加智能问答能力。1. RAG技术原理与优势RAGRetrieval-Augmented Generation是当前最先进的智能问答解决方案它结合了信息检索和文本生成两大能力检索Retrieval从海量文档中快速找到与问题相关的内容片段生成Generation基于检索到的内容生成自然、准确的回答与传统聊天机器人相比RAG具有以下优势知识实时更新只需更新文档库无需重新训练模型回答有据可查每个回答都基于实际文档内容避免幻觉问题部署成本低不需要微调大模型利用现有LLM即可// RAG工作流程伪代码 ListDocument relevantDocs vectorStore.search(userQuestion); String answer llm.generate(relevantDocs, userQuestion);2. 环境准备与依赖配置2.1 创建Spring Boot项目首先创建一个基础的Spring Boot项目添加以下依赖dependencies !-- Spring Boot基础依赖 -- dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency !-- Langchain4j核心依赖 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-spring-boot-starter/artifactId version0.25.0/version /dependency !-- 阿里云通义千问集成 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-qianfan/artifactId version0.25.0/version /dependency !-- Pinecone向量数据库支持 -- dependency groupIddev.langchain4j/groupId artifactIdlangchain4j-pinecone/artifactId version0.25.0/version /dependency /dependencies2.2 配置API密钥在application.yml中配置必要的API密钥langchain4j: qianfan: api-key: ${QIANFAN_API_KEY} secret-key: ${QIANFAN_SECRET_KEY} embedding-model: model-name: text-embedding-v3 pinecone: api-key: ${PINECONE_API_KEY} index: company-knowledge-base3. 文档处理流水线搭建3.1 文档加载与解析Langchain4j提供了多种文档加载器支持从不同来源加载文档// 从文件系统加载PDF文档 Document pdfDoc FileSystemDocumentLoader.loadDocument( path/to/document.pdf, new ApachePdfBoxDocumentParser() ); // 从URL加载HTML文档 Document htmlDoc UrlDocumentLoader.load( new URL(https://example.com/doc.html), new JsoupHtmlParser() );支持的文档格式包括格式解析器类依赖PDFApachePdfBoxDocumentParserlangchain4j-document-parser-apache-pdfboxWordApachePoiDocumentParserlangchain4j-document-parser-apache-poiHTMLJsoupHtmlParserlangchain4j-document-parser-jsoup纯文本TextDocumentParser内置3.2 文档分块策略大文档需要分割成适当大小的块Langchain4j提供了多种分块策略// 按段落分割每块不超过500字符重叠50字符 DocumentSplitter splitter new DocumentByParagraphSplitter(500, 50); // 递归分割策略推荐 DocumentSplitter recursiveSplitter DocumentSplitters.recursive( 500, // 最大块大小 50, // 重叠大小 new HuggingFaceTokenizer() // 使用tokenizer精确计算长度 ); ListTextSegment segments splitter.split(document);提示分块大小需要根据实际内容调整技术文档通常需要比普通文本更大的块4. 向量化与存储4.1 文本向量化使用阿里云通义千问的text-embedding-v3模型将文本转换为向量Autowired private EmbeddingModel embeddingModel; public Embedding embedText(String text) { return embeddingModel.embed(text).content(); } // 批量向量化 ListEmbedding embeddings embeddingModel.embedAll(segments).content();4.2 向量存储配置Pinecone是目前最流行的向量数据库之一免费套餐足够中小型知识库使用Bean public EmbeddingStoreTextSegment embeddingStore() { return PineconeEmbeddingStore.builder() .apiKey(System.getenv(PINECONE_API_KEY)) .index(company-knowledge-base) .dimension(1024) // text-embedding-v3的向量维度 .build(); }其他可选向量数据库对比数据库特点适用场景Pinecone全托管服务简单易用生产环境首选Chroma开源可本地部署开发测试环境Weaviate支持混合搜索需要结合关键字搜索的场景5. 构建RAG问答服务5.1 实现问答接口public interface KnowledgeBaseService { String answerQuestion(String question); } AiService public class KnowledgeBaseServiceImpl implements KnowledgeBaseService { Autowired private EmbeddingModel embeddingModel; Autowired private EmbeddingStoreTextSegment embeddingStore; Autowired private ChatLanguageModel chatModel; Override public String answerQuestion(String question) { // 1. 将问题向量化 Embedding questionEmbedding embeddingModel.embed(question).content(); // 2. 检索相关文档片段 ListEmbeddingMatchTextSegment relevantMatches embeddingStore .findRelevant(questionEmbedding, 3); // 返回最相关的3个片段 // 3. 构建提示词 String prompt buildPrompt(question, relevantMatches); // 4. 调用大模型生成回答 return chatModel.generate(prompt); } private String buildPrompt(String question, ListEmbeddingMatchTextSegment matches) { StringBuilder context new StringBuilder(); for (EmbeddingMatchTextSegment match : matches) { context.append(match.embedded().text()).append(\n\n); } return String.format( 基于以下上下文信息回答问题。如果无法从上下文中得到答案 请回答我不知道。 上下文 %s 问题%s , context.toString(), question); } }5.2 集成到现有系统将RAG服务集成到Spring Boot应用中RestController RequestMapping(/api/knowledge) public class KnowledgeController { Autowired private KnowledgeBaseService knowledgeService; PostMapping(/ask) public ResponseEntityString askQuestion(RequestBody String question) { String answer knowledgeService.answerQuestion(question); return ResponseEntity.ok(answer); } }6. 性能优化与进阶技巧6.1 缓存策略为提升响应速度可以实现问题向量和回答的缓存Cacheable(value qaCache, key #question.hashCode()) public String answerQuestion(String question) { // ...原有实现 }6.2 混合检索结合关键词检索提升召回率ListEmbeddingMatchTextSegment vectorResults embeddingStore.findRelevant(embedding, 5); ListTextSegment keywordResults keywordSearch(question); // 合并结果并去重 ListTextSegment allResults Stream.concat( vectorResults.stream().map(EmbeddingMatch::embedded), keywordResults.stream() ).distinct().collect(Collectors.toList());6.3 反馈循环收集用户反馈持续优化PostMapping(/feedback) public void recordFeedback( RequestParam String question, RequestParam String answer, RequestParam boolean wasHelpful ) { // 记录反馈到数据库或日志系统 feedbackService.record(question, answer, wasHelpful); }7. 实际应用案例7.1 企业OA系统集成为HR系统添加政策问答功能// 加载员工手册 Document employeeHandbook FileSystemDocumentLoader.loadDocument( hr/employee-handbook.pdf, new ApachePdfBoxDocumentParser() ); // 初始化HR问答服务 AiServices.builder(HRService.class) .chatLanguageModel(chatModel) .contentRetriever(EmbeddingStoreContentRetriever.builder() .embeddingStore(embeddingStore) .embeddingModel(embeddingModel) .maxResults(2) .build()) .build();7.2 产品帮助中心构建智能客服系统AiService public interface ProductSupportService { SystemMessage(你是产品技术支持专家根据知识库内容回答用户问题) String answerTechnicalQuestion(UserMessage String question); SystemMessage(你是客户服务代表用友好礼貌的方式回答问题) String answerGeneralQuestion(UserMessage String question); }在实际项目中我们发现RAG系统对技术文档的问答准确率能达到85%以上显著降低了客服人力成本。一个常见的陷阱是没有设置合理的分块策略导致检索到的内容不完整。通过调整分块大小和重叠区域我们最终将准确率提升了20%。