基于 Spring AI Alibaba 构建混合 RAG Agent

基于 Spring AI Alibaba 构建混合 RAG AgentSpringAIAlibaba官方文档https://java2ai.com/docs/overview如果你正在用大模型LLM做企业知识库、客服系统或者内部助手你一定遇到过这样的尴尬用户问得稍微模糊点AI 就答非所问AI 自信满满地编造了一个不存在的规定明明文档里有答案它却视而不见。传统的RAG检索增强生成技术虽然能缓解这些问题但在面对复杂场景时往往显得力不从心。为了解决这些痛点我们设计了一套“混合 RAG Agent”架构。简单来说就是给 AI 装上了“大脑”和“检查员”让它学会多步思考和自我纠错。而且这一切都是基于 Java 开发者熟悉的Spring AI Alibaba构建的低成本、易扩展还能跑得飞快想象一下传统 RAG 的工作流程就像是一个“急性子”实习生你问问题“那个报销流程咋走来着”它去翻书向量检索随便抓几段看起来像的文字。它直接回答把抓到的文字拼一拼直接丢给你。这个流程有三个大坑听不清如果你问得含糊比如“那个流程”它可能检索到完全错误的文档。找不全有时候关键信息藏在另一份文档里单次检索漏掉了。瞎胡说大模型有时候为了“显得懂事”会在没有依据的情况下编造答案幻觉。为了解决这些问题业界有两个进化方向Agentic RAG代理式 RAG像个侦探遇到不懂的先推理决定要不要查资料、查什么资料甚至查完觉得不对再查一次。灵活但有点“放飞自我”。两步 RAGTwo-Stage RAG像个严谨的会计必须先查到凭证文档才能写报告生成答案。Spring AI 里的QuestionAnswerAdvisor就是干这个的稳但不够灵活。我们的混合 RAG就是要把这两者的优点结合起来既有侦探的灵活又有会计的严谨。我们的架构在 Spring AI Alibaba 的基础上增加了六个关键的“中间步骤”让 AI 的处理过程变得像人类专家一样细腻。1. 查询增强先把问题“翻译”清楚很多时候用户的问题是很模糊的。比如用户问“怎么请假”AI 如果直接搜“怎么请假”可能搜出来的是“旷工处罚条例”。在这个阶段我们会利用AgentHook在对话开始前先让大模型把用户的问题“润色”一下。重写结合之前的聊天记忆把“怎么请假”变成“2026年最新的员工病假申请流程是什么”变体同时生成几个不同问法的问题比如“病假流程”、“请假规定”一起去检索保证不漏掉任何相关文档。省钱小技巧这一步只在开始时做一次避免在后续循环中重复调用节省 Token 成本。2. 语义缓存让高频问题“秒回”如果昨天刚有人问过一模一样的问题并且当时的回答很完美为什么还要重新跑一遍复杂的流程呢在查询增强后系统会立刻去语义缓存里瞄一眼。命中了直接返回之前的优质答案响应速度提升十倍不止没命中没关系继续往下走。这对于热门问题如“公司Wi-Fi密码”、“食堂开放时间”特别有效。3. Token 自适应压缩给上下文“瘦身”随着对话轮数增加历史记录会越来越长不仅费钱还可能超过大模型的长度限制。我们在拼接最终上下文前会做一个智能检查总字数超了吗如果超了系统会自动把早期的对话记录“压缩”成简短的摘要只保留最近几轮的详细对话。这样既保留了关键信息又控制了成本确保每次请求都在安全范围内。压缩后要持久化到短期记忆容器里如Redis、Mysql。4. 工具调用与精排像专家一样“挑重点”普通的 RAG 是一次性把所有检索到的文档都塞给大模型容易让模型“消化不良”。在我们的架构里检索变成了一个工具Tool宽召回先用向量搜索捞出一大堆相关文档宁多勿漏。模型精排再调用一次大模型让它根据关键词和摘要对这些文档进行相关性排序只选出最核心的几篇。决策权交给 AI大模型可以根据增强后的上下文自己决定是否需要调用这个检索工具以及调用几次。5. 答案验证最后的“质检员”这是防止“幻觉”的最后一道防线。利用 Spring AI 的Interceptor拦截器机制在答案输出给用户之前强行拦截下来进行检查一致性检查答案里的内容在检索到的文档里真的有吗完整性检查用户问了三个子问题答案都回答了吗安全检查有没有包含敏感词或不合规的内容如果验证不通过系统会自动触发重新生成或修正流程当然我们会设置最大重试次数防止死循环。只有通过了“质检”的答案才会被展示给用户并更新到语义缓存中供下次使用。6. 个性化闭环记住你的喜好对话结束后工作还没完。系统会异步分析刚才的对话内容用户是喜欢简洁的回答还是详细的步骤用户关注的是技术参数还是业务流程这些偏好会被提取出来更新到**长期存储User Profile**中。下次这位用户再来提问时这些画像数据会作为背景知识注入到“查询增强”阶段让 AI 越用越懂你。实现这么复杂的流程如果用 Spring AI 可能很常见但在 Java 生态里Spring AI Alibaba让这一切变得异常简单原生支持它提供了Hook、Interceptor等标准组件上面的每一步都有对应的“积木”可以直接用。生态整合无缝对接阿里云的大模型服务企业级落地很简单。Java 友好对于庞大的 Java 开发者群体来说它深度集成 Spring AI 生态专为多智能体系统和工作流编排设计不需要学习新的语言框架用熟悉的 Spring Boot 就能构建顶级的 AI 应用。这套混合 RAG Agent 架构本质上是在模拟人类专家的工作流听懂问题 → 回忆经验 → 查阅资料 → 筛选重点 → 撰写答案 → 自我检查 → 总结经验通过引入这些中间步骤我们不仅解决了传统 RAG“查不准、答不对”的顽疾还通过缓存和压缩机制控制了成本。更重要的是基于 Spring AI Alibaba 的实现让这套高性能架构能够轻松集成到现有的企业系统中。具体的代码实现后续我会再发文章。