RAG架构全解析：从基础到高级，打造你的企业级知识库问答系统！

本文详细介绍了RAGRetrieval-Augmented Generation架构的多种变体从基础的Naive RAG和Standard RAG开始逐步深入到Advanced RAG、Hybrid Search RAG、Rerank型RAG、文档增强型RAG、Agentic RAG、Router RAG、GraphRAG、RAPTOR/Hierarchical RAG、Structured RAG以及Multimodal RAG等高级架构。文章涵盖了每种架构的流程、应用依据、适合场景和局限性并提供了典型产品组合和应用案例旨在帮助企业构建高效、精准的知识库问答系统提升信息检索和生成的效果。一. 基础知识库RAGNaive RAG / Standard RAG1.1 架构流程最基础最常见的 RAG 架构。文档上传 → 文档解析 → 文本切块 Chunking → Embedding 向量化 → 写入向量库 / 搜索索引 → 用户提问 → 向量检索 Top-K → 拼接上下文 → LLM 生成答案技术核心大模型本身不一定知道企业私有知识所以先从外部知识库检索相关内容再把检索结果作为上下文交给模型生成答案。这类架构通常包括 4 个主要组件1.2 应用依据类型代表产品 / 项目应用依据云服务AWS Bedrock Knowledge Bases官方文档说明其用于把私有数据接入生成式 AI 应用查询时会搜索数据源并返回相关信息。云服务Google Vertex AI RAG Engine官方定位为构建 context-augmented LLM 应用的数据框架。国内云阿里云百炼知识库官方文档说明知识库用于为大模型补充私有数据和最新信息。国内云百度千帆 AppBuilder 知识库官方文档把知识库定义为 RAG 的数据基础用于缓解知识滞后和幻觉问题。国内云腾讯云知识引擎原子能力官方文档提供 RAG 操作指南包括文档解析、拆分、问答链路。开源平台Dify Knowledge提供知识库、检索配置、引用等能力。开源平台RAGFlow定位为开源 RAG engine并融合 Agent 能力。Dify 的 Knowledge 文档中已经包含 Hybrid Search、Rerank、Parent-child Retrieval、Metadata Filtering 等知识库增强能力说明它不只是基础 RAG而是逐步向生产级 RAG 发展。RAGFlow 官方也强调其高精度 hybrid search结合 vector search、BM25、自定义 scoring 和 reranking。1.3 适用场景场景是否适合企业 FAQ适合产品文档问答适合客服知识库适合内部制度查询适合简单政策问答适合复杂推理分析不够多系统业务操作不够跨文档关系分析不够1.4 局限检索结果不一定准Chunk 切分可能破坏上下文只做向量检索时对专有名词、编号、代码、日期不稳定Top-K 召回可能带入噪声大模型可能忽略证据自行发挥很难处理复杂多跳问题二. Advanced RAG增强型 RAG2.1 架构流程Advanced RAG 是目前企业落地最常用的架构。文档解析 → 语义切块 → Embedding 倒排索引 → 用户问题 → Query Rewrite / Query Expansion → Hybrid Search → Metadata Filter → Rerank → Context Compression → LLM Grounded Generation → Citation / Source Attribution → 评估与监控2.2 和基础 RAG 的区别维度基础 RAGAdvanced RAG检索方式单一路向量检索向量 关键词 元数据过滤查询处理原始问题直接检索Query Rewrite、Multi-query、HyDE排序向量相似度 Top-KRerank 精排上下文直接塞 Top-K压缩、去重、Parent-child 回填答案控制简单 PromptGrounded Answer、引用、拒答监控很少检索评估、答案评估、日志分析2.3 应用依据Azure AI Search 官方 RAG 文档同时支持 classic hybrid search 和 agentic retrieval它的 hybrid search 文档说明混合搜索会在一个请求里同时执行 full-text 和 vector 查询并用 RRF 融合结果。AWS Bedrock Knowledge Bases 也支持 hybrid search作为 semantic search 之外的查询选项。开源和搜索引擎侧也有类似实现。Haystack 官方教程把 hybrid retrieval 定义为结合 keyword-based 和 embedding-based retrievalElastic 官方 RAG 文档强调 Elasticsearch 支持 full-text search、vector search、hybrid search、filtering、aggregations 和 securityOpenSearch 官方文档也说明 hybrid search 结合 keyword 和 semantic search并通过 search pipeline 归一化和合并分数。2.4 典型产品组合组合说明Azure AI Search Azure OpenAI / Foundry微软生态企业常见组合AWS Bedrock Knowledge Bases OpenSearch / S3AWS 生态常见组合Dify Qdrant / Milvus / Elastic开源和中小团队常见组合RAGFlow 本地模型 / 云模型文档知识库和 Agent 一体化Haystack OpenSearch / Elasticsearch后端工程团队常见组合LlamaIndex 向量库 Reranker高度定制型 RAG三. Hybrid Search RAG关键词 向量混合检索3.1 架构流程用户问题 → Query Rewrite → 向量检索 → BM25 / 关键词检索 → 元数据过滤 → RRF / 加权融合 → Rerank → 返回上下文 → 生成答案3.2 应用依据Azure AI Search 的 hybrid search 是一个官方能力文档说明它在同一请求里同时运行全文查询和向量查询并用 Reciprocal Rank Fusion 融合结果。Elastic、OpenSearch、Haystack、Dify、RAGFlow 也都把 hybrid search 作为 RAG 或检索增强的重要能力。3.3 适合场景场景原因企业知识库既有自然语言又有术语、编号、制度名称客服工单用户表达多样但产品名、错误码需要精确命中法律合同条款编号、关键词和语义都重要技术文档函数名、参数名、错误码需要关键词检索财务/投研公司名、指标名、日期、代码都需要精确检索3.4 局限Hybrid Search 会提升召回但也会带来检索链路更复杂需要调 BM25、向量权重、RRF 参数多路召回后噪声更多通常必须配 Rerank成本和延迟比单路向量检索更高四. Rerank 型 RAG召回后精排4.1 架构流程Query → Retriever 召回大量候选 → Reranker 逐条计算 query-document 相关性 → 重新排序 → 选择最相关片段 → 生成答案4.2 应用依据Pinecone 官方文档把 reranking 描述为 two-stage vector retrieval 的一部分先查询 index 得到候选结果再把 query 和候选文档交给 reranking model 重新评分提升 RAG pipeline 的质量。NVIDIA NeMo Retriever 也提供 reranking API并把它用于企业 RAG 应用中的相关数据查找。腾讯云知识引擎原子能力的 API 文档也把 RAG 链路拆成文档解析、拆分、embedding、多轮改写、重排序等能力RAGFlow 的检索组件文档也明确支持 rerank model并提示 rerank 会增加响应时间。4.3 Rerank 类型类型说明优点缺点Cross-Encoder RerankQuery 和文档一起输入模型评分准确率高慢Bi-Encoder Rerank独立编码后算相似度快精度一般LLM Rerank让 LLM 判断相关性可解释性强贵、慢ColBERT / Late InteractionToken 级交互匹配效果好工程复杂规则 模型混合结合时间、权限、类型、关键词可控需要业务调参4.4 适合场景知识库规模大Top-K 经常有噪声答案经常引用错来源同一问题召回多个相似文档要求高准确率愿意接受额外延迟4.5 局限会增加延迟会增加模型调用成本Rerank 输入文档数量不能过大Reranker 本身也需要评测和调参五. 文档增强型 RAGDocument-aware RAG这一类架构重点不在检索算法而在文档解析、切块、结构保留和上下文回填。5.1 典型流程PDF / Word / PPT / HTML / Excel → OCR / Layout Analysis → 标题、表格、图片、页眉页脚识别 → 语义切块 → Parent-child chunk → 元数据写入 → 检索 child chunk → 回填 parent context → 生成答案5.2 关键方法方法说明Semantic Chunking按语义边界切分而不是固定字数Parent-child Chunking小块用于检索大块用于生成Sliding Window切块之间保留重叠上下文Heading-aware Chunking按标题、章节、目录层级切分Table-aware Parsing保留表格结构Layout-aware Parsing保留 PDF 版式和阅读顺序Metadata Enrichment给 chunk 加文档名、页码、章节、权限、时间等信息5.3 应用依据Unstructured 官方说明其平台和工具用于 ingest 和 process 非结构化文档以增强 RAG其文档处理逻辑包括把文档拆解成结构化元素。腾讯云知识引擎原子能力也提供文档解析和文档拆分支持把 PDF、DOCX、TXT 等解析为结构化数据并提到表格、公式、图片、标题、段落、页眉页脚等内容元素的解析能力。Dify 的 Knowledge 文档中列出了 Parent-child Retrieval、Metadata Filtering、Hybrid Search、Rerank 等能力这说明文档增强和上下文管理已经被产品化。5.4 适合场景PDF 多PPT 多合同多政策制度多报告很长表格和图片多扫描件多答案需要页码和引用5.5 局限文档解析成本高PDF 版式复杂时容易解析错表格、图片、公式处理难度大需要根据业务文档类型定制 chunk 策略六. Agentic RAGAgent 驱动的 RAG6.1 核心思想Agentic RAG 是让 Agent 自己决定要不要检索查哪个知识库是否拆成多个子问题是否调用数据库/API检索结果够不够是否需要重查6.2 架构流程用户问题 → Planner / Agent → 意图识别 → Query Decomposition → Router 选择工具 ├─ 文档知识库 ├─ 数据库 ├─ API ├─ Web Search └─ 业务系统 → 多轮检索 / 工具调用 → 证据整合 → 自我检查 → 最终回答6.3 应用依据Azure AI Search 的 agentic retrieval 官方文档把它定义为面向复杂问题的 multi-query pipeline用于 chat、copilot apps 和 agent-to-agent workflows它会用 LLM 把复杂查询拆成更小、更聚焦的子查询。LangChain 官方文档也把 Agentic RAG 定义为让 Agent 在交互中决定何时、如何检索LangGraph 官方教程提供了 retrieval agent 示例让 LLM 决定是否从 vectorstore 检索上下文。LlamaIndex 的 Router Query Engine 则提供了另一种实现在多个 query engine 中选择合适的一个执行查询这适合把“摘要引擎、向量检索、SQL 查询、图检索”等统一到一个路由层。6.4 适合场景企业 Copilot投研助手法务助手复杂客服 Agent多知识库问答需要查数据库 文档 API 的场景需要多步分析和综合判断的任务6.5 局限Agentic RAG 很强但复杂度也高调用链路长延迟高Agent 规划可能不稳定成本不可控需要工具权限管理Debug 难度大需要 tracing、日志、评估体系七. Router RAG / Multi-source RAG多知识源路由架构7.1 核心思想企业知识不是都在一个知识库里通常分布在制度文档产品手册工单系统数据库CRMERP代码库WikiSharePointConfluenceSlack / 飞书 / 企业微信Router RAG 的目标是先判断问题应该去哪查。7.2 架构流程用户问题 → Intent Classifier / Router → 选择数据源 ├─ 文档知识库 ├─ SQL 数据库 ├─ 图数据库 ├─ 搜索引擎 ├─ API └─ Web → 执行对应查询 → 汇总证据 → 生成答案7.3 应用依据LlamaIndex Router Query Engine 官方文档说明它可以从多个候选 query engine 中选择一个来执行查询LangChain Agentic RAG 文档则强调 Agent 只需要能够访问一个或多个外部知识工具就可以形成 RAG 行为。7.4 局限Router 判断错会导致整条链路失败多数据源权限管理复杂需要统一 metadata 和 schema多源结果合并需要去重、冲突处理和可信度排序八. GraphRAG知识图谱增强 RAG8.1 核心思想普通 RAG 主要基于 chunk 相似度检索。GraphRAG 则把文档中的实体和关系抽取出来构建知识图谱再基于图结构做检索和推理。8.2 架构流程文档集合 → 实体抽取 → 关系抽取 → 构建知识图谱 → 社区发现 / 图聚类 → 社区摘要 → 用户问题 → 图检索 文本检索 → 生成答案8.3 应用依据Microsoft GraphRAG 官方文档把 GraphRAG 定义为一种结构化、层级化的 RAG 方法从原始文本中抽取知识图谱构建 community hierarchy生成 community summaries然后用于 RAG 任务。Microsoft 的 GitHub 项目也说明 GraphRAG 是一个数据 pipeline 和 transformation suite用 LLM 从非结构化文本中抽取结构化数据。LightRAG 是另一个重要开源项目其官方说明包括 document indexing、knowledge graph exploration 和 RAG query interfaceNeo4j 也有官方 GraphRAG Python package用于构建基于 Neo4j 的 GraphRAG 应用。8.4 GraphRAG 适合的问题普通 RAG 擅长回答“某个制度怎么规定” “某个产品参数是什么” “某个流程怎么操作”GraphRAG 更适合回答“这些公司之间有什么关系” “某个风险是如何传播的” “这个项目涉及哪些部门和依赖” “这批文档反映出哪些共同主题” “某个政策变化对哪些业务线产生影响”8.5 相关项目项目类型特点Microsoft GraphRAG开源项目图谱抽取、社区发现、社区摘要LightRAG开源项目图结构索引、知识图谱探索、RAG 查询Neo4j GraphRAG官方 Python 包图数据库 向量检索 GraphRAG百度千帆图谱增强 RAG产品能力面向多实体、多关系知识整合官方示例包含医疗诊断助手。8.6 适合场景投研分析 法律案件分析 企业知识网络 供应链风险分析 医疗诊断辅助 组织关系分析 复杂项目依赖分析 舆情传播路径分析8.7 局限构建成本高实体关系抽取质量决定效果图谱更新复杂小规模 FAQ 没必要用对实时性强的知识库不一定划算九. RAPTOR / Hierarchical RAG层级摘要树 RAG9.1 核心思想原始 chunk → 向量化 → 聚类 → 每组生成摘要 → 摘要继续聚类 → 继续生成更高层摘要 → 构建树状索引9.2 架构流程文档 → 切块 → Embedding → Clustering → Summary → Recursive Summary Tree → Query → 检索相关节点 → 组合细节 摘要 → LLM 回答9.3 应用依据RAPTOR 论文说明传统 RAG 多数只检索短连续文本片段限制了对整体文档上下文的理解RAPTOR 通过递归 embedding、clustering 和 summarizing 构建不同摘要层级的树结构。其官方实现也说明 RAPTOR 通过从文档构建 recursive tree structure 来改进长文本检索。9.4 和 GraphRAG 的区别维度RAPTORGraphRAG核心结构树状摘要层级实体关系图关注点长文档多层摘要跨实体、跨关系推理适合问题总结、概括、层级理解关系、依赖、传播、网络构建方式聚类 摘要实体抽取 关系抽取复杂度中高高9.5 局限构建索引成本高摘要质量会影响答案更新文档时可能需要重建树对短文档价值不大十. Structured RAG结构化数据 RAG / Text-to-SQL RAG10.1 核心思想很多企业知识不在 PDF而在数据库、表格、CRM、ERP、BI 系统里。Structured RAG 的重点不是“检索文本 chunk”而是把自然语言问题转成结构化查询。10.2 架构流程用户问题 → 意图识别 → 找相关数据表 / 字段 / 指标口径 → 生成 SQL / API 请求 → 执行查询 → 返回结构化结果 → LLM 解释和总结10.3 典型变体类型说明Text-to-SQL RAG自然语言转 SQLText-to-API RAG自然语言转 API 调用Table RAG表格问答BI RAG查询指标并解释变化SQL Vector Hybrid RAG同时查数据库和非结构化文档10.4 应用依据LlamaIndex 有 Router Query Engine可在多个 query engine 中选择执行对象它也有 SQL Router Query Engine 的实践用于在 SQL 数据库和向量数据库之间路由。LangChain 生态中也有 SQL Agent 和 retrieval agent 的实现路径。10.5 适合场景销售数据问答 财务报表分析 库存查询 订单查询 CRM 客户信息问答 ERP 业务查询 经营指标解释 BI Copilot10.6 局限SQL 生成错误可能带来严重后果需要权限控制和行列级安全指标口径必须清晰Schema 复杂时需要 schema linking不适合完全非结构化知识十一. Multimodal RAG多模态 RAG11.1 核心思想企业文档不只是文本还包括图片图表PPT扫描件表格流程图架构图医学影像说明产品手册截图Multimodal RAG 的目标是同时检索和理解文本与视觉信息。11.2 架构流程PDF / PPT / 图片 / 扫描件 → OCR → Layout Analysis → 表格识别 → 图片描述 / 图表理解 → 文本 embedding 图像 embedding → 多模态检索 → 多模态 LLM 生成答案11.3 应用依据Azure AI Search 官方文档说明其可用于 text、vector 和 multimodal content 的检索并在 RAG 场景中支持对图片和 PDF 做 OCR、image analysis、document extraction 等处理。NVIDIA NeMo Retriever 官方定位为用于构建和扩展 multimodal data extraction、embedding 和 reranking pipelines 的微服务集合。LlamaParse 也有 multimodal RAG 能力支持从复杂文档中索引和检索 text 与 image chunks。11.4 适合场景财报分析PPT问答扫描合同保险理赔材料制造业产品手册医学/科研图表包含大量图表的咨询报告11.5 局限文档解析成本高图片和表格理解仍然容易出错多模态 embedding 成本较高引用溯源比纯文本更复杂对模型能力要求更高十二. Modular RAG模块化 RAG12.1 核心思想Modular RAG 不是一种单一算法而是一种工程架构把 RAG 拆成多个可替换模块。Query Rewriter Router Retriever Reranker Compressor Generator Citation Builder Evaluator Guardrail Memory Tool Caller12.2 典型架构用户问题 → Query Understanding → Router → Retriever 1 / Retriever 2 / SQL / API / Graph → Rerank → Context Builder → Generator → Verifier → Citation → Monitor12.3 应用依据LangChain 官方把 retrieval 和 Agentic RAG 作为构建问答应用的重要模块LangGraph 提供更底层的图式 Agent 编排LlamaIndex 的 query engine、router、retriever 体系也体现了模块化组合能力。12.4 适合场景生产级企业 AI 助手多数据源知识平台复杂业务系统集成需要持续迭代检索策略需要 A/B 测试和评估体系12.5 局限系统复杂度高需要工程团队长期维护每个模块都需要评估出错链路更难排查说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】