大模型RAG入门基础架构介绍

传统大模型的局限性知识可能过时训练数据有时效 性会产生幻觉编造不存在的信息无法访问私有知识库数据回答缺乏具体出处难以验证最大对话上下文限制大部分模型128KRAG的核心概念RAGRetrieval检索 Augmented增强 Generation生成RAG的本质让大模型学会查资料后再回答问题而不是仅凭记忆回答。网络搜索资料知识库存储资料这样既保证了答案的准确性、时效性又提供了可追溯的信息来源RAG的优势灵活性、适应性强可以接入最新、不断变化的数据RAG的优势在于能够接入最新的、私有的、还有不断更新的数据来作为大模型外接知识库来解决大模型回答问题的时效性问题提高准确性回答有据可查减少幻觉基于知识库中检索到的知识来进行回答回答的内容有据可查也减少了模型的幻觉成本相对低无需重新训练或微调模型只需维护知识库能够让大模型学会特定领域的知识灌入其实还有微调大模型这一方案使用整理好的一定数量的数据集对LLM进行参数的调整让大模型能够学习和理解我们自己的业务逻辑有更好的zero-shot能力但是需要算力成本并且技术门槛比较高个性化程度高特别适合专业领域知识问答很多企业内部都在应用RAG技术就是为了能够对接自己公司私有的知识数据让用户能够直接对自己内部资料进行智能问答企业RAG核心应用场景企业知识库与智能问答场景描述 企业拥有大量内部文档员工手册、产品文档、技术规范、会议纪要等员工需要快速找到准确信息。实际案例新员工入职培训问答新员工培训成本高产品技术规格查询文档分散在不同系统中公司政策咨询搜索效率低关键词匹配不精准专业客服与技术支持场景描述 为客户提供准确、一致的技术支持和问题解答。RAG优势基于最新产品文档和解决方案库依赖客服人员的记忆提供标准化的准确回答回答不一致依赖个人经验减少培训时间提高效率处理复杂问题时响应慢科研与学术研究场景描述 研究人员需要快速了解某个领域的最新进展和相关文献。价值体现快速文献调研跨领域知识整合研究趋势分析还有其他的电商、法律、医疗、教育等等都是RAG应用的核心场景。RAG的工作原理通用RAG基本工作流程两阶段过程阶段一准备阶段建立知识库数据接入收集各种文档PDF、Word、网页等文档解析提取文本内容文档分割将长文档切分成小片段向量化将文本转换为数学向量存储将向量存入专门的数据库阶段二问答阶段智能应答用户提问输入问题问题向量化将问题也转换成向量相似度检索在向量数据库中寻找最相关的文档片段构建增强提示将检索到的文档原始问题组合成新的提示生成答案大语言模型基于增强后的提示生成最终答案RAG完整执行流程详解知识库构建阶段离线数据源接入目标从各种来源收集原始数据常见数据源本地文件PDF、Word、TXT、Markdown数据库记录网页内容API接口数据企业内部文档# 示例从多种数据源接入 data_sources { 本地文件: [.pdf, .docx, .txt], 网页内容: [博客, 文档, 新闻], 数据库: [MySQL, MongoDB], API接口: [企业知识库, 云存储] }文档解析目标从原始文件中提取纯文本内容处理类型PDF → 提取文字、表格HTML → 去除标签保留正文Word → 解析文档结构图片 → OCR文字识别技术工具PyPDF2、pdfplumberPDF解析BeautifulSoupHTML解析python-docxWord解析TesseractOCR文档分割目标将长文档切分成适合处理的知识片段chunks为什么需要分割大语言模型有输入长度限制提高检索精度避免信息过载常用分割方法固定长度分割按段落/句子分割语义分割按主题变化from langchain_text_splitters import RecursiveCharacterTextSplitter # 创建文本分割器按照固定长度切分并保留重叠部分 text_splitter RecursiveCharacterTextSplitter( chunk_size500, # 每个文本块的最大字符数 chunk_overlap100, # 相邻文本块之间的重叠字符数保持上下文连贯性 separators[\n\n, \n, 。, , , , ], # 定义了分割符的优先级顺序 add_start_indexTrue, # 记录每个块在原文档中的起始位置 ) # 执行分割 all_splits text_splitter.split_documents(documents) print(f分割后得到 {len(all_splits)} 个文本块) print(all_splits[0].page_content)词向量化在数学中向量也称为欧几里得向量、几何向量指具有大小magnitude和方向的量。它可以形象化地表示为带箭头的线段。箭头所指代表向量的方向线段长度代表向量的大小。常用模型OpenAI text-embedding-3国产模型M3E、BGE等from openai import OpenAI client OpenAI(base_urlOPENAI_BASE_URL, api_keyOPENAI_API_KEY) # 准备需要向量化的文本 text_to_embed 今天天气真好我们出去散步吧 model_name text-embedding-3-small # 调用 Embedding 模型 response client.embeddings.create( modelmodel_name, # 使用默认模型配置中的模型名称 inputtext_to_embed # 需要向量化的文本 ) # 从响应中提取生成的向量 embedding_vector response.data[0].embedding print(f生成向量的维度{len(embedding_vector)}) print(f向量预览{embedding_vector[:5]}...)import os # 设置 HuggingFace 镜像地址 (国内加速) os.environ[HF_ENDPOINT] https://hf-mirror.com from langchain_huggingface import HuggingFaceEmbeddings # 1. 初始化BGE嵌入模型 embeddings HuggingFaceEmbeddings( model_nameBAAI/bge-large-zh-v1.5, model_kwargs{device: cpu} # 使用GPU可改为 cuda ) # 2. 准备示例文本 text 机器学习是人工智能的重要分支 # 3. 执行向量化 vector embeddings.embed_documents([text])[0] # 4. 打印结果 print(f文本: {text}) print(f向量维度: {len(vector)}) print(f向量值: {vector[:5]}...)文档存储目标将向量和原文存储到专用数据库中向量数据库选择ChromaDB轻量级易用www.trychroma.com/Pinecone云服务高性能www.pinecone.io/Faiss高并发gpu加速https://github.com/facebookresearch/faissMilvus毫秒级搜索万亿级向量数据http://milvus.io/import os # 设置 HuggingFace 镜像地址 (国内加速) os.environ[HF_ENDPOINT] https://hf-mirror.com from langchain_community.vectorstores import FAISS from langchain_huggingface import HuggingFaceEmbeddings # 初始化嵌入模型 embeddings HuggingFaceEmbeddings( model_nameBAAI/bge-large-zh-v1.5, model_kwargs{device: cpu} # 使用GPU可改为 cuda ) # 创建向量数据库 vectorstore FAISS.from_documents(all_splits, embeddings) # 保存到本地可选 vectorstore.save_local(word_doc_faiss_index)问答推理阶段在线用户提问用户输入自然语言问题RAG技术的主要优势有哪些文档检索过程将用户提出的问题向量化在向量数据库中搜索相似度最高的前N个文档返回最相关的文档片段检索算法余弦相似度欧氏距离近似最近邻搜索提示增强目标将检索到的文档与用户问题组合成增强提示提示模板示例plain 基于以下上下文信息请回答问题 【相关文档1】 RAG技术可以接入最新数据减少模型幻觉... 【相关文档2】 RAG系统能够提供可验证的信息来源... 【相关文档3】 通过检索增强模型可以回答专业领域问题... 问题调休的申请流程是什么 请根据上述上下文回答答案生成目标大语言模型基于增强提示生成最终答案生成过程增强提示 → 大语言模型 → 生成答案模型选择GPT系列文心一言、通义千问Llama、ChatGLM等开源模型from langchain_core.prompts import ChatPromptTemplate # 定义 RAG 提示词模板 template 请根据以下上下文信息回答问题。如果上下文中有答案请基于上下文回答如果没有请说明。 上下文信息 {context} 问题{question} 请给出详细、准确的回答 prompt ChatPromptTemplate.from_template(template) print(✅ 提示词模板创建成功)import os # 设置 HuggingFace 镜像地址 (国内加速) os.environ[HF_ENDPOINT] https://hf-mirror.com # 使用LangChain进行Word文档解析示例 from langchain_community.document_loaders import Docx2txtLoader # 文档分割 from langchain_text_splitters import RecursiveCharacterTextSplitter # 向量数据库 from langchain_community.vectorstores import FAISS # 向量化Embedding from langchain_huggingface import HuggingFaceEmbeddings # LCEL Components from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser from langchain_core.runnables import RunnablePassthrough from langchain_openai import ChatOpenAI # 1. 知识库构建 # 初始化加载器传入Word文档路径加载文档为Document对象 loader Docx2txtLoader(公司假期制度.docx) documents loader.load() # 创建文本分割器按照固定长度切分并保留重叠部分 text_splitter RecursiveCharacterTextSplitter( chunk_size500, # 每个文本块的最大字符数 chunk_overlap100, # 相邻文本块之间的重叠字符数保持上下文连贯性 separators[\n\n, \n, 。, , , , ], # 定义了分割符的优先级顺序 add_start_indexTrue, # 记录每个块在原文档中的起始位置 ) # 执行分割 all_splits text_splitter.split_documents(documents) # 初始化Embedding模型 embeddings HuggingFaceEmbeddings( model_nameBAAI/bge-large-zh-v1.5, model_kwargs{device: cpu} # 使用GPU可改为 cuda ) # 创建向量数据库 vectorstore FAISS.from_documents(all_splits, embeddings) # 保存到本地可选 vectorstore.save_local(word_doc_faiss_index) # 2. 问答推理 # 加载本地向量数据库存储 vectorstore FAISS.load_local( word_doc_faiss_index, # 你之前保存的目录名 embeddings, allow_dangerous_deserializationTrue # 必要的安全警告确认机制 ) # 用户提问 query 调休的申请流程是什么 # 创建检索器 retriever vectorstore.as_retriever(search_kwargs{k: 3}) # 初始化 LLM llm_model ChatOpenAI( modelgpt-3.5-turbo, temperature0.7 ) # 定义格式化函数 def format_docs(docs): return \n\n.join(doc.page_content for doc in docs) # 构建 LCEL 链 rag_chain ( {context: retriever | format_docs, question: RunnablePassthrough()} | prompt | llm_model | StrOutputParser() ) # 调用大模型回答内容 print(用户提问 query) response rag_chain.invoke(query) print(模型最终回答 response)特别注意大模型个数和类别整个RAG流程涉及到两类大模型用于转换成向量的Embedding模型用户提问阶段和知识库入库阶段的模型必须保持一致用于生成答案的LLM模型语言模型应用场景LLM模型只负责最终将检索到的知识和用户问题进行整合后回复用户知识库的数据搭建工作不涉及LLM模型RAG最终目的这一系列操作都是为了整合好合适的prompt提示词最终交给LLMprompt是与LLM大模型唯一的交互方式RAG具体实践落地策略手动搭建RAG引擎低代码平台搭建 Coze、Dify、N8N使用GLM、OpenAI Responses API 等进行快速实现使用LangChain、LlamaIndex等开源项目快速搭建实际部署考虑在选择RAG应用场景时需要考虑数据质量是否有高质量、结构化的知识源更新频率知识需要多频繁更新准确度要求错误的代价有多大技术复杂度是否有相应的技术能力RAG应用的优化方案想要真正进一步优化RAG的效果需要考虑优化文本分割尝试不同的文本分割器如按句子、递归字符等和块大小、重叠长度重排序Re-ranking使用重排序模型对检索到的文档进行重新排序以提高顶部文档的相关性多轮对话与历史管理在对话中维护历史消息并将历史信息纳入当前查询的上下文中混合检索结合关键词检索如BM25和向量检索以及其他数据库以提高检索的召回率评估与迭代: 构建评估集对RAG系统进行定量评估从而指导优化方向