LangChain+FAISS 向量数据库搭建轻量化 RAG 应用

本章学习目标本章聚焦企业轻量化落地帮助读者快速掌握基于 LangChainFAISS 的私有化 RAG 开发流程。通过本章学习你将从零搭建一套无需 GPU、无外网依赖、纯本地运行、代码极简、可直接上线的轻量化 RAG 应用。一、引言为什么 LangChainFAISS 是轻量化 RAG 首选1.1 背景与痛点随着大模型应用快速普及企业和开发者面临三大现实困境成本高使用云服务向量库如 Pinecone、Milvus 集群需付费中小团队难以承担部署重传统向量数据库依赖 Docker、K8s、高配置服务器本地 / 轻量服务器无法跑隐私泄露云端向量库必须上传数据无法满足内网、涉密、私有化场景。而 LangChainFAISS 的组合完美解决以上痛点FAISS 是单文件向量库、零服务、零依赖、CPU 就能跑LangChain 封装度高、上手快、可快速构建检索增强链路。据行业统计90% 的个人开发者、70% 的中小企业、60% 的内网项目优先选择 LangChainFAISS 构建轻量化 RAG。它是目前最成熟、成本最低、落地最快的私有化知识库方案。1.2 方案价值LangChainFAISS 轻量化 RAG 的核心价值轻量无依赖FAISS 直接本地文件存储不需要额外部署服务低成本落地CPU 即可运行8G 内存笔记本也能跑全链路可控数据不上云、向量不上云、模型本地跑安全可控开发效率高LangChain 封装完整几行代码实现文档加载、分割、向量、检索、问答迭代灵活支持文档增量更新、知识库随时重建、快速调试优化。1.3 本章结构概览为帮助读者系统性掌握轻量化 RAG 全流程本章从以下维度展开plaintext 概念解析 → 技术选型 → 环境搭建 → 代码实战 → 优化调优 → 部署上线 → 问题排查二、核心概念解析2.1 基本定义概念一RAG检索增强生成RAGRetrieval-Augmented Generation检索 大模型生成。流程用户问题 → 文档检索 → 相关片段 → 拼接上下文 → 大模型生成答案。作用解决大模型幻觉、知识过时、无法接入私有数据等问题。概念二LangChainLangChain 是大模型应用开发框架提供文档加载、文本分割、向量封装、检索、问答链、记忆、Agent等模块大幅降低 RAG 开发难度。概念三FAISSFacebook 向量数据库FAISSFacebook AI Similarity Search是 Facebook 开源的轻量级向量检索库特点纯本地、零服务、单文件存储CPU 高效检索支持百万级向量速度快、体积小、易集成支持保存 / 加载向量库避免重复计算。概念四Embedding向量嵌入将文本句子 / 段落映射成高维数值向量语义越接近向量距离越近。轻量化常用BGE、all-MiniLM、m3e-small。2.2 关键术语解释⚠️ 以下术语必须掌握Chunk文本块长文档切分成短片段避免上下文超限向量库Vector Store存储文本向量 原文映射Retriever检索器从向量库召回相似片段LLM大语言模型基于检索结果生成答案幻觉Hallucination模型编造不存在信息RAG 可抑制。2.3 轻量化 RAG 技术架构plaintext┌───────────────────────────────┐ │ 用户输入自然语言 │ ├───────────────────────────────┤ │ LangChain 核心调度 │ ├───────────┬───────────┬────────┤ │ 文档加载 │ 向量存储 │ 模型生成│ │(DirectoryLoader)│(FAISS)│(本地LLM)│ ├───────────┴───────────┴────────┤ │ 本地文件系统PDF/Word│ └───────────────────────────────┘三、技术选型轻量化 私有化优先3.1 整体技术栈Python3.9RAG 框架LangChain向量数据库FAISSCPU 版文档加载PyPDF2、python-docx、TextLoader文本分割RecursiveCharacterTextSplitter向量模型BGE-small-zh-v1.5中文、轻量、离线大模型Qwen-7B-Chat4bit 量化、CPU 可跑Web 界面Gradio轻量、几行代码3.2 选型理由全离线无任何外网依赖全程本地运行轻量FAISS 无需服务8G 内存即可跑通中文友好BGEQwen 对中文优化效果远超国外模型代码简洁LangChain 封装度高新手易上手成本极低全开源无需付费 API。四、环境搭建Windows/Linux/Mac 通用4.1 硬件最低要求CPU2 核内存8G硬盘50G SSDGPU可选非必需4.2 依赖安装bash运行# 创建虚拟环境 python3 -m venv rag-env source rag-env/bin/activate # 安装核心依赖 pip install langchain0.1.10 pip install langchain-community0.0.25 pip install pypdf23.0.1 python-docx1.1.2 pip install sentence-transformers2.5.1 pip install faiss-cpu1.7.4 pip install transformers4.38.2 torch2.2.1 pip install gradio4.21.04.3 离线模型下载关键向量模型BGE-small-zh-v1.5大模型Qwen-7B-Chat-4bit下载后放到项目目录plaintext./models/ ├─ bge-small-zh-v1.5/ └─ Qwen-7B-Chat-4bit/五、全链路代码实战可直接复制运行5.1 项目目录plaintextlightweight_rag/ ├─ docs/ # 你的知识库文档PDF/Word/TXT ├─ models/ # 离线模型 ├─ vector_db/ # FAISS 向量库自动生成 └─ app.py # 主程序5.2 第一步文档加载与分割python运行# app.py import os from typing import List from langchain.document_loaders import DirectoryLoader, PyPDFLoader, Docx2txtLoader, TextLoader from langchain.text_splitter import RecursiveCharacterTextSplitter # ---------------------- 配置区 ---------------------- DOCS_PATH ./docs VECTOR_DB_PATH ./vector_db CHUNK_SIZE 512 CHUNK_OVERLAP 50 # ---------------------------------------------------- def load_documents() - List: 批量加载 PDF、Word、TXT print(加载文档中...) loaders [ DirectoryLoader(DOCS_PATH, glob**/*.pdf, loader_clsPyPDFLoader), DirectoryLoader(DOCS_PATH, glob**/*.docx, loader_clsDocx2txtLoader), DirectoryLoader(DOCS_PATH, glob**/*.txt, loader_clsTextLoader) ] docs [] for loader in loaders: docs.extend(loader.load()) print(f加载完成共 {len(docs)} 个文档) return docs def split_documents(docs: List) - List: 中文友好分割 print(分割文档中...) splitter RecursiveCharacterTextSplitter( chunk_sizeCHUNK_SIZE, chunk_overlapCHUNK_OVERLAP, separators[\n\n, \n, 。, , 、] ) chunks splitter.split_documents(docs) print(f分割完成共 {len(chunks)} 个文本块) return chunks # 测试 if __name__ __main__: raw_docs load_documents() chunks split_documents(raw_docs) print(示例文本块\n, chunks[0].page_content[:200])代码说明自动遍历 docs 目录所有 PDF/Word/TXT中文分隔符优先按句号、逗号分割语义更完整支持子目录递归加载。5.3 第二步FAISS 向量库构建与加载python运行from langchain.vectorstores import FAISS from langchain.embeddings import HuggingFaceEmbeddings def create_faiss_vector_db(chunks: List) - FAISS: 构建 FAISS 向量库 print(加载向量模型并构建向量库...) embeddings HuggingFaceEmbeddings( model_name./models/bge-small-zh-v1.5, model_kwargs{device: cpu}, encode_kwargs{normalize_embeddings: True} ) vector_db FAISS.from_documents(chunks, embeddings) os.makedirs(VECTOR_DB_PATH, exist_okTrue) vector_db.save_local(VECTOR_DB_PATH) print(向量库保存成功) return vector_db def load_faiss_vector_db() - FAISS: 加载本地向量库 print(加载向量库...) embeddings HuggingFaceEmbeddings( model_name./models/bge-small-zh-v1.5, model_kwargs{device: cpu}, encode_kwargs{normalize_embeddings: True} ) vector_db FAISS.load_local( folder_pathVECTOR_DB_PATH, embeddingsembeddings, allow_dangerous_deserializationTrue ) print(向量库加载完成) return vector_db # 测试检索 if __name__ __main__: if not os.path.exists(os.path.join(VECTOR_DB_PATH, index.faiss)): raw_docs load_documents() chunks split_documents(raw_docs) vector_db create_faiss_vector_db(chunks) else: vector_db load_faiss_vector_db() query 公司报销流程是什么 results vector_db.similarity_search(query, k3) for idx, res in enumerate(results): print(f\n【检索结果{idx1}】来源{res.metadata[source]}) print(res.page_content[:300])代码说明FAISS 以文件形式保存下次直接加载无需重复计算向量检索返回 top-k 相似文本语义匹配不是关键词匹配全程离线不联网。5.4 第三步本地大模型加载python运行from langchain.llms import HuggingFacePipeline from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline def load_local_llm(): 加载本地 Qwen-7B-Chat-4bit print(加载本地大模型...) tokenizer AutoTokenizer.from_pretrained( ./models/Qwen-7B-Chat-4bit, trust_remote_codeTrue, local_files_onlyTrue ) model AutoModelForCausalLM.from_pretrained( ./models/Qwen-7B-Chat-4bit, trust_remote_codeTrue, local_files_onlyTrue, load_in_4bitTrue, device_mapauto ) pipe pipeline( text-generation, modelmodel, tokenizertokenizer, max_new_tokens512, temperature0.7, repetition_penalty1.1 ) llm HuggingFacePipeline(pipelinepipe) print(大模型加载完成) return llm # 测试 if __name__ __main__: llm load_local_llm() print(llm.invoke(你好请介绍自己))代码说明4bit 量化8G 内存可流畅运行local_files_onlyTrue强制离线可替换为 ChatGLM、Llama3 等本地模型。5.5 第四步构建 RAG 问答链python运行from langchain.chains import RetrievalQA def build_rag_chain(vector_db: FAISS, llm) - RetrievalQA: 构建 RAG 链 print(构建 RAG 链...) retriever vector_db.as_retriever(search_kwargs{k: 3}) rag_chain RetrievalQA.from_chain_type( llmllm, chain_typestuff, retrieverretriever, return_source_documentsTrue ) print(RAG 链构建完成) return rag_chain # 测试问答 if __name__ __main__: if not os.path.exists(os.path.join(VECTOR_DB_PATH, index.faiss)): raw_docs load_documents() chunks split_documents(raw_docs) vector_db create_faiss_vector_db(chunks) else: vector_db load_faiss_vector_db() llm load_local_llm() rag_chain build_rag_chain(vector_db, llm) result rag_chain.invoke({query: 公司报销流程是什么}) print(\n答案\n, result[result]) print(\n来源) for doc in result[source_documents]: print(-, doc.metadata[source])代码说明chain_typestuff直接把检索结果拼进 Promptreturn_source_documentsTrue返回来源可溯源抑制幻觉。5.6 第五步Gradio Web 界面python运行import gradio as gr # 全局变量 vector_db None llm None rag_chain None def init_system(): global vector_db, llm, rag_chain if not os.path.exists(os.path.join(VECTOR_DB_PATH, index.faiss)): raw_docs load_documents() chunks split_documents(raw_docs) vector_db create_faiss_vector_db(chunks) else: vector_db load_faiss_vector_db() llm load_local_llm() rag_chain build_rag_chain(vector_db, llm) def answer_question(question): if not question.strip(): return 请输入问题 try: res rag_chain.invoke({query: question}) answer res[result] source \n来源\n \n.join([f- {d.metadata[source]} for d in res[source_documents]]) return answer source except Exception as e: return f错误{str(e)} def upload_file(file): try: save_path os.path.join(DOCS_PATH, os.path.basename(file.name)) with open(save_path, wb) as f: f.write(file.read()) # 重建向量库 raw_docs load_documents() chunks split_documents(raw_docs) global vector_db, rag_chain vector_db create_faiss_vector_db(chunks) rag_chain build_rag_chain(vector_db, llm) return f上传成功{file.name}知识库已更新 except Exception as e: return f上传失败{str(e)} # 界面 with gr.Blocks(title轻量化 RAG 知识库) as demo: gr.Markdown(# LangChainFAISS 轻量化 RAG 知识库) gr.Markdown(全离线、私有化、CPU 可跑、可溯源) question gr.Textbox(label输入问题, lines3) answer gr.Textbox(label回答, lines10) submit_btn gr.Button(提问, variantprimary) submit_btn.click(answer_question, inputsquestion, outputsanswer) gr.Markdown(### 上传文档更新知识库) file_upload gr.File(file_types[.pdf, .docx, .txt]) upload_btn gr.Button(上传并更新) upload_result gr.Textbox(label上传结果) upload_btn.click(upload_file, inputsfile_upload, outputsupload_result) # 启动 if __name__ __main__: init_system() demo.launch(server_name0.0.0.0, server_port7860, shareFalse)代码说明支持问答、上传文档、自动重建知识库shareFalse不暴露外网浏览器访问http://localhost:7860。六、优化调优6.1 检索精度优化Chunk 调优中文推荐 512 大小、50 重叠模型升级BGE-large-zh 精度更高检索数量k5 提高答案完整性。6.2 速度优化4bit 量化Qwen、Llama3 均支持模型缓存向量库直接加载避免重复计算限制生成长度max_new_tokens300。6.3 稳定性优化异常捕获全链路 try-except模型预热启动时加载模型避免首次慢文档过滤过滤空白、损坏文件。七、部署上线7.1 后台运行bash运行nohup python app.py rag.log 21 7.2 内网访问服务器 IP:7860内网浏览器直接访问。7.3 简单权限python运行demo.launch(auth(admin, 123456))八、常见问题排查Q1内存不足用 4bit 量化模型关闭其他程序升级内存。Q2文档乱码TextLoader (encodinggbk) 或 utf-8。Q3答案不准 / 幻觉优化 chunk升级 BGE提高 k 值保证文档质量。Q4Web 打不开关闭防火墙sudo ufw allow 7860。九、总结与扩展9.1 核心总结LangChainFAISS 是个人与中小企业最佳轻量化 RAG 方案✅ 全离线、私有化✅ CPU 可跑、成本极低✅ 代码简洁、快速落地✅ 中文友好、可溯源、抑制幻觉。9.2 扩展方向多模态OCR 图片文档多轮对话添加 ConversationBufferMemory权限管理按部门隔离文档增量更新只处理新增文档不重建全库。