LangChain vs LlamaIndex：从编排到数据，一文搞清核心区别

目录摘要一、核心区别一句话版本二、为什么我会觉得它们很像三、核心区别完整对比四、用 LangChain 的知识理解 LlamaIndex五、LlamaIndex 的数据处理主线1. Document2. Node3. Index4. Retriever5. QueryEngine六、LangChain 的应用编排主线七、RAG 场景下怎么选八、Agent 场景下怎么选九、最佳实践两者组合使用十、实际项目中怎么选十一、给 LangChain 学习者的 LlamaIndex 学习路线十二、总结参考资料摘要最近在学习 LlamaIndex 时我有一个很直接的感受它和 LangChain 真的很像。两者都能做文档加载、文本切分、Embedding、向量检索、RAG、Agent 和工具调用。如果只看入门示例甚至会觉得它们是在重复造轮子。但继续往下学之后会发现二者虽然能力有重叠设计重心却截然不同。LangChain 更像是一个LLM 应用编排框架擅长把模型、Prompt、工具、Agent 和流程串起来LlamaIndex 更像是一个数据增强框架擅长把私有数据组织成 LLM 可以高质量使用的上下文。本文从一个已经学过 LangChain 的视角梳理两者的相似点、核心差异、概念映射、使用场景以及学习路线。一、核心区别一句话版本先给两个最直观的类比LangChain让 LLM 会做事。 LlamaIndex让 LLM 会用你的数据。LangChain 擅长编排行为。 LlamaIndex 擅长组织知识。用更工程化的方式理解LangChain 应用编排层 LlamaIndex 数据上下文层这是贯穿全文最核心的一条线索后面所有内容都围绕这个区别展开。二、为什么我会觉得它们很像因为二者都处在 LLM 应用开发这一层都在解决同一个问题如何把大语言模型从一个聊天接口变成能够处理真实任务的应用系统。因此它们都会涉及很多相同概念文档加载文本切分Embedding向量数据库RetrieverRAGAgentTool CallingMemoryWorkflow比如一个最常见的 RAG 应用基本流程在两个框架里都差不多加载文档 - 切分文本 - 生成向量 - 存入向量库 - 检索相关内容 - 交给 LLM 回答相似的是能力模块不同的是默认思路。三、核心区别完整对比维度LangChainLlamaIndex核心定位LLM 应用编排框架数据增强型 LLM 应用框架默认入口Prompt、模型、工具、Agent数据、文档、索引、检索强项Agent、工具调用、流程编排、LangGraphRAG、文档索引、检索优化、数据连接典型问题LLM 如何完成一个多步骤任务LLM 如何使用我的私有数据代表抽象Chain、Agent、Tool、Runnable、GraphDocument、Node、Index、Retriever、QueryEngine复杂工作流LangGraph 很强Workflows 也能做但数据场景更自然RAG 易用性灵活但经常需要自己拼组件默认体验更顺四、用 LangChain 的知识理解 LlamaIndex如果你已经学过 LangChain学习 LlamaIndex 时可以做如下映射LangChain 概念LlamaIndex 对应概念理解方式DocumentDocument / NodeLlamaIndex 更强调 NodeNode 是索引和检索的基本单元TextSplitterNodeParser都是把长文档切成更适合检索的小片段EmbeddingsEmbeddings都是把文本转换成向量VectorStoreVectorStore / VectorStoreIndexLlamaIndex 通常用 Index 做更上层的封装RetrieverRetriever都负责根据 query 找相关内容RetrievalQA ChainQueryEngineLlamaIndex 中常用 QueryEngine 做问答ConversationalRetrievalChainChatEngineChatEngine 更适合多轮对话式检索ToolTool / QueryEngineTool可以把查询引擎包装成 Agent 可调用工具AgentAgent / AgentWorkflow二者都有 Agent但 LangChain/LangGraph 更偏复杂编排对 LangChain 使用者来说LlamaIndex 最关键的几个概念是Document、Node、Index、Retriever、QueryEngine、ChatEngine。理解了这几个就基本抓住了 LlamaIndex 的主线。五、LlamaIndex 的数据处理主线学习 LlamaIndex 时不建议一开始就从 Agent 入手。更推荐先抓住它的数据处理主线Data Source → Document → Node → Index → Retriever → QueryEngine / ChatEngine → Response1. DocumentDocument 是数据进入 LlamaIndex 后的基础表示相当于原始资料进入系统后的统一格式。常见数据源PDF、Markdown、网页、Notion 页面、数据库记录、Slack 消息、本地文本文件等。2. NodeNode 是经过切分后的文档片段。LangChain 里常说 chunkLlamaIndex 里更常见的说法是 Node。为什么需要 Node因为 LLM 和向量检索通常不适合直接处理整篇长文档需要先切成较小的片段再做 embedding、索引和检索。3. IndexIndex 是 LlamaIndex 里的核心抽象负责组织数据让后续查询变得高效。from llama_index.core import VectorStoreIndex, SimpleDirectoryReader ​ documents SimpleDirectoryReader(data).load_data() index VectorStoreIndex.from_documents(documents)这几行代码背后通常包含文档读取 → 文档解析 → 节点切分 → embedding → 向量存储 → 构建可查询结构。对比 LangChain 的等价写法会感受到 LlamaIndex 把 RAG 数据侧流程封装得更自然# LangChain 的等价写法需要手动拼组件 from langchain.document_loaders import DirectoryLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain.embeddings import OpenAIEmbeddings from langchain.vectorstores import Chroma ​ loader DirectoryLoader(data) docs loader.load() splitter RecursiveCharacterTextSplitter() chunks splitter.split_documents(docs) vectorstore Chroma.from_documents(chunks, OpenAIEmbeddings())同样的功能LlamaIndex 是声明式的LangChain 是拼装式的。4. RetrieverRetriever 负责根据用户问题从索引中找出最相关的 nodes然后把这些内容作为上下文提供给后续的 LLM。5. QueryEngineQueryEngine 不仅负责检索还会把检索到的内容交给 LLM 合成最终答案。可以把它理解为Retriever Prompt LLM Response Synthesis QueryEnginequery_engine index.as_query_engine() response query_engine.query(LlamaIndex 和 LangChain 有什么区别) print(response)这也是 LlamaIndex 在 RAG 场景中用起来很顺的根本原因。六、LangChain 的应用编排主线LangChain 的主线更偏应用行为编排Model → Prompt → Tool → Agent → Graph / Workflow → Stateful Execution如果你要做的是让模型调用搜索工具让模型查询数据库让模型根据任务自动选择工具让流程中间有人类审批让长任务失败后可以恢复构建复杂 Agent 系统那么 LangChain尤其是 LangGraph通常更自然。它更关注的是如何让 LLM 在多个工具、多个步骤和多个状态之间可靠地执行任务。七、RAG 场景下怎么选假设要做一个公司内部知识库问答系统。使用 LlamaIndex 的思路公司文档 - 加载 - 解析 - 切成 nodes - 构建 index - 用户 query - 检索相关 nodes - 合成答案LlamaIndex 在这个场景里更顺因为它天然围绕数据和索引展开RAG 是它的本职工作。使用 LangChain 的思路公司文档 - loader - splitter - vectorstore - retriever - prompt - model - chain / agentLangChain 也完全能做而且灵活度很高。但在很多情况下你会更明显地感觉自己在拼组件。结论如果当前主要目标是做 RAG尤其是文档问答、知识库检索、多数据源问答优先考虑 LlamaIndex。八、Agent 场景下怎么选再换一个场景你要做一个 AI 助手它需要查询公司知识库、查天气、查数据库、调用内部 API、生成报告并在关键步骤等待人工确认。这时候问题就不只是如何检索文档了而是如何让 AI 在多个工具之间做决策并可靠完成多步骤任务。这类场景下LangChain / LangGraph 通常更合适。九、最佳实践两者组合使用实际项目中两者并不是非此即彼最常见的成熟方案是分工合作LlamaIndex 负责知识库和 RAG LangChain / LangGraph 负责任务编排和工具调用具体做法是把 LlamaIndex 的 QueryEngine 包装成一个 LangChain Tool再交给 Agent 使用from llama_index.core import VectorStoreIndex, SimpleDirectoryReader from llama_index.core.tools import QueryEngineTool from langchain.agents import initialize_agent ​ # LlamaIndex 负责建索引 documents SimpleDirectoryReader(data).load_data() index VectorStoreIndex.from_documents(documents) query_engine index.as_query_engine() ​ # 包装成 LangChain 可调用的工具 kb_tool QueryEngineTool.from_defaults( query_enginequery_engine, nameknowledge_base, description用于查询公司内部知识库 ) ​ # LangChain Agent 负责编排 agent initialize_agent(tools[kb_tool], ...) agent.run(根据知识库内容帮我生成一份季度总结)这样既能利用 LlamaIndex 的检索能力又能利用 LangChain 的复杂流程编排能力。十、实际项目中怎么选你的目标更推荐快速做知识库问答LlamaIndex深入优化 RAG 检索质量LlamaIndex多数据源文档检索LlamaIndexAgent 调多个工具完成任务LangChain / LangGraph复杂状态流、人类审批、任务恢复LangGraph企业知识库 业务工具调用LlamaIndex LangChain 组合学习如何让 LLM 用好私有数据LlamaIndex学习 LLM 应用整体编排生态LangChain十一、给 LangChain 学习者的 LlamaIndex 学习路线如果你已经学过 LangChain再学 LlamaIndex 时可以按下面的顺序先理解Document、Node、Index、Retriever、QueryEngine这五个核心概念用一个本地 Markdown 或 PDF 做最小 RAG 示例调整 chunk size、top_k、metadata filter观察检索结果变化加入 reranker观察回答质量变化学习 QueryEngine 和 ChatEngine 的区别学习 Agent把 QueryEngine 包装成工具最后再看 Workflows、多索引路由、高级检索等内容不要一开始就陷入所有集成和高级 API。LlamaIndex 的核心价值在于数据管线和检索质量。十二、总结刚开始学 LlamaIndex 时觉得它和 LangChain 很像是正常的。因为二者都服务于 LLM 应用开发很多组件名称和使用流程确实有重叠。但从设计重心上看LangChain 更关注LLM 如何行动。 LlamaIndex 更关注LLM 如何理解和使用数据。在实际项目中不必纠结二选一更合理的思路是根据任务拆分职责用 LlamaIndex 管数据、建索引、做检索 用 LangChain / LangGraph 管工具、流程、状态和 Agent。理解了这一点再看 LlamaIndex 就不会觉得它只是另一个 LangChain而是能清楚看到它在 RAG 和数据增强应用中的独特价值。参考资料LlamaIndex 官方文档https://docs.llamaindex.ai/LlamaIndex RAG 介绍https://docs.llamaindex.ai/en/stable/understanding/rag/LangChain 官方文档https://docs.langchain.com/oss/python/langchain/overviewLangGraph 官方文档https://docs.langchain.com/oss/python/langgraph/overview