「技术杂记」基于LLM的Agent架构组成

0. Agent与LLM调用的区别LLM调用是单纯的输入-输出而Agent是具备规划、记忆、工具使用能力的自主系统。一般我们打开一个对话窗口输入一个问题模型立刻给出回答——这就是一次典型的LLM调用一般 LLM 调用Agent智能体核心定义一个语言模型根据输入生成文本输出一个以LLM为“大脑”的系统能自主规划、调用工具、管理记忆交互方式一次性问答用户输入 → 模型输出多轮循环任务 → 思考 → 行动 → 观察 → 再思考 → 输出是否具备自主性被动响应完全依赖用户指令主动分解任务、制定步骤过程中可自行决策工具使用能力无仅靠内部知识可调用外部API、数据库、计算器、搜索引擎等记忆管理通常只有单次对话的短期记忆可维护长期记忆向量数据库和短期记忆上下文输出方式一次生成最终答案可能经过多步推理最终给出结果过程中可能有中间动作典型例子你用ChatGPT问“今天天气怎么样”它说“我无法获取实时信息”Agent收到同样问题会主动调用天气API获取数据后告诉你结果LLM像是大脑一个拥有短期记忆的大脑但Agent不仅拥有大脑并且拥有记忆和手脚工具。Agent不是另一个模型而是以LLM为控制中枢融合规划、记忆、工具执行能力的完整系统。它让AI从“能说会道”进化到“能动手解决实际问题”。接下来我们就来拆解这个系统到底由哪些核心组件构成它们又是如何协作的。1. Agent的组成Agent由以下部分组成大语言模型LLMLLM是Agent的大脑它不仅是语言理解与生成的基础更是整个系统的决策中枢。负责思考“用户想要什么”、“现在该做什么”以及“怎么做更好”。往往LLM决定了一个Agent的上限。记忆模块Memory记忆让Agent不再是“一次性对话”的工具而是能持续学习和积累经验的个体。记忆通常分为两类•短期记忆类似于人类的“工作记忆”指在单次任务或会话中临时存储的信息。有多种实现方式上下文窗口和摘要等。例如把对话历史、刚刚观察到的环境反馈直接拼接到提示词中。但短期记忆有容量限制如上下文长度当信息太多时会被遗忘或压缩。•长期记忆相当于人类的“长时记忆”用于跨会话持久化存储重要信息。通常借助外部数据库向量数据库关系数据库实现。Agent可以将关键知识如用户偏好、任务经验、领域知识向量化后存入数据库后续需要时通过相似性检索召回再放入短期记忆中供LLM使用。长期记忆让Agent在多次交互中保持一致性并不断成长。规划模块Planning)规划能力是Agent从“被动响应”走向“主动行动”的关键规划模块负责任务的分解并决定执行顺序和策略执行结果的反馈调整甚至是反思。行动工具的使用Tool Use)工具是Agent连接外部世界、打破LLM自身能力限制的桥梁。通过调用各种工具Agent能获取实时信息、执行具体操作、进行计算等。工具的使用抽象来讲就是Function Calling具体一点可以是浏览器搜索、调用api接口查天气、查地图等、发邮件等。将工具调用的方式标准化的实现就是MCP协议。一个典型的Agent工作流程如下用户输入任务 → 进入短期记忆。LLM结合短期记忆和从长期记忆中检索到的相关知识理解任务。规划模块将任务拆解为步骤决定下一步行动可能是一个子任务或直接调用工具。如果需要外部信息或操作LLM生成工具调用指令工具模块执行并返回结果。结果被放回短期记忆LLM继续分析可能修正计划或进行下一步。重复3-5步直到任务完成LLM生成最终答案返回给用户。2. 大语言模型LLM由大语言模型LLM来负责感知如果把Agent比作一个能独立完成任务的数字员工那么大语言模型LLM就是他的大脑。它不仅负责理解你说的话更重要的是——它决定了整个Agent的思考深度和行动能力。在Agent架构中LLM不再只是一个“文本生成器”而是一个通用的推理引擎和决策中心。在传统用法中我们给LLM一个 prompt它直接返回答案。但在Agent系统中LLM被赋予了更多的“职责”•意图理解与任务分解将用户模糊的指令如“帮我研究一下RAG的最新进展”转化为清晰、可执行的子任务清单。•推理与规划基于当前状态包括对话历史、环境反馈思考下一步该做什么。它可能采用思维链Chain-of-Thought的方式一步步推理出解决方案。•工具调用决策判断何时需要借助外部工具如搜索引擎、计算器并生成符合格式的调用指令如JSON格式的function calling参数。•自我反思与修正当某一步执行失败或结果不符合预期时LLM能分析原因调整计划甚至尝试新的路径。•生成最终响应综合所有信息以自然语言的形式返回给用户。简单来说LLM让Agent具备了“思考”的能力而其他模块记忆、规划、工具则是它的“感知”和“行动”的延伸。让我们来举个来进一步理解在下面这个例子中LLM不仅理解了多步任务还自主规划了调用工具的时机、解析了API返回结果并最终生成了人性化的回答。整个过程完全由LLM的推理能力驱动。用户输入帮我查一下这周末杭州的天气并推荐两个适合带小孩去的室内景点。LLM 第一轮思考Thought用户需要两个信息1. 杭州周末天气2. 室内儿童景点推荐。我目前没有实时天气数据需要调用天气API景点推荐可以结合天气情况和我的知识库给出但最好也获取最新评价。计划先调用天气API获取天气然后根据天气情况推荐景点。LLM 行动Action调用天气API参数城市杭州日期本周六、日。系统返回天气数据周六小雨13-18℃周日阴15-20℃LLM 观察Observation天气周末有小雨气温适宜。适合推荐室内景点。思考Thought现在需要推荐两个室内儿童景点。我可以从我的训练知识中回忆一些热门选项但为了确保准确性最好再调用一个景点评价API或搜索最新信息。计划先调用景点查询API如果没有再使用搜索引擎。LLM 行动Action调用景点推荐API参数城市杭州类型室内儿童返回数量2。系统返回杭州Do都城少儿社会体验馆、杭州烂苹果乐园LLM 最终思考Final Thought已获取景点信息结合天气可以给出完整回答。需要提醒用户带雨具。LLM 响应Response本周末杭州有小雨气温13-20℃建议带上雨具。推荐两个室内儿童景点1. 杭州Do都城少儿社会体验馆适合儿童职业体验2. 杭州烂苹果乐园大型室内儿童乐园祝您周末愉快3. 记忆模块Memory如果说LLM是Agent的大脑那么记忆模块就是它的海马体——负责存储、检索和更新信息。没有记忆的Agent就像一位患有严重失忆症的助手每次对话都从零开始无法记住用户的偏好也无法从过去的经验中学习。而有了记忆Agent才能真正实现持续进化和个性化交互。在Agent架构中记忆被划分为两个层次短期记忆和长期记忆它们各司其职共同构建起智能体的“经验库”。3.1 短期记忆短期记忆是指在当前任务或会话过程中临时存储的信息。它相当于人类在工作时脑海中暂时记住的几个数字或一句话用完即忘。特点•容量有限受限于LLM的上下文窗口如cursor中的gpt-5.3-codex 272k tokens context window超出部分会被截断或遗忘。•会话级持久性仅在单次对话或任务执行期间有效任务结束后通常不会保留。•实现方式最直接的方式就是将对话历史、中间推理步骤、工具返回结果等直接拼接到LLM的提示词中即In-Context Learning。一些框架还会对记忆进行压缩或摘要以节省上下文空间。例如• 用户连续提问“南京天气怎么样”→“那明天呢” Agent需要记住刚刚提到的“南京”才能理解第二次询问的是同一城市的天气。• Agent在执行多步任务时如先查天气、再定酒店需要将第一步的结果暂存供后续步骤使用。3.2 长期记忆长期记忆用于跨会话持久化存储重要信息使Agent能够在多次交互中记住用户、积累知识、学习新技能。特点•容量近乎无限借助外部存储系统如数据库可以存储海量信息。•跨会话持久性信息被保存下来下次对话时可以重新调用。•实现方式通常采用向量数据库如Pinecone、Chroma、WeaviateRAG检索增强生成Retrieval Augment Generation、关系型数据库、知识图谱一种用图结构来组织和表示知识的数据模型、模型微调Fine-tuning让LLM形成“肌肉记忆”等。具体流程是将文本如用户偏好、领域知识转化为特定的数据结构如向量存入数据库当需要回忆时将当前问题也转为向量在数据库中做相似性检索召回最相关的内容再放入短期记忆中供LLM使用。例如• 用户第一次使用时告诉Agent“我喜欢读科幻小说。” 下次用户说“推荐一本书”Agent会优先推荐科幻类书籍。• Agent在工作中学习了一套代码库的结构下次处理类似项目时能直接调出相关模块的说明。3.3 短期记忆和长期记忆的配合短期和长期记忆不是孤立的而是紧密配合用户输入进入短期记忆当前对话上下文。Agent根据用户问题和当前短期记忆从长期记忆中检索相关信息如用户偏好、历史对话摘要。检索到的信息被加入到短期记忆中供LLM参考。LLM结合短期记忆包括当前输入检索到的长期记忆进行推理和决策。在对话过程中Agent可能将重要的新信息写入长期记忆如用户新透露的偏好、任务执行经验。记忆模块的核心作用•个性化体验让Agent记住每个用户的偏好提供定制化服务。•持续学习Agent可以从每次交互中学习不断丰富自己的知识库避免重复犯错。•上下文连贯即使对话中断很久也能无缝衔接因为长期记忆保存了之前的要点。•复杂任务支撑对于需要多步推理的任务短期记忆保证了中间结果的可用性。4. 规划模块Planning规划模块负责将模糊的目标转化为清晰的行动步骤决定先做什么、后做什么并在执行过程中根据新情况动态调整。正是规划能力让Agent从“被动响应”进化到“主动解决问题”。规划的第一步是任务分解将大目标变成小任务。分解后还需要决定这些任务的先后顺序排序、处理依赖关系调度。以及在执行过程中根据反馈调整计划动态调整甚至是从失败中学习反思。Agent的规划模块并非一成不变而是经历了一条从静态推理到动态交互再到分层解耦和自我进化的演进路径。阶段核心范式代表技术核心思想提出时间阶段1静态推理范式CoT思维链让模型在回答前生成中间推理步骤但不与环境交互2022阶段2动态交互范式ReAct推理与行动交替进行边想边做2022阶段3分层解耦范式Plan-and-Execute规划与执行分离先想后做动态调整2023阶段4高级扩展范式ToT、Reflexion、MCTS多路径探索、自我反思、搜索式规划2023-2024注范式是一个领域内被公认的、用于思考和解决问题的框架——它不是具体的代码或工具而是指导我们如何设计、如何思考的一套方法论。ReActReasoning and Actingthought-action-observation循环与Plan-and-Execute的关系设计哲学ReAct是“边想边做”计划隐含在思考-行动循环中Plan-and-Execute是“先想后做”计划显式生成再执行。灵活性 vs 稳定性ReAct更灵活能实时适应环境变化但可能效率低或陷入循环Plan-and-Execute更稳定可解释性强但可能无法应对计划外的变化。是否互斥不一定。有些系统结合两者比如先用Plan-and-Execute生成高级计划然后在执行每个步骤时用ReAct处理细节。在实际项目中不必拘泥于单一范式。可以构建混合架构——用Plan-and-Execute生成粗粒度计划对计划中不确定性高的步骤如“查资料”内部用ReAct精细化执行。这样既保证了整体方向的可控性又保留了局部执行的灵活性。举个假设Agent的任务是“组织一场公司团建活动”•纯Plan-and-Execute先规划出完整方案场地选择、餐饮预订、活动安排然后逐一执行。如果预定场地时发现满员计划可能卡住需要人工介入。•纯ReAct每一步都思考“现在该干什么哦先找场地……找到了下一步订餐……” 虽然灵活但可能绕弯路且用户无法提前知晓整体方案。•结合方案先用Plan-and-Execute生成一个初步计划“确定日期 → 预订场地 → 安排餐饮 → 设计活动”。执行“预订场地”这一步时如果遇到满员Agent立即启动ReAct模式动态搜索替代场地、调整日期甚至修改后续餐饮和活动安排。整个过程既保持了计划的框架又具备了应变能力。5. 工具使用Tool Use在前几节中我们介绍了Agent的大脑LLM、记忆Memory和规划Planning模块。但一个只会思考、不会行动的智能体终究只是“纸上谈兵”。工具使用模块正是Agent连接外部世界的桥梁让它能够真正“动手”解决问题。工具使用模块的核心作用是赋予Agent调用外部工具的能力以突破LLM自身的局限性。LLM虽然强大但存在三个天然短板知识截止日期无法获取训练数据之后的新信息无法访问私有数据无法查询企业内部数据库、用户个人数据缺乏执行能力只能生成文本无法操作外部系统工具使用模块解决了这些问题。通过调用各种工具Agent可以•获取实时信息查询天气、股票价格、最新新闻•操作外部系统发送邮件、创建日历事件、操作数据库•执行精确计算调用计算器、代码解释器•访问知识库检索企业文档、专业数据库通俗理解如果把LLM比作一个博学的顾问那么工具就是他的“手脚”和“感官”——让他不仅能说还能查、能算、能做。目前工具使用主要有通过Function Calling与外界交互的基本能力 MCP协议标准化外界交互实现。维度Function CallingMCP协议本质LLM的原生能力一种调用机制工具接入的标准化协议定位解决“如何调用”的问题解决“如何接入”的问题实现方LLM厂商提供支持社区推动的开放标准适用范围单个函数的调用整个工具生态的互联与LLM关系LLM直接输出函数调用Agent作为客户端连接MCP服务器在MCP出现之前每个工具都需要单独适配• 天气API有一套调用方式• 数据库查询有另一套方式• 企业内部系统又有自己的接口开发者需要为每个工具编写适配代码重复劳动且难以维护。MCP的出现就是为了解决这个问题——标准化工具接入让工具接入像插拔U盘一样简单。MCP官方文档https://modelcontextprotocol.io/docs/getting-started/introB站上讲MCP很透彻的一个视频https://www.bilibili.com/video/BV1qTYizcEN3/?spm_id_from333.1007.top_right_bar_window_default_collection.content.clickvd_source40421a629b788b333d1970ffc63824d06. Agent各模块的协同工作在前面的章节中我们逐一拆解了Agent的四大核心模块大语言模型LLM、记忆模块Memory、规划模块Planning和工具使用Tool Use。它们各自承担着独特的职责——LLM负责理解与决策记忆模块存储与检索信息规划模块分解任务与动态调整工具模块连接外部世界。但一个真正的智能体绝不是这四个模块的简单堆砌。真正的魔力来自它们之间的无缝协同。就像一支交响乐团每个乐手都有自己的乐谱但只有当他们按照指挥的节奏默契配合时才能奏出恢弘的乐章。在宏观层面Agent处理一个任务通常会经历以下五个阶段感知与理解接收用户输入LLM结合短期记忆当前对话上下文理解用户意图。记忆检索从长期记忆中召回与当前任务相关的历史信息或知识。规划与决策LLM作为“大脑”基于当前状态用户输入 短期记忆 检索到的长期记忆进行推理生成行动计划可能涉及任务分解、步骤排序。执行与交互按照计划调用外部工具如搜索、API获取实时信息或执行操作。学习与更新将本次交互中的重要信息如用户偏好、新知识存入长期记忆供未来参考。这个流程不是单向的直线而是一个循环迭代的过程——Agent可能在执行某一步后根据观察到的结果重新回到规划阶段调整后续计划。让我们用一个贯穿全篇的例子来展示这些模块如何协同工作。假设用户向Agent提出这样一个请求“我下周末想去南京放松两天喜欢安静的自然风光预算2000元左右帮我规划一下行程。”第1步感知与理解LLM 短期记忆•短期记忆当前对话刚刚开始短期记忆中只有用户这一条输入。•LLM解析用户输入提取关键要素时间下周末、地点南京、偏好安静、自然风光、预算2000元、任务类型行程规划。LLM意识到这是一个需要多步操作的复杂任务必须调用其他模块。第2步记忆检索长期记忆•长期记忆Agent查询向量数据库看是否有与该用户或类似任务相关的历史记录。•检索结果发现该用户三个月前曾询问过“南京有什么小众景点”当时用户提到“不喜欢人多的地方”。这个信息被召回放入短期记忆供后续参考。第3步规划与决策规划模块 LLM•LLM作为规划器结合用户当前请求和历史偏好LLM开始规划。它采用Plan-and-Execute的思路先生成一个粗粒度的计划查询下周末南京的天气影响户外活动安排。根据天气和“安静自然风光”的偏好推荐合适的景点。规划两天的行程顺序估算交通和门票费用。搜索预算内的住宿人均2000元住宿预算约1000元。整合所有信息生成最终行程建议。•规划模块将这个计划记录在短期记忆中作为后续执行的蓝图。同时规划模块会监控每一步的执行状态。第4步执行与交互工具使用 观察现在Agent开始按计划执行但每一步都不是机械的——它会在每个行动后观察结果动态调整。子任务1查询天气•思考LLM第一步需要天气信息。我可以调用天气API。•行动工具模块调用天气API参数南京下周末。•观察API返回——周六多云14-21℃周日晴15-22℃。非常适合户外活动。•更新短期记忆天气信息被暂存。子任务2推荐景点•思考LLM天气很好可以推荐自然风光类景点。需要从长期记忆中检索南京适合安静自然风光的景点同时参考用户历史偏好喜欢人少的地方。•行动工具模块查询内部知识库或调用景点API条件南京自然风光评价“安静”“人少”。•观察返回候选列表——紫金山探险公园周边步道、中山植物园南园、明孝陵石象路、灵谷寺、清凉山公园、燕子矶公园。•思考LLM需要筛选出真正安静且自然风光好的地方。紫金山区域有很多徒步路线中山植物园植物丰富明孝陵石象路秋季很美但可能人多清凉山公园位于市区相对小巧燕子矶有江景但稍远。结合用户“安静”偏好优先选择紫金山深处的步道和植物园。•更新短期记忆候选景点列表初步筛选紫金山徒步道、中山植物园、灵谷寺被暂存。子任务3规划行程与预算•思考LLM需要安排两天的行程避免奔波。紫金山区域景点集中可以全部安排在钟山风景区内。第一天上午徒步紫金山如从蒋王庙上山经天文台到头陀岭下午逛中山植物园第二天游览灵谷寺和明孝陵石象路尽量早去避开人流。同时要考虑交通和餐饮预算。•行动工具模块调用地图API计算景点间的交通时间和费用调用餐饮API估算当地简餐人均价格。•观察紫金山各景点之间公交车或共享单车方便单次票价2-3元餐饮人均40-70元鸭血粉丝汤、小笼包等。•思考LLM交通和餐饮预算可控。接下来需要找住宿预算剩余约1500元总预算2000 - 交通50 - 餐饮400 1550元可住两晚品质不错的民宿。•行动工具模块调用住宿API搜索南京钟山风景区附近民宿价格700元/晚评价“安静”“环境好”。•观察返回两家候选——A民宿650元/晚近下马坊有庭院B民宿620元/晚近孝陵卫背靠紫金山。•思考LLM两家都符合预算和安静要求。可以给用户两个选择并生成详细行程。•更新短期记忆所有收集到的信息天气、景点、交通、住宿都已齐备。第5步生成最终回答LLM 短期记忆•LLM整合短期记忆中所有中间结果生成一份结构清晰、考虑周全的行程建议。•最终回答Agent输出根据你的需求安静自然风光、预算2000元我为你规划了以下南京周末行程Day1周六上午抵达南京建议入住A民宿650元/晚近下马坊。下午从蒋王庙步道上紫金山沿途森林茂密游客较少到达头陀岭可俯瞰南京城全程约2-3小时。下山后前往中山植物园南园欣赏热带植物和宁静的湖景傍晚在植物园附近品尝地道鸭血粉丝汤人均40元。Day2周日早餐后前往灵谷寺公交202路直达寺内古树参天环境清幽可登灵谷塔远眺。中午在灵谷寺素斋馆用简餐人均50元。下午游览明孝陵石象路从灵谷寺步行或乘景区接驳车这段路在清晨或傍晚人少时格外宁静神道两侧的石兽和秋色或四季常青非常治愈。傍晚返程。预算预估住宿650 餐饮240 交通30 920元远低于2000元预算。如果你更喜欢B民宿620元/晚近孝陵卫背靠山林也可以调整行程。需要我帮你查询具体民宿的空房情况或预订吗第6步学习与更新长期记忆•本次交互的重要信息用户对“安静”“人少”“自然风光”的偏好再次被强化用户本次最终选择了A民宿假设用户后续反馈。•写入长期记忆Agent将“用户→偏好南京紫金山区域的安静徒步路线”“用户→倾向于选择有庭院的民宿”等信息存入向量数据库。下次该用户再提问时Agent能提供更个性化的服务。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】