大模型---ReAct

目录1.ReAct的定义2.ReAct的基本形式3.ReAct与普通CoT、Toolformer的区别4.ReAct与Plan-and-Solve5.ReAct的局限深入学习会继续补充~1.ReAct的定义ReAct是Agent编排(Orchestration)的逻辑循环(Reasoning Loop)中最经典的实现方式编排是Agent的“神经系统”定义了思考、行动、观察和记忆的工作流程与逻辑循环。它决定了整个系统如何运作主要包括指令(Instructions)通过自然语言为Agent设定清晰的目标、行为准则和分步行动计划。把复杂任务拆解成清晰的步骤能极大提升Agent的可靠性。逻辑循环(Reasoning Loop)Agent的核心运行模式即“思考-行动-观察”(ReAct)循环。它不断重复这个过程分析当前状态(思考)--调用一个工具(行动)--获取结果(观察)直到任务完成。流程模式(Workflow Patterns)对于复杂任务可以设计不同的协作模式。单Agent模式一个Agent配备多个工具独立处理一个完整的任务流程。管理者模式(Manager Pattern)一个中央管理者Agent负责接收任务分解后分发给不同的专家Agent执行。去中心化模式(Decentralized Pattern)Agent之间通过“移交”机制将任务传递给最合适的下一个Agent。原论文把 ReAct 定义为一种让语言模型交错生成 reasoning traces推理轨迹和 task-specific actions任务动作的范式。作者指出推理可以帮助模型制定、跟踪和更新计划也能处理异常行动则让模型接入外部知识源或环境获取额外信息。原论文如下[2210.03629] ReAct: Synergizing Reasoning and Acting in Language ModelsReAct 要解决的是早期两条路线各自的短板。一条路线是Chain-of-ThoughtCoT式推理模型会一步步“想”但如果它推理过程中依赖的事实不对就可能一路错下去出现幻觉或错误传播。另一条路线是“只做动作”的方法模型可以检索、点击、执行操作但缺少明确的中间推理容易盲目试错也不够可解释。ReAct的出发点就是把这两者结合起来。原论文明确写到ReAct相比只推理或只行动的方法能在语言推理和决策任务上带来协同收益并提升可解释性与可信度。为什么两者结合会更强① 首先推理帮助行动如果模型先明确“我现在缺什么信息”“下一步该查什么”动作会更有方向感不容易乱用工具。论文直接说reasoning traces帮助模型诱导、跟踪和更新action plans并处理异常② 行动帮助推理如果模型只在自己脑子里推理它可能会用错事实而动作让它能去查Wikipedia、知识库、网页或其他环境从外部拿回信息减少“闭门造车”。ReAct经常被当作workflow 走向 agent 的桥梁因为它已经不只是静态流程而是一个带反馈循环的决策机制。2.ReAct的基本形式ReAct的典型运行模式可以写成一个循环Thought--Action--Observation--Thought--Action--Observation ... -- Final Answer。其中Thought模型先写出当前的想法、计划、判断。Action模型根据当前判断调用某个动作或工具。Observation环境返回结果模型把这个结果当成新信息。然后模型再继续下一轮Thought。这和普通单轮问答最大的不同是模型不是一上来直接给最终答案而是会先想、再查、再根据查到的结果继续想。也就是说ReAct让模型用自然语言推理来引导行动同时用行动结果来修正后续推理。3.ReAct与普通CoT、Toolformer的区别CoT的重点是让模型把思考过程写出来ReAct的重点是让模型把思考过程和外部动作交替写出来。如果任务只需要纯内部推理比如一道数学题ReAct 不一定总比 CoT 更合适但如果任务需要外部信息、环境交互、网页搜索、工具使用ReAct 往往更自然。ReAct与Toolformer都和工具使用有关但关注点不一样。Toolformer更像是在研究模型如何学会“什么时候调用工具、调什么工具、传什么参数”。ReAct更像是在研究模型如何在多步任务里把“思考--行动--观察”组织成一个循环。也就是说Toolformer偏“工具调用能力学习”ReAct偏“任务执行过程组织”。4.ReAct与Plan-and-SolvePlan-and-Solve是先计划再求解。它由两个部分组成先devise a plan把整个任务分成更小的 subtasks再按照这个plan去完成这些subtasks。它提出的直接动机是改进zero-shot CoT里的missing-step errors也就是“中间步骤漏掉了”。它本质上还是在模型内部完成推理不依赖外部工具或环境。而ReAct是推理和行动交替。其能让LLM交错生成推理轨迹和任务特定动作。这里的动作不是单纯思考下一步而是可以去访问外部知识源或环境如Wikipedia API、交互环境等。模型利用观察结果继续推理。两者都可以出现在 Agent 的编排中但 ReAct 更像 Agent 的执行循环Plan-and-Solve 更像 Agent 的规划策略。例如先用 Plan-and-Solve 做高层任务分解再用 ReAct 在每个子任务里边推理边行动。比如一个 agent 要完成“帮我写一份行业调研报告”。上层先用 Plan-and-Solve先把任务拆成1.收集行业背景2.找主要竞争对手3.比较产品特点4.总结趋势5.写报告。下层每一步用ReAct比如在“找竞争对手”这一步agent采用ReActThought先查头部公司名单--Action调用搜索工具--Observation拿到搜索结果--Thought发现还缺国内厂商--Action继续搜索。也就是PS 负责“先规划”ReAct 负责“边执行边调整”。但是对于很多中小型agent任务只靠ReAct就够了调用工具想一下下一步看结果再继续这时没有显式“总计划”而是边做边决定。两者关系可以理解为递进关系Plan-and-Solve先把“多步推理”组织好ReAct在“多步推理”的基础上再把“外部动作/观察”纳入循环。两者适用场景不同PS更适合数学推理、逻辑推理、多步问答这类主要靠内部规划和分步求解的任务。ReAct更适合知识密集型问答、事实核查、交互式决策、工具使用这类需要外部检索或环境反馈的任务。5.ReAct的局限1它更依赖工具和环境质量。如果搜索工具不准、检索结果差、环境反馈混乱ReAct也会沿着错误观察继续推理。2步骤变多成本和延迟会上升。因为它不是一次完成而是多轮循环想一下、做一下、再想一下。LangChain文档也强调agent会在循环中持续运行直到停止条件满足。3显式thought轨迹在产品环境里不一定总该暴露。研究里这样做有助于解释和调试但生产系统中常常需要把内部推理和用户可见输出分开。