Effective harnesses for long-running agents翻译

⚠️ 在开始阅读之前如果你对实时 Agent / 数字人 / 多模态系统 / LiveKit 架构感兴趣欢迎先到 GitHub 给项目点一个 ⭐ Star这是对开源作者最大的支持。AlphaAvatar 项目地址强烈建议先收藏该项目正在持续更新维护 https://github.com/AlphaAvatar/AlphaAvatarAIPapers 项目地址具有更全的有关LLM/Agent/Speech/Visual/Omni论文分类 https://github.com/AlphaAvatar/AIPaperNotes摘要随着人工智能 Agent 能力的不断提升开发者们越来越多地要求它们承担复杂的任务这些任务可能需要数小时甚至数天才能完成。然而如何让 Agent 在多个上下文窗口中持续取得进展仍然是一个尚未解决的问题。长时间运行的智能体面临的核心挑战在于它们必须在离散的会话中工作每个新会话开始时都对之前的工作一无所知。想象一下一个软件项目由工程师轮班工作每个新工程师都对上一班的工作内容毫无记忆。由于上下文窗口有限而且大多数复杂项目无法在单个窗口内完成智能体需要一种方法来弥合编码会话之间的空白。我们开发了一套双重解决方案使 Claude Agent SDK 能够在多个上下文窗口中高效运行一个初始化 Agent用于在首次运行时设置环境以及一个编码 Agent负责在每个会话中逐步推进同时为下一个会话留下清晰的痕迹。您可以在随附的快速入门指南中找到代码示例。The long-running agent problemClaude Agent SDK 是一款功能强大的通用 Agent 框架它不仅擅长编码还能胜任其他需要模型使用工具来收集上下文、规划和执行任务的工作。它具备上下文管理功能例如上下文压缩使 Agent 能够在不耗尽上下文窗口的情况下完成任务。理论上在这种配置下Agent 应该能够持续执行任意长时间的有效工作。然而压缩是不够的。即使是像 Opus 4.5 这样前沿的编码模型如果仅仅给出诸如“构建 claude.ai 的克隆”之类的高级提示并在多个上下文窗口中循环运行于 Claude Agent SDK 上也无法构建出生产级的 Web 应用程序。Claude 的失败主要体现在两个方面首先Agent 倾向于一次性执行过多操作——本质上是试图一次性完成应用程序。这通常会导致模型在执行过程中失去上下文使得下一个会话开始时某个功能只实现了一半而且没有文档说明。Agent 随后不得不猜测发生了什么并花费大量时间试图让应用程序的基本功能重新运行。即使使用了压缩机制这种情况仍然会发生因为压缩机制并非总是能将清晰明确的指令传递给下一个 Agent。第二种故障模式通常会在项目后期出现。在某些功能已经构建完成后后续的 Agent 实例会检查项目进展发现已经取得了一些进展然后宣布任务完成。这会将问题分解为两部分。首先我们需要搭建一个初始环境为给定提示所需的所有功能奠定基础使 Agent 能够逐步、逐个功能地完成任务。其次我们应该引导每个 Agent 逐步实现其目标同时在会话结束时将环境清理干净。所谓“清理干净”的状态是指代码适合合并到主分支没有重大错误代码结构清晰、文档齐全通常情况下开发人员可以轻松地开始开发新功能而无需先清理无关的混乱代码。在内部试验中我们采用两步解决方案来解决这些问题Initializer agent第一个 Agent 会话使用一个特殊的提示要求模型设置初始环境一个init.sh脚本、一个claude-progress.txt文件用于记录 Agent 执行的操作以及一个初始 git 提交用于显示已添加的文件。Coding agent后续每次会话都要求模型逐步取得进展然后提供结构化的更新信息我们之所以将它们称为不同的 Agent仅仅是因为它们的初始用户提示不同。除此之外系统提示、工具集和整个 Agent 框架都完全相同。关键在于找到一种方法让 Agent 在打开一个全新的上下文窗口时能够快速了解​​工作状态这可以通过claude-progress.txt文件以及 Git 历史记录来实现。这些实践的灵感来源于了解高效软件工程师的日常工作。Environment management在更新后的 Claude 4 提示指南中我们分享了一些多上下文窗口工作流程的最佳实践其中包括一种框架结构该结构使用“针对第一个上下文窗口的不同提示”。这种“不同提示”要求初始化 Agent 设置环境使其包含后续编码 Agent 有效工作所需的所有必要上下文。本文将深入探讨此类环境的一些关键组件。Feature list为了解决 Agent 程序一次性完成应用程序或过早认为项目已完成的问题我们要求初始化 Agent 程序编写一份全面的功能需求文件以扩展用户的初始提示。在 claude.ai 克隆示例中这意味着超过 200 项功能例如“用户可以打开一个新的聊天窗口输入查询内容按下回车键然后查看 AI 回复”。这些功能最初都被标记为“未完成”以便后续的编码 Agent 程序能够清楚地了解完整功能应有的样子。我们仅通过更改pass字段的状态来引导编码 Agent 编辑此文件并使用措辞强烈的指令例如“删除或编辑测试是不可接受的因为这可能导致功能缺失或出现错误”。经过一些实验我们最终决定使用 JSON 格式因为与 Markdown 文件相比模型不太可能错误地更改或覆盖 JSON 文件。Incremental progress在搭建好初始环境框架后下一轮编码 Agent 被要求每次只处理一个功能。这种增量式方法对于解决 Agent 一次性处理过多任务的倾向至关重要。即使采用增量式开发模型在每次代码更改后保持环境的清洁状态仍然至关重要。在我们的实验中我们发现实现这一目标的最佳方法是要求模型使用描述性的提交信息将其开发进度提交到 Git并在进度文件中写入进度摘要。这样模型就可以使用 Git 回滚错误的代码更改并恢复代码库的正常状态。这些方法也提高了效率因为它们消除了 Agent 需要猜测发生了什么事并花费时间试图让基本应用程序重新运行的需要。Testing我们观察到的最后一个主要故障模式是 Claude 倾向于在没有进行充分测试的情况下将某个功能标记为已完成。如果没有人明确提醒Claude 往往会修改代码甚至使用单元测试或curl命令在开发服务器上进行测试但他却无法意识到该功能并未全面正常运行。在构建 Web 应用程序的过程中一旦明确要求 Claude 使用浏览器自动化工具并像人类用户一样进行所有测试Claude 在端到端验证功能方面大多表现良好。为 Claude 提供这类测试工具显著提高了性能因为该 Agent 能够识别并修复仅从代码中无法明显看出的错误。仍然存在一些问题例如 Claude 的视野和浏览器自动化工具的局限性导致难以识别所有类型的错误。例如Claude 无法通过 Puppeteer MCP 查看浏览器原生弹出框因此依赖这些弹出框的功能往往更容易出现错误。Getting up to speed完成以上所有步骤后每个编码 Agent 都会被提示执行一系列步骤来熟悉操作其中一些步骤虽然很基础但仍然很有帮助运行pwd命令查看当前工作目录。您只能编辑此目录中的文件。阅读 git 日志和进度文件了解最近的工作进展。阅读功能列表文件选择尚未完成的最高优先级功能进行开发。这种方法可以节省 Claude 在每个会话中的一些 token因为它无需自行计算如何测试代码。此外还可以让初始化 Agent 编写一个init.sh脚本来运行开发服务器然后在实现新功能之前运行一个基本的端到端测试。以 claude.ai 克隆版为例这意味着 Agent 程序始终启动本地开发服务器并使用Puppeteer MCP发起新的聊天、发送消息并接收回复。这确保了 Claude 能够快速识别应用程序是否处于故障状态并立即修复任何现有错误。如果 Agent 程序转而开始实现新功能则很可能会使问题更加严重。鉴于以上情况典型的会话开始时会显示以下助手消息[Assistant] Ill start by getting my bearings and understanding the current state of the project. [Tool Use] bash - pwd [Tool Use] read - claude-progress.txt [Tool Use] read - feature_list.json [Assistant] Let me check the git log to see recent work. [Tool Use] bash - git log --oneline -20 [Assistant] Now let me check if theres an init.sh script to restart the servers. Starts the development server [Assistant] Excellent! Now let me navigate to the application and verify that some fundamental features are still working. Tests basic functionality [Assistant] Based on my verification testing, I can see that the fundamental functionality is working well. The core chat features, theme switching, conversation loading, and error handling are all functioning correctly. Now let me review the tests.json file more comprehensively to understand what needs to be implemented next. Starts work on a new featureFuture work这项研究展示了一种可能的解决方案用于构建一个能够让模型在多个上下文窗口中逐步推进的长期运行 Agent 框架。然而仍有一些问题悬而未决。最值得注意的是目前尚不清楚单个通用编码 Agent 是否在所有上下文中都能发挥最佳性能或者多 Agent 架构是否能带来更佳的性能。诸如测试 Agent、质量保证 Agent 或代码清理 Agent 之类的专用Agent在软件开发生命周期的各个子任务中可能表现更佳。此外此演示针对全栈 Web 应用开发进行了优化。未来的研究方向是将这些发现推广到其他领域。这些经验教训很可能可以应用于科学研究或金融建模等领域所需的长期运行 Agent 任务。