智能体AI前景光明但挑战重重，企业级系统构建要素有哪些？

智能体AI现状与挑战在多智能体企业系统中哪些技术、设计、标准、开发方法和安全实践正蓬勃发展为此咨询了专家。智能体AI已成为软件行业新宠其自主性不断增强有望提升企业效率。Shopify应用机器学习主管Andrew McNamara称智能体是能代表用户行动的AI系统以Shopify的Sidekick为例智能体系统会持续运行直至任务完成。目前智能体AI开发已涵盖多个业务领域。大型语言模型LLM提供商Anthropic指出AI智能体最常用于软件工程领域约占使用案例一半其次是后台办公自动化、营销、销售、金融和数据分析。ServiceNow的AI平台对外产品管理集团副总裁Heath Ramsey举例如IT事件解决AI智能体可跨系统获取数据、实施修复等。但是以智能体为中心的开发需要全新系统思维避免不确定性和令牌膨胀等陷阱基于LLM的安全漏洞也亟待解决如智能体失调。智能体架构设计需要全新方案AIRRIVED首席执行官Anurag Gurtu表示构建智能体系统需为自主性设计架构智能体需要运行时、大脑、执行能力、记忆和约束机制。尽管智能体AI前景光明但投资回报率难以捉摸。据Alteryx称不到一半组织表示智能体AI实验有可衡量影响不到三分之一组织信任AI做准确决策。那么成功的企业级智能体系统背后要素有哪些呢不妨探索智能体系统共同特征为开发者和架构师提供指导。智能体系统的架构组件智能体系统由关键构建模块组成形成软件架构网络。Akamai云布道师Ari Weil说构建AI智能体像构建神经系统涵盖推理、记忆等约束层。ServiceNow的Ramsey补充智能体系统依赖AI、工作流自动化和企业控制协同作用。推理模型将智能体系统分解为基础组件需从底层模型开始。Jentic企业架构主管Frank Kilcommins表示推理模型是核心它根据用户提示等进行规划。不同推理模型各有优劣Shopify的McNamara称要寻找有智能体特性、能适当调用工具、遵循指令的模型。上下文和数据智能体需要上下文包括公司内部数据等有助于观察和调试其行为。Sonar的Edgar Kussberg指出数据来源多样企业正构建知识库支持语义检索模式也不断涌现。亚马逊的Anusha Kovi表示多数团队会将向量存储与结构化数据结合使用。工具和发现为让智能体行动需对数据库等有读写访问权限。金融服务公司Block的数据和AI主管Jackie Brosamer表示增强智能体功能体现在连接AI与现有系统方式上。行业围绕模型上下文协议MCP形成统一标准MCP注册表应运而生还有许多MCP使用公开案例。定义工作流为常见流程制定清晰工作流文档很有用。ServiceNow的Ramsey表示关键是通过定义好的工作流协调智能体避免混乱。Jentic的Kilcommins提到可用“清晰的、机器可读的功能定义”并以Arazzo规范为例。多智能体编排智能体需相互集成融入反馈循环。AIRRIVED的Gurtu表示大规模应用中多智能体系统通常必要一般由专业智能体团队组成。这需要连接机制亚马逊的Kovi说核心是编排层常见编排组件有多种开放标准和协议对智能体协作也很重要。安全和授权鉴于LLM易产生幻觉安全是构建智能体系统重要因素。Gurtu表示保障的是会行动的软件决策可能导致控制失败。Kilkommins建议明确权限避免权限升级和数据泄露需采用细致安全方法。Kovi补充智能体运行时决定查询内容和调用工具即时授权很重要约束机制应体现在政策和配置中。人工检查点即使有认证和授权机制敏感操作仍需人工审批。Shopify默认“设计中融入人工干预”设置审批关卡防止对生产系统自主更改商家可审核AI内容。其他公司在金融交易方面也有类似做法Block的Brosamer提到涉及生产系统操作需人工检查点用户确认是Cash App内智能体Moneybot关键要素。评估能力构建智能体系统需大量前期测试评估结果是否符合预期。例如Shopify部署前会严格评估智能体输出采用人工测试和评判器进行用户模拟。McNamara表示评判器评估结果与人类评估者可靠匹配后可大规模信任。其他专家也认为评估对企业级智能体系统至关重要。行为可观测性可观测性是智能体系统核心层面需超越传统监控捕捉更高级信号。Sonar的Kussberg表示可观测性要从一开始构建对执行每一步都要有透明度通过观察智能体行为可持续改进系统。上下文优化策略几乎所有专家认为为AI智能体提供少量相关数据远胜数据过载这对避免上下文窗口上限和降低输出质量至关重要。Brosamer表示精心策划的数据管理比数据量重要智能体输出质量取决于上下文质量。在Block工程师维护README文件等帮助智能体获取信息。Sonar的Kussberg补充智能体系统需要在正确时间获取正确数据采用渐进式信息披露。Shopify采用模块化指令交付方式McNamara称即时上下文交付是关键。Kovi指出上下文应包括语义细微差别。架构最佳实践关于智能体系统开发有许多建议。首先并非所有内容都需智能化Kilkommins建议区分自适应和确定性行为将后者编码可提高稳定性。确定智能体流程应用领域需找到可复用用例。Ramsey表示成功部署智能体AI的组织先确定高摩擦流程如员工服务请求等。Gurtu补充智能体有明确业务目标时表现最佳。其他专家认为限制智能体自主性结果更好Kussberg称智能体作为专家表现更好。Shopify扩展工具时设定明确边界选择子智能体架构McNamara建议早期避免多智能体架构构建低级工具并教会系统转换语言。专家还分享其他建议采用开放基础设施可使用适合的模型以API为先良好设计和定义能让企业为AI智能体做准备保持数据同步事件驱动架构可保持数据时效性平衡访问与控制保障安全需进行安全演练等持续改进避免智能体漂移。智能体系统的未来智能体AI开发进展迅速目前系统模式正逐渐形成。专家预计将转向多智能体系统开发推动对复杂编排模式需求依赖开放标准。一些人预测知识工作将变革Block的Brosamer预计到2026年将看到构建智能体“工厂”的框架实验最具挑战性的是优化信息流。未来可能更注重替代云服务和边缘推理减少延迟。Akamai的Weil表示未来AI需要贴近应用智能体要在现实世界行动。总之构建智能体系统复杂相关实践在不断成熟。要实现大规模、可持续发展需结合新技术、设计思维和安全约束机制赋予智能体自主性。未来充满可能性但智能设计决定项目成败。关键词生成式AI、人工智能、软件开发、开发方法