智能体泛滥风险增加，智能体管理系统能否解决难题？

1. ZDNET核心观点智能体的数量持续增长导致其泛滥的风险也在增加。专业人士必须考虑使用智能体管理系统。这些系统有助于管理智能体泛滥问题但也要警惕其中的挑战。根据Statista的数据全球企业目前拥有2860万个活跃智能体预计到2030年这一数字将超过22亿。此外排名前30的AI智能体具备多种功能和自主性。2. 专题智能体AI——提升效率、赋能员工、变革成果智能体AI正在改变所有行业的工作性质。本专题揭示了企业如何在各个部门实施和管理智能体AI剖析了其在关键指标上的投资回报率并深入探讨了实现智能体AI投资回报最大化的最佳实践。立即阅读。随着智能体领域的不断发展需要有专业人员来进行管理。那么AI智能体泛滥的问题能否得到解决呢一些供应商正在尝试应对这一问题由此催生了一个新的技术类别——智能体管理系统其任务是管理AI智能体网络。3. 构建平台智能体管理平台本质上就像是AI智能体的数字人力资源部门专家认为现在正是推出此类平台的好时机。在管理框架之外运行的智能体类似于IT领域的影子IT。雪城大学教授兼帕尔默集团首席执行官谢利·帕尔默指出“它在正常运行时没问题但一旦出问题你就没有审计跟踪、版本控制和治理机制可供依靠。”市场上的智能体管理解决方案包括Google Vertex AI Agent Builder、Amazon Bedrock Agents、Microsoft 365 Copilot、Decagon AI和Sierra AI等它们具有多种用途从系统编排到多智能体自动化都有涉及。此外关于智能体编码末日存在5大误区。CrowdStrike首席工程师迪普塔梅·桑亚尔表示这些平台对智能体自动化的未来至关重要。成功的关键在于“将智能体视为基础设施而非功能特性”。智能体并非一次性构建的产物。桑亚尔说“问题在于最终会出现数十个智能体它们没有共享的上下文模型、一致的治理机制和可复用的模式。一个合适的管理平台能提供可组合的原语、多租户隔离、跨大语言模型LLM供应商的模型路由以及对智能体实际行为的可观测性。”4. 应对泛滥问题随着数以百万计的智能体不断涌现它们参与从销售到软件开发等各种工作最大的障碍是它们都希望访问相同的数据。GitLab首席信息官马努·纳拉扬表示“这带来了AI治理方面的挑战。如果你没有精心构建AI堆栈最终可能会有数十家供应商及其智能体掌握关键数据。”得克萨斯AM大学软件工程师亚什·维杰·帕蒂尔指出这种情况会导致智能体泛滥即“一个由管理松散的智能体组成的碎片化生态系统行为不一致、功能重复且所有权不明确”。他还表示“如果没有强大的治理机制这种泛滥会导致运营效率低下和风险增加。”ATT首席数据和AI工程师莫妮卡·马利克表示许多供应商和内部团队为特定用例构建智能体解决方案但往往缺乏共享的身份模型、生命周期策略或风险框架。“这种做法会导致重复工作、行为不一致、隐藏成本和安全风险。问题不在于智能体太少而在于太多未得到管理的智能体。”Info - Tech研究集团首席研究总监布莱恩·杰克逊表示消费者选项如OpenClaw的流行加剧了智能体网络的复杂性。“可以肯定的是一些员工会尝试用这些工具自动化他们的工作任务。这会导致难以跟踪企业环境中部署的所有智能体。虽然不同的管理平台声称能够发现系统中部署的智能体但实际上它们受限于身份管理层。”杰克逊表示智能体管理平台具有可观测性等优势让你了解正在使用哪些智能体以及它们在做什么。此外这些平台通过“使用中央策略为智能体的行为设定边界使其与企业目标保持一致”来实现治理。他补充说最终这些系统能够实现价值因为它们“长期监控性能确保智能体的成本和产出符合预期并为工作增加价值”。ATT的马利克表示此类管理平台的作用是“为企业如何部署、监控、保障和提升智能体提供控制层”。“这些平台的主要优势不仅在于编排还在于运营规范了解智能体在做什么、数据来源、决策方式以及何时需要人工监督。”5. 了解市场趋势然而杰克逊观察到供应商之间在智能体管理领域的竞争非常激烈。他说“这将是一个战略阵地企业将在此构建工作流程并与生态系统建立更紧密的联系。”因此杰克逊继续说道许多智能体的实施将与不同业务线中熟悉的记录系统相关联。“最终会出现这样的情况营销部门通过曾经的CRM平台管理智能体而IT部门则从资产管理和可观测性平台管理智能体。”得克萨斯AM大学的帕蒂尔表示随着智能体变得更加自主“明确界定边界、监控行为和维护信任将至关重要”。“简而言之智能体管理平台具有强大的作用但只有与严格的治理和周全的采用策略相结合时才能发挥出来。”纳拉扬表示当智能体同时在多个相互关联的系统中运行时消除复杂性是一项挑战。他说“通过智能体管理平台进行整合会有所帮助。它们建立了上下文、权限模型、安全控制和数据边界从而简化大规模的智能体编排。将这种平台与中心辐射型模型相结合有助于在不降低采用速度的情况下更有针对性地构建AI堆栈。”6. 实施技术马利克表示智能体管理平台面临的另一个挑战是“它们比大多数云服务选项更难更改因为它们会影响工作流程、集成、权限和运营模式”。这就是为什么采用智能体需要企业层面的决策。从工程、安全、法律、数据治理到业务所有者等所有利益相关部门都需要参与智能体管理平台的决策。马利克说“主要障碍是避免分散式采用。企业应将智能体平台视为长期的运营基础设施而不仅仅是购买另一种AI工具。”帕蒂尔表示智能体平台的决策很难逆转因为它们深深嵌入工作流程、数据管道和业务逻辑中。“应根据互操作性、可扩展性、供应商锁定风险和对开放标准的支持来评估平台。至关重要的是决策不应仅由工程部门负责安全、数据和业务领导等跨职能利益相关者必须参与其中。”此外杰克逊表示专业人士应该记住从传统软件平台中提取“数据和工作流程”已经很困难。“在此基础上添加AI层意味着集成会更深入地融入平台。尝试迁移智能体管理系统就像进行脑部移植一样困难。”因此企业在转向智能体管理平台时应优先考虑灵活性。杰克逊说“评估你对在哪些平台上下注感到放心而不是试图在自托管平台上设置。鉴于智能体工作负载的消费成本不可预测构建一个利用内部基础设施的系统并避免将业务流程与计量收费或基于消费的定价挂钩可能是明智之举。”桑亚尔表示专业人士还应将智能体管理平台的开发和实施“视为数据库选择而不是SaaS工具评估”。“从一开始就让平台工程、安全和法律部门参与进来而不是在试点成功之后。此外决策不应由单一业务部门的负责人做出平台工程、安全以及负责身份和访问模型的人员都应参与决策。”7. 人工智能相关内容- 我尝试了一款本地、开源且完全免费的Claude Code替代工具——它的工作原理- 如何立即从Windows 11中移除Copilot AI- AI正在悄然自我毒害推动模型走向崩溃——但有解决办法- 如何识别AI图像6个表明其为假图像的迹象——以及我常用的免费检测工具