代理人工智能如何应对现代威胁的速度和数量

Seven AI首席执行官 Lior Div 讨论了代理 AI 的概念及其在网络安全中的应用。他解释了代理 AI 与传统自动化安全系统的区别，即代理 AI 具有更大的自主性和决策能力。

Div 强调，通过实时处理大量警报，代理 AI 特别适合对抗现代 AI 驱动的威胁，例如 AI 生成的网络钓鱼或恶意软件。

您如何区分代理安全与传统的自动化网络安全解决方案？它在自主性和决策方面有何不同？这种模式旨在填补传统安全方法的哪些空白？

传统的自动化通常基于预定义的“如果-那么”规则，其中编写代码的人必须提前预测所有可能的结果和决策。这在静态环境中有效，但网络安全绝不是静态的。例如，如果电子邮件包含 URL、文本和文件附件，则可以对自动化系统进行编程以调查这些元素。这种级别的自动化可以很好地用于初步分析和丰富。

然而，当需要进行更深入的调查时，挑战就来了。如果系统识别出恶意文件，它只能遵循预定义的路径。传统的自动化到此为止，将下一步留给人类分析师。

另一方面，Agentic AI 超越了预定义的路径。如果 AI 检测到恶意文件，它不会就此停止；它可以动态启动进一步的操作（例如启动端点检测和响应 (EDR) 调查），而无需预先编写指令。它能够根据不断变化的情况做出实时决策，就像人类分析师一样，但不受静态代码的限制。

我经常将其比作使用“如果-那么”规则教自动驾驶汽车如何驾驶。在受控环境中，您可能设法编写有效的代码。但是一旦汽车驶上繁忙的街道，变量不断变化，这样的系统就会失效。传统的网络安全自动化也是如此——它无法适应现实世界网络威胁的复杂性。然而，Agentic AI 可以动态响应意外情况，使其更有能力应对当今复杂的网络环境。

随着人工智能发起的攻击（例如人工智能编写的网络钓鱼或恶意软件）的兴起，代理安全如何有效应对这些威胁？有没有具体的例子表明它比传统防御措施更有效？

我们今天面临的主要挑战之一是攻击数量之巨。黑客可以使用人工智能生成无数的网络钓鱼电子邮件或恶意软件变种，远远超出了人类分析师手动处理的能力。Agentic AI 可以处理这种规模，因为它可以实时审查每条警报和每项潜在威胁，而不会感到疲劳或疏忽。

另一个关键因素是速度。随着攻击数量的增加，我们做出反应的时间会减少。与人类分析师不同，人工智能系统可以像最重要的调查一样审查每一条警报。虽然人类可能会因数量太多而不知所措并犯错，但人工智能系统始终保持一致和快速，处理信息的速度比任何人都快得多。

在传统的安全方法中，我们经常尝试减少警报数量，只关注优先级最高的警报。Agentic AI 改变了游戏规则——它可以将每条警报、每封电子邮件视为重要警报，调查所有可能性，并在很短的时间内完成。这种不成比例的权力意味着我们可以彻底调查潜在威胁，而不会妥协，从而实现更全面的安全覆盖。

代理安全如何应对现代网络威胁的规模和速度？机器速度在管理大量警报的能力中起着什么作用？

Agentic AI 擅长并行处理 - 它可以同时处理多个警报，并深入分析和调查每个警报。但这还有另一层含义：情境感知。AI 不会只是强行处理警报。随着时间的推移，它会了解其所保护的特定环境的细微差别，了解组织的独特背景。

例如，如果 AI 遇到一个之前在常规网络扫描中被标记在内部数据库中的 IP 地址，它可以关联该信息并将警报视为良性警报。人类分析师很难在大量警报中记住这些细节。然而，AI 可以毫不费力地处理这种情况，从而专注于真正的威胁。

这种关联信息、从过去数据中学习以及适应特定环境的能力使代理 AI 在管理大量警报时具有显著优势。此外，AI 不会忘记，并且可以将其学习应用于其他地方。通过处理一位客户的一种情况，其学习可以应用于其他每一位客户。

您能否分享一个真实案例，其中代理安全显著缩短了对复杂网络威胁的响应时间？从该实例中可以学到什么教训？

我们已经看到代理 AI 在速度和彻底性方面的表现优于人类分析师。与人类分析师相比，系统进行的每项调查都快得多——快了几个数量级。但这不仅仅关乎速度；还关乎调查的深度。代理 AI 可以跟踪线索并比手动方法更彻底地分析数据。

其中一个关键点是，尽管人们仍然不太相信完全自主的系统能够做出关键响应，但代理型人工智能可以逐步解释其正在做的事情。这让人类分析师能够在采取行动之前对其进行审查和批准，从而形成了一种混合模式，其中人工智能承担了繁重的工作，而人类则保留了监督权。

随着代理人工智能获得更多自主权，应该考虑哪些道德问题，特别是在没有人类监督的情况下做出的决策？

这里的关键点是，网络安全中的代理AI 系统不是通用 AI。它们不是科幻小说中的天网之类的系统，而是高度专业化的代理，旨在在网络安全环境中执行特定任务。根据设计，它们无法做出超出其职责范围的决策。

事实上，代理人工智能实际上可以增强隐私保护，因为它不需要人类来审查敏感数据，如浏览历史或电子邮件内容。人工智能只专注于确定某事是否构成威胁，而不关心所涉及的个人信息。在某些方面，与传统方法相比，这可以带来更大的隐私，因为分析师可能会无意中访问个人数据。

另一个重要的考虑因素是透明度。我们的代理 AI 系统不是黑匣子——它们提供清晰的审计线索，显示使用了哪些工具、如何做出决策以及采取了哪些行动。这种可审计性确保人类可以审查系统的操作、了解其决策并保持控制。

随着人工智能的不断发展，代理人工智能在网络安全领域具有巨大的变革潜力。速度、规模和情境理解的结合使其远远优于传统自动化。尽管这项技术非常强大，但我们致力于确保其在完全透明和道德监督下运行，以便组织可以信任他们所依赖的系统来保护他们。