人工智能对网络安全有何影响？

人工智能网络安全在短期、中期和长期如何变化

当今数字时代网络安全的重要性

在谈论人工智能在网络安全中的作用时，必须首先考虑短期影响，因为它们是最明显的，而且它是一个未知的领域，需要超越直接炒作的能力。

因此，人工智能被认为在社交媒体平台上的大规模虚假信息活动中发挥着至关重要的作用。

这些活动可能发生在地缘政治冲突和选举等重大全球事件之前、期间和之后，这挑战了人们对核实事实的能力的信心。

尽管缺乏确凿的证据，但开源情报表明，在虚假信息活动中使用人工智能的趋势日益明显。

布鲁金斯学会技术创新中心高级研究员达雷尔·韦斯特 (Darrell West)最近对这一用例的潜在影响发出了警告。

他表示，下次选举中将会出现虚假信息海啸；基本上，任何人都可以使用人工智能来创建虚假视频和音频，而且几乎无法区分真假。

深度造假 (Deepfakes) 的诞生也呼应了这一点。

应对深度造假困境：人工智能时代的政府监管

虽然深度造假与传统网络安全没有直接联系，但它已开始与社会工程攻击相结合。

这种技术与操纵的交叉引起了安全专业人士的关注，特别是随着算法变得越来越完善以绕过无法阻止最复杂攻击的传统防御措施。

中期影响：更有效的工具

从中期来看，预计威胁行为者将利用人工智能进一步完善他们的工具。

例如，他们可以训练人工智能模型来识别公司暴露在互联网上的资产，并运行各自的服务，以帮助发现潜在存在的漏洞。

预计威胁的复杂性将继续增加，网络犯罪分子越来越多地使用生成式人工智能来提高他们的能力。

需要注意的是，这些技术（例如语言模型）目前用于支持现有操作，但尚未完全用于创建恶意软件或进行大规模恶意活动。

然而，这些技术很可能在不久的将来被用来改进攻击，例如优化和完善鱼叉式网络钓鱼电子邮件的文本。

由于使用了正确的地理参考、行话和语法准确的文本，这可能会变得更有说服力。

此外，预计近期可能会使用生成式人工智能进行侦察，收集有关特定受害者的信息，进行预妥协。

移动视野：人工智能的响应式和基于风险的监管框架

例如网络区块范围、开放服务/端口，并协助进行漏洞扫描。

长期影响：人工智能驱动的安全副驾驶

展望未来，预计威胁行为者将开发自己的人工智能安全副驾驶。

这些副驾驶可以在攻击链的不同阶段为网络犯罪分子提供帮助，例如受感染环境中的横向移动和特权升级。

虽然这一概念尚未完全实现，但地下论坛和社交网络越来越多地关注和讨论攻击者如何利用人工智能技术。

人工智能和网络安全的未来

综上所述，人工智能将在网络安全领域发挥越来越重要的作用。

随着技术的发展，安全专业人员和安全运营（SOC）人员处理其角色的方式可能会发生改变。

转变安全思维：从网络防御到应用程序防御

虽然在短期内我们可以预期它将其用于虚假信息和深度伪造活动，但中期发展将侧重于完善整个攻击链的工具，例如用于侦察和鱼叉式网络钓鱼。

从长远来看，我们可能会看到人工智能驱动的安全副驾驶的出现，使危险活动变得更加有效。

所有这些都凸显了安全专业人员需要保持警惕，适应不断变化的威胁形势。

随着网络安全行业的不断发展，人工智能显然将成为防御和进攻策略的驱动力。

通过人工智能军事演习一窥未来战场

企业和安全领导者的任务是随时了解情况、不断调整防御措施，并做好有效应对人工智能威胁的准备。