生成式人工智能攻击的一年：2024

趋势科技最近公布了其关于预期最危险威胁的年度研究数据。生成人工智能的广泛可用性和质量将是网络钓鱼攻击和策略发生巨大变化的主要原因。

趋势科技宣布推出“关键可扩展性”，这是著名年度研究的新版本，该研究分析了安全形势并提出了全年将肆虐的网络威胁。

该报告强调了生成式人工智能 (GenAI) 在网络威胁领域的变革性作用，以及可能即将出现的基于 GenAI 的工具所支持的复杂社会工程和身份盗窃策略的海啸。

LLM，即大型语言模型，是一种先进的人工智能技术，专注于文本理解和分析。这些模型以任何语言出现，对安全都是真实而严重的威胁，因为它们消除了网络钓鱼的所有典型指标，例如格式或语法错误。这使得攻击极难被发现。企业和组织必须超越传统的反网络钓鱼措施，采用现代安全控制措施。先进的防御工具补充了人类检测威胁的能力，并确保抵御当今网络犯罪策略的能力。

GenAI 的广泛可用性和不断提高的质量，再加上生成对抗网络 (GAN) 的使用，将导致网络钓鱼攻击和策略发生巨大变化。这种转变将能够以低成本创建超现实的音频和视频内容，从而引发新一波的商业电子邮件泄露 (BEC) 诈骗、虚拟绑架等行为。

鉴于这些攻击的高利润潜力，网络犯罪分子将被激励开发恶意 GenAI 工具来发起活动或使用合法工具但凭证被盗，将其身份隐藏在 VPN 中。

人工智能模型也可能受到攻击。由于数据集庞大且多样化，GenAI 和 LLM 等通用模型很难受到影响，但基于云的机器学习模型可能是一个有吸引力的目标。他们所依赖的更专业的数据集将通过不同的技术来污染信息，例如从敏感数据的泄露到抵制欺诈过滤器。联网车辆可能成为这些攻击的目标。一般来说，网络犯罪分子可能会破坏 GenAI 模型从中获取信息的数据库。实施此类攻击的成本不到100 美元。

这些趋势反过来可能会导致整个网络安全行业更加严格的监管审查和更多的承诺。

整个网络安全行业必须积极与政府和机构合作，制定与人工智能和安全相关的具体政策和法规。作为趋势科技，我们每天支持意大利公共管理部门和警察部队打击网络犯罪，并重申我们的承诺和我们将致力于促进整个国家系统的安全。

趋势科技对 2024 年的预测，要点：

● 云环境中的安全漏洞将使云原生蠕虫攻击得逞：这些攻击将针对漏洞和错误配置，使用高度自动化，以最小的努力攻击最大数量的容器、帐户和服务。
● 数据将变成武器，并用于瞄准新的基于云的机器学习模型：机器学习模型所基于的更专业的数据集将通过不同的技术来污染信息，例如从敏感数据的泄露到抵制反欺诈过滤器
● 生成式人工智能将使欺诈者能够将社会工程陷阱演变成有针对性的攻击：生成人工智能的广泛可用性和质量的提高，再加上生成对抗网络（GAN）的使用，将导致网络钓鱼攻击和策略发生巨大变化
● 对供应链软件的攻击将敲响警钟，要求加强对供应商 CI/CD 系统的保护：这些攻击可能针对开源软件和身份管理工具，例如手机 SIM 卡，这对于车队管理至关重要
● 网络犯罪分子将瞄准区块链这一仍鲜为人知的狩猎场，以策划勒索计划：操作可能包括修改、覆盖或删除条目以及索要赎金。或者，网络犯罪分子可以尝试通过控制足够数量的节点来加密整个区块链

要深入了解更多详细信息，您可以访问趋势科技进行的分析报告。您还可以在此地址下载 PDF格式的白皮书。

趋势科技是全球网络安全领导者，致力于让世界成为一个更安全的数字信息交换场所。趋势科技在安全、威胁研究方面拥有 30 多年的经验，并致力于持续创新，通过其统一的网络安全平台，为使用云、网络和最多样化设备的超过 500,000 个组织和数百万个人提供保护。 Trend Micro One 统一网络安全平台支持先进的威胁防御、扩展检测和响应（XDR）技术，并与包括AWS、微软和谷歌在内的多个IT生态系统集成，使组织能够更好地理解、沟通和减轻网络风险。趋势科技在 65 个国家/地区拥有 7,000 名员工，帮助组织简化并保护其互联空间。