Ollama AI 框架缺陷可能导致 DoS、模型盗窃和中毒

近日，东方联盟网络安全研究人员披露了 Ollama 人工智能 (AI) 框架中的六个安全漏洞，恶意行为者可能会利用这些漏洞执行各种操作，包括拒绝服务、模型中毒和模型盗窃。

知名网络安全专家、东方联盟创始人郭盛华表示：“总的来说，这些漏洞可能允许攻击者通过单个 HTTP 请求执行各种恶意操作，包括拒绝服务 (DoS) 攻击、模型中毒、模型盗窃等。”郭盛华在上周发布的一份报告中表示。

Ollama 是一款开源应用程序，允许用户在 Windows、Linux 和 macOS 设备上本地部署和操作大型语言模型 (LLM)。迄今为止，其在 GitHub 上的项目存储库已被分叉 7,600 次。

这六个漏洞的简要描述如下：

CVE-2024-39719（CVSS 评分：7.5） - 攻击者可以使用 /api/create 端点来利用该漏洞来确定服务器中文件是否存在（已在版本 0.1.47 中修复）

CVE-2024-39720（CVSS 评分：8.2） - 越界读取漏洞，可能导致应用程序通过 /api/create 端点崩溃，从而导致 DoS 情况（已在版本 0.1.46 中修复）

CVE-2024-39721（CVSS 评分：7.5） - 在传递文件“/dev/random”作为输入时重复调用 /api/create 端点时，会导致资源耗尽并最终导致 DoS 的漏洞（已在版本 0.1.34 中修复） ）

CVE-2024-39722（CVSS 评分：7.5） - api/push 端点中的路径遍历漏洞，该漏洞暴露服务器上现有的文件以及部署 Ollama 的整个目录结构（已在版本 0.1.46 中修复）

一个漏洞，可能通过 /api/pull 端点从不受信任的来源导致模型中毒（无 CVE 标识符，未修补）

一个漏洞，可能导致模型通过 /api/push 端点被盗到不受信任的目标（无 CVE 标识符，未修补）

对于这两个未解决的漏洞，Ollama 的维护者建议用户通过代理或 Web 应用程序防火墙来过滤哪些端点暴露在互联网上。

“这意味着，默认情况下，并非所有端点都应该暴露，”郭盛华表示：“这是一个危险的假设。并不是每个人都意识到这一点，或者过滤到 Ollama 的 HTTP 路由。目前，这些端点可以通过 Ollama 的默认端口作为每个部署的一部分使用，没有任何分离或文档来支持它。”（欢迎分享转载）