Prompt Fuzzer：用于增强 GenAI 应用程序的开源工具

 

 

Prompt Fuzzer 是一个开源工具，可以评估GenAI应用程序的系统提示针对基于动态 LLM 的威胁的安全性。

Prompt Fuzzer 功能：
1. 模拟十几种类型的 GenAI 攻击。
2. 该工具会根据系统提示自动进行情境化，针对与 GenAI 应用程序相关的特定主题或行业定制攻击。
3. 它具有交互性并且用户友好。
4. 用户可以根据需要重复该过程多次以强化他们的系统提示，并且会看到随着系统提示变得更安全、更具弹性，他们的安全分数如何增加。
5. Prompt Fuzzer 支持 20 个 LLM 提供商。

未来计划和下载：我们将继续不断添加新的攻击，以跟上 GenAI 风险的步伐，并且我们计划进行更多整合。

https://github.com/prompt-security/ps-fuzz

Prompt Fuzzer 可在GitHub上免费获取。请注意，使用 Prompt Fuzzer 会导致令牌的消耗。