套娃式工具！用 AI 识别 AI ？#AI classifier

2022年以来，市面上就出现了不少 AI 生成文本的工具，尤其是 OpenAI 推出的 ChatGPT ，不仅能够协助完成撰写邮件、视频脚本、文案、翻译、代码等任务，还能通过学习和理解人类的语言来进行对话，并根据聊天的上下文进行互动。

图源：OpenAI

但随之而来的争议也让人们开始怀疑 AI 生成文本的存在是否会出现一些伦理问题。

根据一项调查显示，截止 2023 年 1 月，美国 89% 的大学生都是用 ChatGPT 做作业，甚至有大学明令禁止，不允许再使用此类工具！

为了解决这一问题， OpenAI 近期推出了一款可以识别 AI 书写的文本的工具 —— AI classifier。

AI classifier 是干嘛的？

AI classifier，是一款 AI 分类文本工具，主要用来区分人工智能和人类书写的文本。

这一技术主要可以识别同样是 OpenAI 开发的 ChatGPT、GPT-3 等模型生成的内容。

它和 ChatGPT 类似，都是一种语言模型，根据来自网络的公开文本示例进行训练。它不仅可以预测来自 ChatGPT 的文本，也包括来自其他文本生成 AI 模型的内容。

使用 AI classifier 很简单，你只需要按照以下步骤操作：

- 访问 OpenAI AI Text Classifier 网站。

- 创建一个账号或者登录。

- 复制并粘贴你想要分类的文本到“Text”框中，然后点击“Submit”。

- 在提交文本后，OpenAI 会输出一个 AI 生成的可能性得分，分为五类：非常不可能、不太可能、不清楚、可能、非常可能。

最终评估的结果分成5类：非常不可能、不太可能、不清楚、可能、非常可能是AI生成，要求至少1000个字符，大约150-250个单词。

为什么要推出 AI classifier ？

「我们提出分类器的目的是帮助减少人工智能生成的文本造成的混淆。然而它仍然有一些局限性，因此它应该被用作其他确定文本来源方法的补充，而不是作为主要的决策工具。」OpenAI 发言人对媒体介绍道。

图源：OpenAI

关于 OpenAI 

OpenAI 是一家 AI 研究和部署公司，致力于通过人工智能造福全人类，即通过研发高度自主的系统，在最具经济价值的工作中胜过人类。ChatGPT、DALL·E 2、Whisper 都是 OpenAI 开发的特色产品。

AI 生成文本虽然可以带来很多的便利，但由于它并未发展到较为成熟的阶段，不免会出现许多亟待解决的问题，AI classifier 技术上的愿景固然是好的，但也会出现把人类书写的文本，错认成 AI 的情况。

借助 AI 去生成文字内容，还有很长的一段路要走。🌞

Mixlab Notes. Feb. NO.4