OpenAI发布AI classifier可以识别文章是否为人工智能编写

程序笔记 2024年08月02日09:13 阅读(236)

OpenAI发布AI classifier新的人工智能分类器，它用于指示文本是否为人工智能编写。

OpenAI官网：https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/

OpenAI AI classifier官方描述

我们正在推出一个经过训练的分类器，可以区分 AI 编写的文本和人类编写的文本。

我们已经训练了一个分类器来区分人类编写的文本和来自各种提供商的 AI 编写的文本。虽然不可能可靠地检测所有人工智能编写的文本，但我们相信好的分类器可以为人工智能生成的文本是由人类编写的虚假声明提供缓解措施：例如，运行自动错误信息活动，使用人工智能工具进行学术不诚实，以及将 AI 聊天机器人定位为人类。

我们的分类器并不完全可靠。在我们对英语文本“挑战集”的评估中，我们的分类器正确地将 26% 的 AI 编写的文本（真阳性）识别为“可能是 AI 编写的”，同时错误地将 9% 的人类编写的文本标记为 AI 编写的时间（误报）。我们的分类器的可靠性通常会随着输入文本长度的增加而提高。与我们之前发布的分类器相比，这个新的分类器在来自更新的 AI 系统的文本上的可靠性要高得多。

我们正在公开提供此分类器，以获取有关此类不完善工具是否有用的反馈。我们在检测 AI 生成的文本方面的工作将继续，我们希望在未来分享改进的方法。

什么是AI classifier？

Classifier 在机器学习和人工智能领域中是一个常用的术语，指的是一种用于将数据分类或归类为一个或多个预定义类别的模型或算法。分类器是在带有已知类标签的标记数据集上训练的。分类器的目标是从输入数据学习到类标签的映射，以便能够准确预测新的、未知的样例的类标签。

OpenAI的 AI 分类器是一种使用人工智能技术，特别是机器学习技术，进行数据分类的模型或算法。这种分类器可以根据输入数据的特征，将数据归类为多个预定义的类别。OpenAI 的 AI 分类器可以用于解决各种分类任务，例如图像分类、语音识别、自然语言处理等。在训练过程中，分类器会学习如何识别输入数据中的关键特征，从而进行准确的分类。