OpenAI 推出新工具来检测 AI 生成的文本


这个新的基于网络的人工智能文本分类器工具可以预测文本由人类或人工智能编写的可能性。

ChatGPT的创建者OpenAI今天发布了一个 AI 文本分类器,它可以帮助您判断您正在阅读的文本是由 AI 还是人类编写的。

但有一个但是。

OpenAI 指出“不可能可靠地检测所有由 AI 编写的文本”,并且“尚未彻底评估分类器在检测与人类作者合作编写的内容方面的有效性”。

我们为什么关心。目前已经有各种各样的人工智能内容检测器。如果这些工具能够相当有效地识别人工智能生成的文本,那么可以肯定搜索引擎也可以。想想:谷歌的有用内容系统

此外,如果您要发布内容,通过这些工具运行您的代理机构或自由撰稿人提交的任何内容可能是明智之举。我们正在进入一个新时代——您不想发布任何可能导致您的网站被标记为发布自动生成内容的内容,这违反了 Google 的准则。我们已经开始在 Search Engine Land 上对所有贡献的内容使用此类工具。

什么是 AI 文本分类器? OpenAI 将其新工具称为“经过微调的 GPT 模型,可以预测一段文本由 AI 从各种来源(例如 ChatGPT)生成的可能性。”

它有一些局限性——最明显的是结果可能不准确。OpenAI 主要用成年人写的英文内容来训练该工具,因此很可能会出现误报。此外,正如 OpenAI 指出的那样,很容易编辑 AI 生成的文本以将其视为人类生成的文本。如其常见问题解答部分所述:

  • “在判断一份文档是否由人工智能生成时,结果可能会有所帮助,但不应成为唯一的证据。该模型是根据来自各种来源的人工书写文本进行训练的,这些文本可能无法代表所有类型的人工书写文本。”

分类器的结果。将文本粘贴到工具中后(Open AI 表示您至少需要 1,000 个字符,大约 150-250 个单词),AI 文本分类器将评估文本是否是使用 AI 生成的。您将看到五个标签之一:

  • 不太可能。
  • 不太可能。
  • 不清楚是否如此。
  • 有可能。
  • 有可能。

以下是我粘贴您正在阅读的这篇文章的文本后得到的结果(我发誓,是人写的):

人工智能生成的可能性极低

值得庆幸的是,分类器认为这篇文章由人工智能生成的“可能性极小”。

亲自试用该工具。OpenAIAI 文本分类器。它是免费的。

更多报道。您可以在此处阅读 OpenAI 的公告:用于指示 AI 书写文本的新 AI 分类器。您可以在Techmeme上查看更多报道。


发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注