自从ChatGPT 及其竞争对手推出以来，人们对人工智能聊天机器人的看法一直存在分歧。虽然有些人认为这很重要并且可以节省时间，但其他一些人则担心人们使用 AI 来传播错误信息和剽窃工作。OpenAI 是病毒式 AI 机器人 ChatGPT 和文本到图像生成器DALL-E背后的公司，它发布了一种新的 AI 分类器工具来识别 AI 编写的文本。在官方新闻稿中，OpenAI 详细介绍了分类器的训练方式、其局限性和其他指标。查看下面的所有详细信息。
【资料图】
OpenAI 的分类器将 AI 文本与人类书写区分开来
在最近的新闻稿中，该公司详细介绍了这种新的 AI 分类器工具是如何帮助人们识别 AI 文本的。该工具通过接收用户的输入，然后通过经过训练的数据运行它，将其分类为人工智能或人类生成的内容来做到这一点。
AI 分类器是一种语言模型，并已在一个数据集上进行了训练，该数据集包含关于同一主题的成对的人类和 AI 编写的文本。OpenAI 指出，人类数据是从各种来源收集的，他们认为这些数据是由人类编写的。该文本已分为提示和响应，生成 AI 文本以收集完整数据集。
虽然新工具旨在减轻我们(尤其是教师和教授)在人工智能方面的生活，但该公司已明确表示人工智能分类器并不完全可靠且容易出错。在公司的内部评估中，分类器正确地将 26% 的人工智能编写的文本识别为“可能是人工智能编写的”。
它还错误地将 9% 的人类文本识别为人工智能编写的。虽然误差幅度相当低，但显然分类器并非万无一失。此外，OpenAI 提到它在 1,000 个字符以下的短文本上不可靠。
“我们的分类器有许多重要的局限性。它不应该被用作主要的决策工具，而应该作为其他确定文本来源的方法的补充。” 开放人工智能
该工具还有其他一些局限性，包括仅支持英语输入、难以预测文本以及在其训练数据之外的校准不佳。由于所有这些原因以及更多原因，这个新的 AI 分类器目前不应该用作主要的决策工具。然而，随着时间的推移，我们可以期待随着更多数据的输入
OpenAI 的 AI 文本分类器(网站链接)是一款免费使用的在线工具。因此，我们决定试用一下它，它的性能与您在此阶段所期望的一样好。我从我们的网站上测试了各种长度适中的文章。其中包括新闻报道和专题文章。粘贴文本并运行该工具后，我们得到了响应“分类器认为文本不太可能是由 AI 生成的。”
为了测试它的效果，我让 ChatGPT 写了一个短篇故事，并使用分类器看它是否能识别出这个故事是由它自己的 AI 兄弟写的。值得庆幸的是，它给出了文本“可能是 AI 生成的”的响应。我对其他一些文本进行了同样的尝试，例如莎士比亚的《商人》，而 AI 检测到 AI 不太可能参与其中。
如上所述，随着数据集的增加，OpenAI 分类器应该会变得更好。但是，即使在那之前，您也可以自由使用该工具并从中获得乐趣。
