ChatGPT中的新功能，用户可以区分人造文本或AI

雅加达 - 经过两个月与ChatGPT震惊公众之后，现在OpenAI正在推出一项新功能，称为基于人工智能（AI）的文本分类器或AI文本分类器。用户可以区分由人类或AI撰写的文章。

然而，这家位于美国加利福尼亚州的初创公司承认AI文本分类器不准确或初级。该工具现在仍然以英语工作，并由机器学习系统提供支持，该系统接受输入并将其分配给多个类别。

在这种情况下，将学生创作的论文等文本内容粘贴到新工具中后，会给出五分之一的结果，这些结果可能是由AI生成的，以至于AI无法生成。

像 ChatGPT 这样的 AI 文本分类器是一种 AI 语言模型，根据网络上许多公开可用的文本示例进行训练。但与 ChatGPT 不同的是，它是定制的，用于预测一段文本由 AI 生成的可能性，不仅来自 ChatGPT，还来自任何文本生成 AI 模型。

更具体地说，OpenAI在来自五个不同组织（包括公司自己的组织）的34个文本生成系统的文本上训练AI文本分类器。

该文本与来自维基百科的相似但不完全相同的人类书面文本配对，该网站从Reddit上共享的链接中提取，以及为以前的OpenAI文本生成系统收集的一系列人类演示。

最重要的是，AI 文本分类器不适用于任何文本。它至少需要 1，000 个字符，或大约 150 到 250 个单词。当然，该工具不会检测到抄袭。

OpenAI显示，学生编写的文本或英语以外的语言中很有可能会出现错误。

OpenAI政策研究主任Lama Ahmad说，这个功能是教育工作者的要求。他再次警告说，该工具很简陋，成功率只有26%左右。

“我们真的不建议单独使用这个工具，因为我们知道它可能是错误的，有时甚至是错误的，就像将人工智能用于任何评估目的一样，”艾哈迈德告诉CNN国际频道，2月1日星期三引用。

“我们强调让人类处于循环中的重要性，这只是许多其他数据点中的一个，”他补充说。

艾哈迈德说，一些老师引用了学生的作品和以前的写作风格的例子来衡量它们是否是学生写的。而新工具可能会提供另一个参考点。

“教师需要非常小心地将其纳入学术不诚实的决定，”艾哈迈德说。

随着生成人工智能的发展，特别是文本生成，许多批评者呼吁该工具的制造商采取措施减轻潜在的有害影响。

美国一些最大的学区已经禁止在其网络和设备上使用 ChatGPT，担心它会影响学生学习者和该工具生成内容的准确性。

正如OpenAI所解释的那样，虽然AI文本分类器目前在某些情况下可以提供帮助，但即便如此，它们也永远不会是决定文本是否由AI生成的唯一可靠证据。

目前尚不清楚OpenAI何时会完美推出这项新功能，以及免费用户或ChatGPT Professional（又名付费用户）是否可以访问AI文本分类器。