研究人员创建了DetectGPT，以在日益令人担忧的教育世界中对抗ChatGPT

雅加达 - 最近，许多人担心基于人工智能（AI）的聊天机器人的出现，包括谷歌以及它将如何影响教育。现在，解决方案已经提出了DetectGPT。

在斯坦福大学一组研究人员的带领下，DetectGPT 成为首批在教育中的 ChatGPT 等流行 AI 文本应用程序（如 ChatGPT）上对抗大型语言模型 （LLM） 生成的文本的工具之一。

这种方法基于LLM生成的文本的想法，通常使用模型对数概率函数的局部曲率位于特定区域周围。

也就是说，该模型将根据零镜头方法呈现的内容识别可能指示一段 AI 生成的文本的模式。识别这些模式后，DetectGPT 应该能够检测是否有一段由 AI 生成的文本。

DetectGPT 与其他需要训练分类器和真实和生成部分数据集的方法形成鲜明对比。

此外，研究小组在假新闻文章数据集上测试了DetectGPT，并优于其他检测机器生成文本的零镜头方法。

具体来说，他们发现 DetectGPT 将 20B GPT-NeoX 参数生成的假新闻文章的检测从最强零镜头基线的 0.81 AUROC 增加到 DetectGPT 的 0.95 AUROC。

一种零镜头方法，不需要额外的数据或培训，使其成为识别机器生成文本的高效工具。

随着LLM的使用不断增长，检测机器生成文本的适当系统的重要性将变得越来越重要，正如1月30日星期一Neowin所引述的那样。

DetectGPT 是一种很有前途的方法，可以在许多领域产生重大影响，并且进一步发展可能对许多领域有益。