研究者は、ますます心配する教育の世界でChatGPTと戦うためにDetectGPTを作成します

ジャカルタ-最近、多くの人がGoogleを含む人工知能(AI)ベースのチャットボットの出現とそれが教育にどのように影響するかについて心配しています。今、解決策はDetectGPTを思いついた。

スタンフォード大学の研究者チームが率いるDetectGPTは、教育におけるChatGPTなどの人気のあるAIテキストアプリケーションで大規模言語モデル(LLM)によって生成されたテキストと戦うための最初のツールの1つになりました。

LLMによって生成されたテキストの概念に基づくこのような方法は、通常、モデルの対数確率関数の局所曲率を使用して特定の領域の周りに配置されます。

つまり、モデルは、ゼロショット法のおかげで提示された内容に基づいて、AIによって生成されたテキストの一部を示す可能性のあるパターンを認識します。これらのパターンを認識すると、DetectGPTはAIによって生成されたテキストがあるかどうかを検出できるはずです。

DetectGPTは、実際の部品と生成された部品の分類器とデータセットのトレーニングを必要とする他の方法とはまったく対照的に動作します。

さらに、研究チームは、偽のニュース記事のデータセットでDetectGPTをテストし、機械で生成されたテキストを検出するための他のゼロショット方法よりも優れたパフォーマンスを示しました。

具体的には、DetectGPTが20B GPT-NeoXパラメータによって生成された偽のニュース記事の検出を、最強のゼロショットベースラインの0.81AUROCからDetectGPTの0.95AUROCに増加させることを発見しました。

追加のデータやトレーニングを必要としないゼロショット方式で、マシンで生成されたテキストを識別するための効率的かつ効果的なツールになります。

LLMの使用が拡大し続けるにつれて、1月30日月曜日のNeowinから引用されているように、機械で生成されたテキストを検出するための適切なシステムの重要性がますます重要になります。

DetectGPTは多くの分野に大きな影響を与える可能性のある有望なアプローチであり、さらなる開発は多くの分野にとって有益である可能性があります。