ChatGPTの新機能により、ユーザーは人間が作成したテキストまたはAIを区別できます

ChatGPTのようなAIテキスト分類器(写真:Altumcode/Unsplash)

ジャカルタ-ChatGPTで一般の人々に衝撃を与えてから2か月後、OpenAIは人工知能(AI)ベースのテキスト分類器またはAIテキスト分類器と呼ばれる新機能をリリースします。ユーザーは、人間が書いたエッセイとAIのどちらが書いたエッセイを区別できます。

ただし、米国カリフォルニア州(USA)に拠点を置くこのスタートアップは、AIテキスト分類器が不正確または初歩的であることを認めています。このツールは現在も英語で動作し、入力を取得して複数のカテゴリに割り当てる機械学習システムを利用しています。

この場合、学生が作成したエッセイなどのテキストコンテンツを新しいツールに貼り付けると、5分の1の結果が得られ、AIによって生成されないほどAIによって生成される可能性があります。

ChatGPTのようなAIテキスト分類器は、ウェブから公開されている多くのテキスト例で訓練されたAI言語モデルです。ただし、ChatGPTとは異なり、ChatGPTだけでなく、テキストを生成するAIモデルから、AIによってテキストが生成される可能性を予測するようにカスタマイズされています。

具体的には、OpenAIは、自社を含む5つの異なる組織の34のテキスト生成システムからのテキストでAIテキスト分類子をトレーニングします。

このテキストは、ウィキペディア、Redditで共有されたリンクから抽出されたWebサイト、および以前のOpenAIテキスト生成システム用に収集された一連の人間のデモンストレーションから、類似しているがまったく同じではない人間のテキストとペアになっています。

最も重要なことは、AIテキスト分類子はどのテキストでも機能しないということです。最低1,000文字、または約150〜250語かかります。確かに、このツールは盗用を検出しません。

OpenAIは、学生が書いたテキストや英語以外の言語でエラーがある可能性が高いことを明らかにしています。

この機能は、OpenAIの政策研究ディレクターであるLama Ahmad氏によると、教育者からの要望です。彼はもう一度警告しました、このツールは初歩的なものであり、その成功率はわずか約26パーセントです。

「評価目的でAIを使用するなど、間違っている可能性があり、時には間違っている可能性があることを知っているため、このツールを個別に使用することはお勧めしません」とアフマドは2月1日水曜日に引用されたCNNインターナショナルに語った。

「私たちは、人間をループに保つことがいかに重要であるかを強調しています。それは他の多くのデータポイントの1つにすぎません」と彼は付け加えました。

アフマドは、一部の教師は、生徒の作品の例と以前の文体を参照して、生徒が書いたかどうかを測定していると述べました。新しいツールは別の基準点を提供する場合がありますが。

「教師は、それを学問的不正の決定に組み込むことに本当に注意する必要があります」とアフマドは言いました。

TechCrunchの発売、特にテキスト生成の進展に伴い、多くの批評家がツールのメーカーに潜在的に有害な影響を軽減するための措置を講じるよう求めています。

米国最大の学区のいくつかは、学生の学習者とツールが生成するコンテンツの正確性に影響を与えることを恐れて、ネットワークとデバイスでのChatGPTの使用を禁止しています。

OpenAIが説明しているように、AIテキスト分類器は現在、特定の状況下で役立ちますが、それでも、テキストがAIによって生成されるかどうかを判断する上で信頼できる唯一の証拠になることは決してありません。

OpenAIがこの新機能をいつ完全にリリースするか、そしてAIテキスト分類器が無料ユーザーまたはChatGPTプロフェッショナル別名有料でアクセスできるかどうかはまだ定かではありません。