OpenAIは、効率上の理由からコンテンツモデレーションにおけるAIの使用をサポート

OpenAIのCEOであるSam Altmanは、コンテンツモデレーションのためのAIをサポートしています。(写真:ツイッター@sama)

ジャカルタ-ChatGPTの作成者であるOpenAIは、コンテンツモデレーションにおける人工知能(AI)の使用について強力な議論を行い、いくつかの過酷なタスクの処理を加速することによってソーシャルメディア企業に効率を開くことができると述べています。

ジェネレーティブAIに関する多くの話にもかかわらず、マイクロソフトやGoogleの所有者であるアルファベットなどの企業は、この技術が業界に大きな影響を与えることを期待して数十億ドルを注いでいるにもかかわらず、この技術の収益化にまだ成功していません。

マイクロソフトが支援するOpenAIは、最新のAIモデルであるGPT-4は、コンテンツモデレーションプロセスを数ヶ月から数時間に短縮し、より一貫したラベリングを確保できると述べています。

コンテンツモデレーションは、世界中の何千人ものモデレーターと協力して、児童ポルノや極端な暴力画像などの有害なコンテンツをユーザーが見るのを防ぐために、Facebookの親会社であるMetaのようなソーシャルメディア企業にとって過酷な仕事になる可能性があります。

「プロセス(コンテンツモデレーション)は基本的に遅く、人間のモデレーターに精神的ストレスを引き起こす可能性があります」とOpenAIは述べています。「このシステムにより、コンテンツポリシーの開発と調整のプロセスは数か月から数時間に短縮されます。」

これとは別に、OpenAIのCEOであるSam Altman氏は8月15日火曜日、同社はユーザーが生成したデータでAIモデルをトレーニングしていないと述べた。