Xは、Grok AIチャットボットによって生成されたとされる人種差別的な投稿を調査

ジャカルタ - Xソーシャルメディアプラットフォームは、xAI社が所有するGrok AIチャットボットによって生成されたとされる攻撃的な投稿を調査しています。この調査は、チャットボットがユーザーの質問に反応して人種差別的かつ憎悪に満ちたコンテンツを生成したという報告が出た後に行われました。

この報告書は、2026年3月8日(日)に英国のメディアであるスカイニュースによって最初に明らかにされました。報告書では、Xのセキュリティチームが、プラットフォーム上で流通している問題のあるアップロードを生成する際のGrokの役割の可能性について緊急の調査を行っていると述べられています。

スカイニュースのロブ・ハリス記者は、プラットフォームはチャットボットがルールに違反したコンテンツを生成する方法を調査していると述べた。

「Xのセキュリティチームは、ユーザーの命令に対するオンラインでの憎悪と人種差別主義の投稿を生成する上でこのチャットボットの役割に関する緊急の調査を行っています」とハリスは、Xの公式アカウントでアップロードされたビデオで言いました。

この記事が書かれた時点で、Xプラットフォームとチャットボット開発会社xAIは、メディアからのコメント要求に対して公式の回答をしていません。

この事件は、ますます一般の人々によって使用されるテクノロジー企業のAIベースのチャットボットのスポットライトリストに追加されました。チャットボットGrok自体は、テクノロジー億万長者のElon Muskが所有する会社によって開発された生成AIサービスです。

過去数か月間、多くの国々の政府や規制当局は、特に違法または不適切なコンテンツに関連して、AIによって生成されたコンテンツの監視を強化しています。Grokは以前、性的に露骨なコンテンツを生成したことで注目を集めていました。

規制当局の圧力に応えて、xAIは1月にGrokの機能をいくつか強化したと述べた。同社は画像編集機能を制限し、ユーザーが禁止コンテンツを許可しない地域で衣服を露出した人の画像を作成できないように特定の場所でのユーザーをブロックしました。

しかし、xAIは、制限に含まれる国を明らかにしなかった。

Xによる最新の調査では、特にシステムがソーシャルメディアプラットフォームのユーザーからの直接の命令に応答する場合、生成されたAIテクノロジーによって生成される有害なコンテンツのリスクへの関心が高まっています。