インドはGrokの改善を要求し、Xはコンテンツの悪用に対処する準備ができています

ジャカルタ - インド政府は、イーロンマスクが所有するプラットフォームであるXに、チャットボットGrokの技術手順を変更するよう命じた。この命令は、Grokが今や非常にわいせつなコンテンツを作成できるためです。

インドの情報技術省は、Xにグロックが性的に露骨な要素を含むコンテンツを作成する能力を制限するよう義務付けています。同社は、グロックコンテンツの改善レポートを提出するのに72時間かかった。

Xが発行された命令に従わない場合、以前のTwitterという名前のプラットフォームは、その国で「法的保護」の地位を失います。この地位を失うことで、Xはユーザーが作成したコンテンツに対して法的責任を負うよう求められます。

この事件は、国会議員であるプリヤンカ・チャトゥルヴェディが、グロックによって操作された女性の画像の出現に関する苦情を提起した後、発生しました。チャットボットは、成人女性だけでなく、未成年者を巻き込んだ不適切なコンテンツも生成します。

この報告書に関して、Xはセキュリティシステムにエラーがあったことを認めた。Xは、流通している不適切な画像を削除することで行動したにもかかわらず、Grokが作成した他の多くの適切な行動画像がまだアクセス可能です。

「この要件への不遵守は深刻と見なされ、プラットフォームや関連する役員に対して明確な法的結果をもたらす可能性がある」と、政府は1月5日月曜日に引用された書面による決定で述べた。

インドは、Grokの画像編集機能に異議を唱えた最初の国ではありません。フランスは、検察官にGrokによって生成された露骨なコンテンツを報告しました。彼らはまた、Grokによって作成されたコンテンツをメディア規制当局に報告しました。

これは、Grokを開発するxAIがEUデジタルサービス法に違反しているかどうかを判断するために実施されました。一方、Xは、Grokを使用して違法なコンテンツを作成するすべてのユーザーを追跡すると述べています。

「Xでは、児童ポルノ(CSAM)を含む違法なコンテンツに対して、削除、アカウントの永久的な停止、必要に応じて地方自治体や法執行機関と協力して行動を起こしています」とXは1月4日(日)に公式のセキュリティアカウントを通じて書きました。