英国大臣は、Grok AIが作成したディープフェイクコンテンツを停止するようXに要請

ジャカルタ - イギリスのテクノロジー大臣、リズ・ケンドールは、Grokが作成した危険なディープフェイクコンテンツを削除するようXに命じた。コンテンツは、偽物であり、他の人々を傷つけるため、ディープフェイクのカテゴリに分類されています。

Grokは現在、ユーザーがXにアップロードした画像からオブジェクトを変更する機能のために多くの国々から注目されています。しかし、この機能は、女性と未成年者をターゲットにした性的コンテンツを生成するために悪用されています。

ケンドール氏によると、グロックが実行した画像の拡散は、被害者の尊厳を傷つけた。したがって、英国政府は、グロックの能力がより多くの人々を傷つけるまで、常に悪用されないように行動し始めました。

Xでわいせつなディープフェイクコンテンツの拡散に対処するために、英国政府は他のヨーロッパ当局と協力して、イーロンマスクのプラットフォームを圧迫しました。ケンドールは、XにGrok人工知能(AI)技術のセキュリティシステムを強化することを余儀なくさせました。

「誰もが、オンラインで自分自身を親密なディープフェイクを見る試練を経験する必要はありません。Xはすぐにこれを処理する必要があります」とケンダルは声明で述べました。

プラットフォーム上で流通しているすべてのディープフェイクコンテンツを削除するようXに要請したことに加えて、英国のメディア規制当局(Ofcom)は、Grokの編集機能に関する説明を求めた。彼らは、XとGrokの開発者であるxAIに、すでに実施された保護措置の詳細を提供するよう求めた。

XがOfcomに要求された報告書を提出したかどうかは不明です。しかし、同機関は、Xが英国のユーザーを保護するという法的義務を果たすことに失敗したかどうかを調査している。