アップルが猥褻なディープフェイクコンテンツに関するApp StoreからGrokを削除すると脅迫

GrokはApp Storeから削除される危険にさらされていた(写真:dok.unsplash)

ジャカルタ - グロックが今年初めにさまざまな国から圧力を受けていたとき、アップルは問題に巻き込まれました。実際、同社はグロックに脅威を与えました。

Grokが提供する高度な編集機能の結果として、AppleはApp Storeからチャットボットを削除すると脅迫しました。Appleによると、Grokの機能はアプリケーションストアのガイドラインに違反しているという。

Xプラットフォームで多くの人が発見したように、Grokは写真の主題の信憑性を維持しながら写真を編集するために使用できます。これは、xAIによって生成されたチャットボットによって生成された高いセクシャルディープフェイクの数を引き起こします。

NBCニュースが入手した独占的な手紙によると、Appleは個人的にXとGrokチームにコンテンツモデレーションシステムを改善するよう圧力をかけた。Appleは、Grokのセキュリティが非常に脆弱であることを発見し、多くの場合、同意なしに写真主体を裸にするために悪用されました。

Xは、この指摘に対応するためにアプリケーションの更新を送信しましたが、変更は重要ではないと考えられていたため、Appleはそれを拒否しました。Appleは、特に女性や未成年者をターゲットにした有害なコンテンツからユーザーを保護するために、大幅な改善を求めています。

AppleがGrokの編集機能を拒否したことに関して米国上院議員に提出した書簡の内容は次のとおりです。

「Grokの申請を拒否し、違反を改善するための追加の変更が必要であることを開発者に通知するか、アプリケーションをApp Storeから削除できる」と述べた。

この削除の脅威は、xAIが編集の議論の真っ只中にツールの使用ルールを厳格化している理由を説明しています。これらの変更には、アクセス制限と、実際の人の写真を含む編集の禁止が含まれます。

最近の更新が最終的に承認されたにもかかわらず、最新のレポートによると、Grokにはまだセキュリティ上のギャップがあることが示されています。一部のユーザーは、非常に開いた服を着た女性の画像を生成するためにシステムを回避できると報告されています。