ジャカルタ - Grokチャットボットが、同意なしのポルノディープフェイクコンテンツの流行により、AppleによってApp Storeからほぼ削除された後、AIプラットフォームは再び注目を集めました。
この事件は、AIの生成的発展の暗い側面を開きます。つまり、技術が許可されていない個人や未成年者を含む違法なコンテンツを作成するために使用されるべきであるということです。
アップルが手を引く
報告書によると、AppleはGrokアプリの更新を拒否し、開発者であるxAIに、違反が直ちに修正されなければアプリが削除される可能性があると警告した。
Appleは、コミュニケーションの中で、一部の問題はXプラットフォーム(以前はTwitter)で処理されたが、Grokアプリはまだコンテンツモデレーション基準を満たしていないと述べた。
一連の修正の後、Appleは最終的にシステムが「大幅に改善された」というメモを伴うアプリケーションの更新を承認しました。
ディープフェイクコンテンツの爆発が混乱を引き起こす
問題は、AIを使用して作成されたポルノのディープフェイク画像がXプラットフォームに氾濫したときから始まりました。その多くは被写体の同意なしで、未成年の被害者さえも巻き込んでいます。
この現象は、イーロン・マスクがGrokの能力の限界をテストするよう一般の人々に挑戦した後、悪化しました。
現在制限はありますが、ユーザーはシステムを回避する方法を見つけて、禁止コンテンツを生成し続けていると報告されています。
ダブルスタンダード?
この事件はまた、アップルに対する批判を引き起こしました。これまで、同社は規則に違反するアプリケーションを、軽微な違反であっても、厳格に取り締まることで知られていました。
事実、この事件が浮上した後、Appleはすぐに同様のディープフェイクの作成に関与していた何十もの他のアプリケーションを削除しました。しかし、グロックは生き残った。
これは、アプリケーションの背後にある財政的力と影響がモデレーションの決定に影響を与えるかどうかという疑問を提起します。
世界的な規制圧力が高まる
グロックの事件は、特に有害なコンテンツに関連して、AIの規制を強化するための世界的な推進力を強化しています。
多くの国々の政府は、AppleのApp Reviewプロセスに対する独立した監督の可能性を含む、より厳しい規制を検討し始めています。
この事件は、AIがイノベーションだけでなく責任でもあるという厳しい思い出です。
テクノロジーが数秒でリアルなコンテンツを作成できるようになったとき、創造性と法律違反の境界はますます薄くなります。
VOIのWhatsAppチャンネルに従ってください
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
