ジャカルタ - 最近の調査は、Appleのモデレーションシステムに深刻な穴を開けた。被害者の同意なしにポルノコンテンツをディープフェイクできるAIベースのアプリケーションの多くは、App Storeに合格しただけでなく、広告を積極的に表示し、ユーザーの検索結果に表示されます。
調査機関のTech Transparency Projectの報告書によると、ユーザーは「deepfake」などのキーワードをタイプするだけで、誰かの顔を露骨なコンテンツに操作するために使用できるアプリケーションを見つけることができます。さらに懸念すべきことに、これらのアプリケーションのいくつかは、子供にとって安全な年齢の評価さえ与えられています。
この現象は、AppleのApp Reviewシステムが、アプリケーションエコシステムの監視としての基本機能を実行できないという批判を強化しています。
App Storeの大きな隙間
研究者による実験は、悪用がどれほど簡単であるかを示しています。顔交換アプリの1つは、ユーザーが明示的なビデオをアップロードし、他の人の写真で顔を交換することを可能にします。警告、検証、制限なし。
通知も、コンテンツフィルターも、基本的な予防メカニズムもありません。法と倫理の文脈では、これは明らかにプライバシーを侵害し、デジタル搾取の扉を開く可能性のある灰色の領域に属しています。
問題は技術だけではないが、大規模なプラットフォームが促進する流通である。
広告は継続します
この状況をさらにばかげたものにするのは、これらのアプリケーションはApp Storeの有料広告スロットにも表示されることです。つまり、開発者はキュレーションを通過するだけでなく、ユーザーに直接可視性を購入することもできます。
調査データによると、約31の「nudify」アプリがアクティブであることが判明し、ダウンロード数は数億回に達し、総収益は1億2000万ドルを超えています。
間接的には、Appleはエコシステムからの収益を享受しています。これは、世界的な規制当局がデジタルプラットフォームにますます圧力をかける中で、バウンサーになる可能性のある状況です。
これが最初のケースではない
以前、Appleは数十の同様のアプリケーションを削除し、xAIなどのAI企業に、アプリケーションのディープフェイクの問題について警告さえしました。
しかし、この最新の発見は、このステップはまだ十分ではないことを示しています。モデレーションは予防的ではなく、反応的であるようです。
実際、ディープフェイク技術は急速に発展しており、本物のコンテンツと区別するのがますます困難になっています。これは、間違った手に落ちる場合の危険なツールになります。
この事件は、各国政府がAIコンテンツ、特に性的搾取や個人のプライバシーに関するコンテンツの規制を強化し始めたときに発生しました。
Appleがシステムを修正できなければ、App Reviewプロセスの外部監視の可能性を含む、規制当局の介入がますます積極的になる可能性は低い。
ディープフェイクの問題は、もはやインターネットフォーラムのニッチな問題ではありません。それは主流のプラットフォームに入り、ワンクリックで利用可能であり、皮肉なことに、宣伝されています。
VOIのWhatsAppチャンネルに従ってください
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
