アップルは倫理基準を遵守しなかったとして非難され、App Storeは「Nudify」AIアプリでいっぱい

App Soreのイラスト(写真;'ドック。アップル)

ジャカルタ - ポルノコンテンツを生成するために人工知能(AI)の使用が活発化していることは、再び世界的な注目を集めています。以前、Xプラットフォーム(以前のTwitter)のチャットボットGrokが、AIベースのヌード画像と児童ポルノの作成を可能にすることで、論争の中心となった場合、Appleはまた、App Storeで何十もの「AI nudify」アプリケーションを流通させることで倫理基準を維持することに失敗したと評価されています。

これらのアプリケーションを使用すると、ユーザーは写真やテキストコマンド(プロンプト)をアップロードすることによって、同意なしにデジタルで人の「衣服を脱ぐ」ことができます。この慣行は、女性や子供に害を及ぼし、デジタルアプリケーションエコシステムに対する一般の信頼を傷つけると考えられています。

1月27日にTech Transparency Project(TTP)が発表したレポートによると、少なくとも47のnudify AIアプリがApp Storeで引き続き利用可能であり、55の同様のアプリがGoogle Playストアで見つかったことが明らかになりました。これらのアプリケーションは、アプリストアの検索ボックスに「nudify」や「undress」などのキーワードを入力するだけで簡単に見つけることができます。

実施されたテストでは、多くのアプリケーションは、公式の主張が「安全」または「創造的」使用を主張しているにもかかわらず、非同意のヌード画像を実際に生成することができることが判明しました。

世界的に見ると、これらのアプリは7億5000万回以上ダウンロードされ、AppMagicの分析によると、推定収益は1億1700万ドルに達した。AppleとGoogleが各取引の割合を占めているため、両社は操作的なコンテンツを生成するアプリから数百万ドルを稼いでいると推定されています。

問題はもっと大きくなる可能性があります

TTPは、この発見は「氷山の一角」にすぎないと考えています。他の多くのアプリケーションは、アニメーションアプリ、顔交換、またはAIアバターメーカーなど、より一般的な説明で隠された同様の機能を備えていると考えられています。

テストでは、研究者はAIによって生成され、完全に着飾った架空の女性の画像を使用しました。その結果、多くのアプリケーションは、明示的なコンテンツの作成を禁止する書面にもかかわらず、写真を性的なコンテンツに変換することができます。

注目された例の1つは、DreamFaceアプリです。このアプリは、音声アバター作成、AIダンスビデオ、アニメーション機能のみを提供すると主張しています。サービス規約では、DreamFaceは攻撃的、性的に露骨な、または他者を傷つけるコンテンツの作成を禁止しています。

しかし、実際には、このアプリは、条件に明確に違反するテキストコマンドを入力するだけで、性的ビデオを生成し続けることができます。皮肉なことに、多くの同様のアプリは、18歳未満のティーンエイジャー向けに評価されています。

アップルは監視に失敗したと評価される

この状況は、App Storeレビューガイドラインの有効性について深刻な疑問を投げかけます。ガイドラインでは、AppleはAIベースの性的ビジュアル操作を含む「嫌悪、攻撃的、不快、ポルノグラフィ」を含むコンテンツを明確に禁止しています。ルールはまた、開発者がユーザー生成コンテンツのフィルタリングメカニズムを提供することを義務付けます。

アプリケーションがキュレーションプロセスをパスし、広く利用可能であるという事実は、開発者とプラットフォーム管理者としてのアップルの両方の面で監督の弱さを示しています。

問題のあるアプリのリストが提供された後、Appleは28のアプリを削除し、他の開発者に警告したと述べた。しかし、このステップは反応的であり、問題の根本に触れていないと見なされています。

ユーザーの信頼が危険にさらされる

この論争は、AIの使用に責任を負うようテクノロジー企業に圧力をかける中、発生しました。グロックの場合、イーロンマスクのAI、制限は、一般大衆と政策立案者からの激しい批判の後、ようやく実施されましたが、問題のあるコンテンツがプラットフォームXでまだ流通していると報告されています。

Appleは、XアプリをApp Storeに引き続き許可したことで、立法者によって強調された。しかし、ユーザーのプライバシーとセキュリティを優先する企業としてしばしば提示されるイメージとは異なり、Appleはこの問題について沈黙を選択し、TTPの報告書にコメントすることを拒否した。

アップルがアプリケーションの販売から財政的に利益を得ていると見なされているため、批判はますます鋭くなっています。多くの人々にとって、この沈黙と透明性の欠如は、技術問題でしばしば「高い道徳的地位」を占めているというアップルの主張とは対照的です。

AIがより高度になり、悪用されやすくなると、一般の人々は、セキュリティ、倫理、ユーザーの信頼が維持されることを保証するために、単なる制限された規制ではなく、実際のステップを待っています。