ジャカルタ - パードファンは、人気のある新しい人工知能(AI)プラットフォームを使用して、子供のオリジナルの写真を性交画像に変えると言われています。
これは、オンラインで投稿された子供の写真に注意するよう両親に警告を発しました。
画像はAIイメージジェネレータである米国ミッドジャーニーで発見され、ChatGPTと同様に、刺激を使用してアウトブレイク結果を生成しますが、通常は単語ではなく画像で構成されています。
このプラットフォームは何百万人もの人々によって使用されており、Twitterのユーザーを含め、世界中の人々が彼らにだまされるほど現実的な画像を生成しました。
教皇フランシスコが首に十字架がぶら下がっている大きな白いジャケットを着ている写真は、今年初めにソーシャルメディアユーザーを狂わせました。
また、ドナルド・トランプの逮捕の偽の画像と、プラットフォームを使用して作成された「最後のサッパーセルフィー」もあります。
このプログラムは最近、そのイメージの写真主義者を高めたソフトウェアの新しいバージョンをリリースしましたが、その人気をさらに高めただけです。
タイムズの調査によると、ミッドジャーニーのユーザーの中には、女性や有名人だけでなく、子供のセクシュアライゼーション画像も多数制作している人もいます。
その中には、ジェニファー・ローレンスとキム・カーダシアンの露骨なディープフェイク画像があります。
ユーザーはDiscordコミュニケーションプラットフォームを使用して刺激を作成し、公開ギャラリーのMid Journeyウェブサイトに制作された画像をアップロードします。
同社はコンテンツは「PG-13で家族にやさしい」べきだと述べているが、同社はまた、新しい技術のために「常に期待どおりに機能するとは限らない」と警告している。
ただし、発見された露骨な画像は、ミッドジャーニーとディスコードの使用要件に違反しています。
児童性的虐待の仮想画像は米国では違法ではありませんが、英国とウェールズでは、非写真画像として知られるこのようなコンテンツが禁止されています。
NSPCCのオンライン児童安全ポリシー責任者リチャード・コラード氏は、「DiscordとMidjourneyが児童の侮辱的、虐待的、消毒的な画像の作成とホスティングを積極的に促進していることは容認できない」と述べた。
「場合によっては、この資料は英国の法律で違法になり、児童虐待のコンテンツを保存することによって、子供たちを非常に現実的な危険の危険にさらすことになります」と、デイリーメールが引用したコラードは付け加えました。
「親子が画像を盗まれ、犯罪者によって調整されるのは悲しいことです」と彼は言いました。
「信頼できる連絡先に画像のみを投稿し、プライバシー設定を管理することで、保護者はこの方法で画像が使用されるリスクを減らすことができます」と彼はアドバイスを与えて言いました。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
