「アップルと署名する」機能はいくつかのディープフェイクヌードサイトで利用できます

「Appleで署名する」機能は広く誤用されています(写真:x @apple)

ジャカルタ - アプリやWebサイトにサインアップするためのより速く、より便利で、プライバシーに重点を置いた方法として2019年に開始された「Appleと一緒に署名する」機能は、合意に基づかない画像を備えたいくつかのディープフェイクサイトで利用可能であることが判明しました。この調査結果はWiredによって報告され、偽のヌード画像の作成に焦点を当てた最大のディープフェイクサイトのうち6つがAppleとのログインオプションを提供していることが判明しました。

ディープフェイクとは、人工知能(AI)によって生成された画像、オーディオ、またはビデオで、実際の人がデジタルで変換されています。この技術は、政治家に物議を醸すことを言うように見せることから、恥ずかしがったり脅迫したりする人の偽のヌード画像を作成することまで、さまざまな不快な目的に使用できます。ディープフェイクソフトウェアの洗練が進むにつれて、これらの画像の検出はますます困難になっています。

Appleに加えて、Wiredは、これらのディープフェイクサイトのいくつかがGoogle、Discord、Line、Patrionのログインオプションを使用していることも発見しました。これらのログインオプションの提供は、疑わしい目的に使用されているものの、サイトの正当性の印象を生み出し、それらのサイトの信頼性を高めるために使用されているようです。

Wiredはまた、最大のディープフェイクサイトの16がGoogleとのログインを提供し、13がDiscordで、6がAppleとログインしていると報告しています。しかし、WiredがこれについてAppleに連絡した後、同社はすぐに「Appleとの署名」機能の誤用に関与したすべての開発者アカウントを削除することで対応しました。

Discordも同様のことをしましたが、Googleは利用規約に違反した開発者に対して措置を講じると述べました。Patreonはまた、露骨な画像作成を許可するアカウントを禁止していると述べ、 Lineは特定のサイトに関するさらなるコメントはしていないが、調査中であると述べた。

このレポートは、テクノロジー企業が機能が無責任な当事者によって悪用されないように監視し、保証し続けることがいかに重要であるかを示しています。