AIの使用の解除の増加、プライバシーとセキュリティへの脅威の誘発

AIアンドロッシング、ディープフェイクスタイルの新しい脅威。(写真:ドキュメント。ペクセル)

ジャカルタ - ソーシャルメディア分析会社のグラフィカは、「AIの着脱」または「AIが服を開く」の使用が増加していることを明らかにしました。

このプラクティスでは、ユーザーから提供される画像から衣服を取り除くために、精密にカスタマイズされた生成人工知能(AI)ツールを使用することが含まれます。

彼らのレポートによると、GraphikaはRedditとXへのコメントと投稿の数を測定し、合成NCIIサービスを提供する34のWebサイトと52のTelegramチャンネルへの紹介リンクを含み、今年の32,100を超えるのに対し、2022年までに合計1,280に達し、年間ベースで2,408%の増加を表しました。

合成NCIIサービスは、承認のないコア画像(NCII)を作成するための人工知能ツールを使用することを指し、多くの場合、説明された個人の同意なしに露骨なコンテンツを作成します。

Graphika氏は、このAIツールにより、多くのプロバイダーが効率的なコストで現実的な露骨なコンテンツを大規模に生成しやすくなると述べています。

これらのプロバイダーがなければ、顧客は時間のかかる高価な独自の画質化モデルを管理するという負担に直面するでしょう。

Graphikaは、立ち入り禁止AIツールの使用の増加は、虚偽の明示的なコンテンツの作成につながり、標的化された嫌がらせ、性的虐待、児童性犯罪資料(CSAM)の制作などの問題に寄与する可能性があると警告しています。

辞任AIは通常画像に焦点を当てていますが、AIはビースト氏やハリウッド俳優のトム・ハンクス氏のYouTubeキャラクターの類似点を使用してビデオディープフェイクを作成するためにも使用されています。

10月の別のレポートで、英国を拠点とするインターネット監視財団(IWF)は、ダークウェブフォーラムでわずか1か月で20,254を超える児童虐待画像を発見したと述べました。IWFは、AIによって生成された児童ポルノがインターネットを「破壊」する可能性があると警告しました。

ジェネレーティブAIイメージの進歩により、IWFはディープフェイクポルノと本物の画像を区別することがより困難になっていると警告しています。

6月12日の報告書で、国連は、人工知能によって生成されたメディアは、特にソーシャルメディアにおける情報の完全性に対する「深刻かつ緊急の」脅威であると述べました。欧州議会の交渉担当者と理事会は、12月8日金曜日に欧州連合での人工知能の使用を規制する規則を承認しました。