Penggunaan AI Undressing Meningkat, Mengundang Ancaman Terhadap Privasi dan Keamanan
JAKARTA - Perusahaan analisis media sosial, Graphika, mengungkapkan bahwa penggunaan "AI undressing" atau "AI membuka pakaian" semakin meningkat.
Praktik ini melibatkan penggunaan alat kecerdasan buatan generatif (AI) yang disesuaikan dengan presisi untuk menghapus pakaian dari gambar yang diberikan oleh pengguna.
Menurut laporan mereka, Graphika mengukur jumlah komentar dan posting di Reddit dan X yang berisi tautan referral ke 34 situs web dan 52 saluran Telegram yang menyediakan layanan NCII sintetis, dan totalnya mencapai 1.280 pada tahun 2022 dibandingkan dengan lebih dari 32.100 sejauh ini tahun ini, mewakili peningkatan volume sebesar 2.408% secara tahunan.
Layanan NCII sintetis merujuk pada penggunaan alat kecerdasan buatan untuk membuat Gambar Intim Tanpa Persetujuan (NCII), sering melibatkan pembuatan konten eksplisit tanpa persetujuan individu yang digambarkan.
Graphika menyatakan bahwa alat AI ini memudahkan banyak penyedia dalam menghasilkan konten eksplisit yang realistis dalam skala besar dengan biaya yang efisien.
Tanpa adanya penyedia ini, pelanggan akan menghadapi beban mengelola model difusi gambar khusus mereka sendiri, yang memakan waktu dan mahal.
Graphika memperingatkan bahwa peningkatan penggunaan alat AI undressing dapat mengarah pada pembuatan konten eksplisit palsu dan berkontribusi pada masalah seperti pelecehan yang ditargetkan, sextortion, dan produksi materi kejahatan seksual anak (CSAM).
Meskipun AI undress biasanya fokus pada gambar, AI juga telah digunakan untuk membuat deepfake video menggunakan kemiripan tokoh terkenal, termasuk tokoh YouTube Mr. Beast dan aktor Hollywood Tom Hanks.
Baca juga:
Dalam laporan terpisah pada bulan Oktober, firma pengawas internet berbasis Inggris, Internet Watch Foundation (IWF), mencatat bahwa mereka menemukan lebih dari 20.254 gambar pelecehan anak di satu forum dark web hanya dalam satu bulan. IWF memperingatkan bahwa pornografi anak yang dihasilkan oleh AI bisa "menghancurkan" internet.
Karena kemajuan dalam citra AI generatif, IWF memperingatkan bahwa membedakan antara pornografi deepfake dan gambar otentik telah menjadi lebih sulit.
Dalam laporan 12 Juni, Perserikatan Bangsa-Bangsa menyebutkan bahwa media yang dihasilkan oleh kecerdasan buatan adalah ancaman "serius dan mendesak" terhadap integritas informasi, khususnya di media sosial. Negosiator Parlemen Eropa dan Dewan menyetujui aturan yang mengatur penggunaan kecerdasan buatan di Uni Eropa pada Jumat, 8 Desember.