AI Midjourney Digunakan oleh Pedofil untuk Membuat Gambar Seksual Anak-Anak dan Selebritas

JAKARTA - Paedophiles disebut-sebut menggunakan platform kecerdasan buatan (AI) baru yang populer untuk mengubah foto-foto asli anak-anak menjadi gambar-gambar yang diseksualisasikan.

Hal ini telah memicu peringatan kepada orangtua agar berhati-hati dengan gambar-gambar anak-anak mereka yang diposting online.

Gambar-gambar itu ditemukan pada generator gambar AI, Midjourney AS, yang seperti ChatGPT, menggunakan rangsangan untuk menghasilkan hasil keluaran, meskipun biasanya terdiri dari gambar daripada kata-kata.

Platform ini digunakan oleh jutaan orang dan telah menghasilkan gambar-gambar yang sangat realistis sehingga orang-orang di seluruh dunia terkecoh oleh mereka, termasuk pengguna di Twitter.

Sebuah gambar Paus Fransiskus mengenakan jaket tebal putih besar dengan salib menggantung di lehernya membuat pengguna media sosial menjadi gila awal tahun ini.

Juga ada gambar palsu penangkapan Donald Trump dan 'The Last Supper Selfie' yang dihasilkan menggunakan platform tersebut.

Program tersebut baru-baru ini merilis versi baru perangkat lunaknya yang telah meningkatkan kefotorealisman dari gambarnya, hanya meningkatkan popularitasnya lebih lanjut.

Penyelidikan oleh The Times menemukan bahwa beberapa pengguna Midjourney sedang membuat sejumlah besar gambar-gambar seksualisasi anak-anak, serta wanita dan selebritas.

Di antaranya adalah gambar-gambar deepfake eksplisit dari Jennifer Lawrence dan Kim Kardashian.

Pengguna menggunakan platform komunikasi Discord untuk membuat rangsangan dan kemudian mengunggah gambar yang dihasilkan di situs web Midjourney di galeri publik.

Meskipun perusahaan mengatakan bahwa konten harus 'PG-13 dan ramah keluarga', perusahaan juga telah memperingatkan bahwa karena teknologi baru, 'tidak selalu bekerja seperti yang diharapkan'.

Namun, gambar-gambar eksplisit yang ditemukan melanggar persyaratan penggunaan Midjourney dan Discord.

Meskipun gambar-gambar virtual pelecehan seksual anak tidak ilegal di AS, di Inggris dan Wales konten seperti ini - dikenal sebagai gambaran non-fotografi - dilarang.

Kepala kebijakan keselamatan anak online NSPCC, Richard Collard, mengatakan: "Sangat tidak dapat diterima bahwa Discord dan Midjourney secara aktif memfasilitasi pembuatan dan hosting gambaran yang merendahkan, penyalahgunaan, dan diseksualisasi anak-anak."

"Dalam beberapa kasus, materi ini akan menjadi ilegal menurut hukum Inggris dan dengan menyimpan konten pelecehan anak, mereka menempatkan anak-anak pada risiko bahaya yang sangat nyata," tambah Collard, dikutip Daily Mail.

"Sangat menyedihkan bagi orangtua dan anak-anak untuk memiliki gambar mereka dicuri dan disesuaikan oleh pelaku kejahatan," ucapnya.

"Dengan hanya memposting gambar ke kontak terpercaya dan mengelola pengaturan privasi mereka, orangtua dapat mengurangi risiko gambar digunakan dengan cara ini," ujarnya memberi saran.