Dewan Pengawas Meta Tinjau Penanganan Gambar Seksual Buatan AI

JAKARTA – Selasa, 16 April,  Dewan Pengawas Meta Platforms Inc., mengumumkan bahwa mereka sedang meninjau bagaimana perusahaan tersebut menangani dua gambar yang dibuat dengan kecerdasan buatan (AI). Gambar tersebut mengandung konten seksual dari selebritas perempuan yang beredar di layanan Facebook dan Instagram.

Dewan tersebut, yang didanai oleh Meta namun beroperasi secara independen, akan menggunakan dua contoh tersebut untuk menilai keefektifan kebijakan dan praktik penegakan hukum Meta seputar pemalsuan pornografi yang dibuat menggunakan kecerdasan buatan, seperti yang dijelaskan dalam sebuah postingan blog.

Meskipun memberikan deskripsi tentang gambar-gambar tersebut, dewan tersebut tidak mengungkapkan identitas selebritas perempuan yang digambarkan di dalamnya, dengan alasan untuk "mencegah kerusakan lebih lanjut," kata juru bicara dewan.

Kemajuan dalam teknologi kecerdasan buatan telah membuat gambar-gambar, klip audio, dan video palsu menjadi sangat sulit dibedakan dari konten yang dibuat oleh manusia. Hal ini telah mengakibatkan munculnya gambar-gambar palsu yang menyebar secara online, terutama yang menampilkan perempuan dan gadis remaja.

Dalam sebuah kasus yang sempat mencuat ke publik sebelumnya pada tahun ini, platform media sosial yang dimiliki oleh Elon Musk, X, sempat memblokir sementara pengguna dari upaya mencari semua gambar penyanyi pop AS, Taylor Swift, setelah kesulitan dalam mengendalikan penyebaran gambar palsu yang eksplisit tentangnya.

Beberapa eksekutif industri telah mendesak agar dibuat legislasi yang mengkriminalisasi pembuatan "deep fake" yang berbahaya dan mengharuskan perusahaan teknologi untuk mencegah penggunaan produk mereka untuk tujuan tersebut.

Menurut deskripsi kasus-kasus yang diberikan oleh Dewan Pengawas, salah satunya melibatkan gambar AI yang menampilkan seorang wanita telanjang yang menyerupai figur publik dari India, diposting oleh sebuah akun di Instagram yang hanya membagikan gambar-gambar AI dari wanita India.

Gambar lainnya, kata dewan tersebut, muncul di sebuah grup Facebook untuk berbagi kreasi AI dan menampilkan gambar AI seorang wanita telanjang yang menyerupai "seorang figur publik Amerika" dengan seorang pria yang meraba payudaranya.

Meta menghapus gambar yang menggambarkan wanita Amerika tersebut karena melanggar kebijakan intimidasi dan pelecehan. Namun awalnya mereka membiarkan gambar yang menampilkan wanita India tersebut dan baru mengubah kebijakan setelah dewan memilihnya untuk ditinjau.

Dalam sebuah postingan terpisah, Meta mengakui kasus-kasus tersebut dan berjanji untuk melaksanakan keputusan yang diambil oleh dewan.