Meta Diminta Perbaiki Aturan Terkait Pornografi AI oleh Dewan Pengawas

JAKARTA - Dewan Pengawas Meta pada Kamis 25 Juli, mengkritik aturan perusahaan yang dianggap "tidak cukup jelas" dalam melarang gambar seksual eksplisit yang dihasilkan oleh AI. Mereka  meminta perubahan untuk mencegah penyebaran gambar semacam itu di platform Meta.

Dewan Pengawas, yang didanai oleh Meta namun beroperasi secara independen, mengeluarkan keputusan tersebut setelah meninjau dua gambar pornografi yang memalsukan wanita terkenal menggunakan kecerdasan buatan dan diposting di Facebook dan Instagram milik Meta.

Meta mengonfirmasi bahwa mereka akan meninjau rekomendasi dewan dan memberikan pembaruan mengenai perubahan yang diterima. Dalam laporannya, dewan hanya menyebutkan kedua wanita sebagai tokoh publik wanita dari India dan Amerika Serikat, dengan alasan privasi.

Dewan menemukan bahwa kedua gambar tersebut melanggar aturan Meta yang melarang "photoshop seksual yang merendahkan," yang diklasifikasikan perusahaan sebagai bentuk perundungan dan pelecehan. Dewan mengatakan Meta seharusnya segera menghapus gambar tersebut.

Dalam kasus wanita India, Meta gagal meninjau laporan pengguna mengenai gambar tersebut dalam waktu 48 jam, sehingga tiket tersebut otomatis ditutup tanpa tindakan. Pengguna mengajukan banding, tetapi perusahaan kembali menolak untuk bertindak, dan hanya membalikkan keputusan setelah dewan mengangkat kasus tersebut.

Dalam kasus selebritas Amerika, sistem Meta secara otomatis menghapus gambar tersebut.

"Pembatasan terhadap konten ini adalah sah," kata dewan, dikutip VOI dari Reuters. "Mengingat beratnya dampak, menghapus konten adalah satu-satunya cara yang efektif untuk melindungi orang-orang yang terkena dampak."

Dewan merekomendasikan Meta untuk memperbarui aturan mereka untuk memperjelas cakupannya, dengan mengatakan, misalnya, bahwa penggunaan kata "photoshop" terlalu sempit dan larangan harus mencakup berbagai teknik pengeditan, termasuk AI generatif.

Dewan juga mengecam Meta karena menolak untuk menambahkan gambar wanita India ke dalam database yang memungkinkan penghapusan otomatis seperti yang terjadi pada kasus wanita Amerika.

Menurut laporan tersebut, Meta mengatakan kepada dewan bahwa mereka mengandalkan liputan media untuk menentukan kapan menambahkan gambar ke database, praktik yang dianggap dewan sebagai "mengkhawatirkan."

"Banyak korban gambar intim deepfake tidak berada di sorotan publik dan terpaksa menerima penyebaran gambar mereka yang tidak konsensual atau mencari dan melaporkan setiap instance," kata dewan