Google Perbarui Kebijakan dan Sistemnya untuk Atasi Deepfake Eksplisit

JAKARTA – Teknologi semakin maju dan masyarakat di berbagai belahan dunia semakin mengenal Kecerdasan Buatan (AI). Di tengah meningkatnya penggunaan AI, bentuk kekerasan baru mulai bermunculan.

Salah satunya adalah deepfake. Konten yang dibuat menggunakan citra generatif ini bisa merugikan beberapa pihak karena menghasilkan gambar atau video palsu yang terlihat asli. Parahnya lagi, deepfake bisa membuat gambar atau video seksual.

Konten deepfake dengan unsur seksual tidak seharusnya beredar di internet. Oleh karena itu, Google memperbarui proses penghapusan konten deepfake dan memperbarui sistem pemeringkatan untuk mencegah kontennya bermunculan di Google Search.

Google menjelaskan bahwa sistem yang mereka kembangkan kini bisa memproses permintaan untuk mengahapus gambar atau video palsu yang eksplisit dan non-eksplisit dari Google Search. Ketika laporan diproses, sistem akan langsung memfilter kontennya.

"Bila seseorang berhasil meminta penghapusan konten palsu eksplisit nonkonsensual yang menampilkan mereka dari Search, sistem Google akan berupaya memfilter semua hasil eksplisit pada penelusuran serupa tentang mereka," kata Google.

Tindakan sistem saat memproses dan menerima permintaan penghapusan akan berbeda. Setelah permintaannya diterima oleh tim dari Google, sistem yang digunakan Search akan langsung memindai konten dan menghapus seluruh duplikat gambar tersebut.

"Perlindungan ini telah terbukti berhasil dalam menangani jenis-jenis citra nonkonsensual lainnya, dan kini kami telah membangun kemampuan yang sama untuk citra eksplisit palsu juga," jelas Google.

Selain itu, Google memperbarui sistem pemeringkatan di mesin pencarinya agar konten palsu yang eksplisit tidak muncul di pencarian paling atas. Jika pengguna mencari kontennya dengan menyertakan nama, Google hanya menampilkan konten non-eksplisit.

"Dengan perubahan ini, orang dapat membaca tentang dampak deepfake terhadap masyarakat, daripada melihat halaman dengan gambar palsu nonkonsensual yang sebenarnya," ungkap Google.