Kebijakan Baru: YouTube Akan Hapus Konten AI yang Menirukan Korban Meninggal

JAKARTA - YouTube memperbarui kebijakannya terkait pelecehan dan penindasan maya untuk membatasi konten yang “mensimulasikan secara realistis” kematian anak di bawah umur.

Melansir dari TechCrunch, perubahan kebijakan ini terjadi karena beberapa pembuat konten kriminal telah menggunakan AI dalam membuat konten yang palsu terkait anak-anak yang telah meninggal atau hilang. 

Dalam kasus ini, mereka biasanya menggunakan AI untuk menduplikasi kan suara dari suatu kasus, untuk menggambarkan kematian mereka. 

“Pada tanggal 16 Januari, kami akan mulai menyerang konten yang secara realistis menyimulasikan kematian anak di bawah umur atau korban peristiwa kekerasan besar yang mematikan atau terdokumentasi dengan baik yang menggambarkan kematian atau kekerasan yang mereka alami,” tulis YouTube dalam pengumuman resminya. 

Dalam beberapa bulan terakhir, menyitat informasi dari The Washington Post, pembuat konten telah menggunakan AI untuk menceritakan berbagai kasus penting, termasuk penculikan dan kematian James Bulger yang berusia dua tahun asal Inggris. 

Selain itu, terdapat juga narasi yang dibuat dengan AI tentang Madeleine McCann, seorang anak Inggris yang berusia tiga tahun yang menghilang dari sebuah resor. 

Ada juga narasi tentang Gabriel Fernández, seorang anak laki-laki berusia delapan tahun yang disiksa dan dibunuh oleh ibu dan pacarnya di California. 

Karena kegelisahan tersebut, YouTube akhirnya mengambil langkah tegas untuk menghapus konten yang melanggar kebijakan baru tersebut. 

Sedangkan bagi pengguna yang melanggar, mereka akan menerima teguran untuk tidak akan dapat mengupload video, streaming langsung, atau cerita selama satu minggu. Setelah tiga kali teguran, saluran mereka akan dihapus secara permanen dari YouTube.