Deepfake Naik 550 Persen, Komdigi Minta Platform Hadirkan Fitur Pengenalan Konten AI

JAKARTA - Wakil Menteri Komunikasi dan Digital, Nezar Patria, meminta platform digital menghadirkan fitur pengecekan dalam mengenali konten yang dibuat artificial intelligence (AI) untuk membantu masyarakat menangkal hoaks dan deepfake. 

Menurutnya, berdasarkan data dari Sensity AI mencatat, setidaknya terjadi peningkatan 550 persen konten deepfake dalam lima tahun terakhir. 

“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” kata Nezar dalam keterangannya dikutip Kamis, 11 September. 

Nezar juga meyakini kalau semua platform digital memiliki teknologi komputasi dan algoritma yang bisa dimanfaatkan untuk memfilter konten-konten yang dibuat oleh AI di platformnya masing-masing. 

“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” jelasnya.

Nezar menekankan pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.

Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP TUNAS, dan sejumlah peraturan teknis. Saat ini, pemerintah juga menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab.

“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar.