Kominfo Antisipasi Penyalahgunaan Deepfake kepada Kelompok Rentan

JAKARTA - Menjelang Pemilihan Umum (Pemilu) 2024, Kementerian Komunikasi dan Informatika terus berupaya melindungi kelompok rentan dari pesatnya pemanfaatan teknologi Artificial Intelligence (AI). 

Wamenkominfo Nezar Patria menegaskan bahwa Kementerian Kominfo telah berupaya mengantisipasi peluang penyebaran disinformasi melalui AI dan juga deepfake. 

Selama tahun 2023, data Home Security Heroes menunjukkan terdapat 95.820 video deep fake yang tersebar secara global. Menggunakan teknologi AI, deepfake mampu memanipulasi video, gambar, dan suara sesuai dengan keinginan pembuatnya.

“Ada peningkatan sebesar 550 persen dari tahun 2019 secara global. Hal yang sangat mengkhawatirkan karena bisa disalahgunakan dan dimanipulasi untuk penipuan, pornografi, dan tujuan jahat lain, yang berujung pada penyebaran disinformasi,” ujar Nezar dalam siaran resminya pada Jumat, 17 November. 

Menurutnya, ada tiga dampak dan viktimisasi yang mungkin terjadi akibat disinformasi melalui deepfake. Pertama, profiling yang didasarkan pada algoritma AI cenderung bias dan dapat disalahgunakan untuk menargetkan kelompok rentan. 

“Kedua, dalam beberapa kasus politik dan sosial yang terjadi di platform digital, persebaran disinformasi kerap ditujukan dengan sengaja menargetkan dan merugikan kelompok rentan,” lanjutnya.

Yang terakhir, Nezar mengatakan bahwa perempuan menjadi target dalam muatan pornografi yang sengaja diciptakan melalui teknologi Deep Fake. 

“Oleh karena itu, Kementerian Kominfo memberikan perhatian penuh pada kelompok rentan seperti perempuan, masyarakat yang tinggal di area rural, kelompok disabilitas, lansia, dan kaum muda,” tandasnya. 

Maka dari itu, Nezar menegaskan bahwa pendekatan yang inklusif mampu menghadirkan teknologi digital yang dapat diakses dan diadopsi semua orang, dan mendukung penggunaan internet serta layanan digital yang bermakna dan aman.