Penggunaan Kecerdasan Buatan dalam Kampanye Pengaruh Online Meningkat, Termasuk di Indonesia

JAKARTA - Firma keamanan siber Mandiant yang dimiliki oleh Google di Amerika Serikat mengatakan pada  Kamis 17 Agustus  bahwa mereka telah melihat peningkatan penggunaan kecerdasan buatan (AI) untuk melakukan kampanye informasi manipulatif secara online dalam beberapa tahun terakhir, meskipun penggunaan teknologi ini dalam intrusi digital lainnya masih terbatas.

Para peneliti di perusahaan yang berbasis di Virginia ini menemukan "banyak contoh" sejak tahun 2019 di mana konten yang dihasilkan oleh AI, seperti gambar profil yang difabrikasi, telah digunakan dalam kampanye pengaruh online yang bermotivasi politik.

Hal ini termasuk kampanye dari kelompok-kelompok yang sejalan dengan pemerintah-pemerintah Rusia, China, Iran, Ethiopia, Indonesia, Kuba, Argentina, Meksiko, Ekuador, dan El Salvador, demikian laporan tersebut menyebutkan.

Hal ini terjadi di tengah booming baru-baru ini dalam model AI generatif seperti ChatGPT, yang membuat lebih mudah untuk membuat video palsu, gambar, teks, dan kode komputer yang meyakinkan. Pejabat keamanan telah memperingatkan tentang model-model seperti ini yang digunakan oleh pelaku kejahatan siber.

AI generatif akan memungkinkan kelompok-kelompok dengan sumber daya terbatas untuk menghasilkan konten berkualitas lebih tinggi dalam skala yang lebih besar, kata para peneliti Mandiant.

"Sebagai contoh, kampanye informasi yang terkait dengan negara China bernama Dragonbridge, telah berkembang "eksponensial" melalui 30 platform sosial dan 10 bahasa yang berbeda sejak pertama kali dimulai dengan menargetkan para demonstran pro-demokrasi di Hong Kong pada tahun 2019," kata Sandra Joyce, wakil presiden Mandiant Intelligence.

Namun, dampak dari kampanye-kampanye tersebut terbatas. "Dari sudut pandang efektivitas, tidak banyak kemenangan di sana," kata Joycem dikutip Reuters. "Mereka benar-benar belum mengubah arah lanskap ancaman sejauh ini."

China telah membantah tuduhan Amerika Serikat tentang keterlibatan dalam kampanye pengaruh semacam itu sebelumnya.

Mandiant, yang membantu organisasi publik dan swasta merespons pelanggaran digital, mengatakan bahwa mereka belum melihat AI memainkan peran kunci dalam ancaman dari Rusia, Iran, China, atau Korea Utara.

"Sejauh ini, kami belum melihat satu insiden respons di mana AI memainkan peran," kata Joyce. "Mereka belum benar-benar digunakan dalam jenis penggunaan praktis yang lebih unggul daripada apa yang dapat dilakukan dengan alat normal yang telah kita lihat."

Tetapi dia menambahkan: "Kita bisa sangat yakin bahwa ini akan menjadi masalah yang semakin besar seiring waktu."