Meta Temukan Penggunaan Konten yang Kemungkinan Dihasilkan oleh AI dalam Operasi Online

JAKARTA - Meta mengumumkan pada  Rabu 29 Mei bahwa mereka telah menemukan konten yang "kemungkinan dihasilkan oleh kecerdasan buatan (AI)" yang digunakan secara menyesatkan di platform Facebook dan Instagram. Konten tersebut termasuk komentar yang memuji penanganan Israel terhadap perang di Gaza yang dipublikasikan di bawah posting dari organisasi berita global dan anggota kongres Amerika Serikat.

Perusahaan media sosial ini menyebutkan dalam laporan keamanan triwulanan mereka bahwa akun-akun tersebut menyamar sebagai mahasiswa Yahudi, orang Afrika Amerika, dan warga negara lain yang prihatin, dengan sasaran audiens di Amerika Serikat dan Kanada. Meta menyalahkan kampanye tersebut kepada perusahaan pemasaran politik berbasis Tel Aviv, STOIC.

STOIC sendiri tidak segera memberikan tanggapan terhadap tuduhan tersebut.

Meskipun Meta telah menemukan foto profil dasar yang dihasilkan oleh kecerdasan buatan dalam operasi pengaruh sejak 2019, laporan ini merupakan pertama kalinya untuk mengungkap penggunaan teknologi AI yang dihasilkan oleh teks sejak muncul pada akhir 2022. Peneliti telah khawatir bahwa AI generatif, yang dapat dengan cepat dan murah menghasilkan teks, gambar, dan audio mirip manusia, bisa menyebabkan kampanye disinformasi yang lebih efektif dan mempengaruhi hasil pemilihan.

Dalam siaran pers, eksekutif keamanan Meta mengatakan bahwa mereka menghapus kampanye Israel tersebut secara cepat dan tidak berpikir bahwa teknologi AI baru menghambat kemampuan mereka untuk mengganggu jaringan pengaruh, yang merupakan upaya terkoordinasi untuk mendorong pesan-pesan tertentu.

"Ada beberapa contoh di seluruh jaringan tersebut tentang bagaimana mereka menggunakan alat generatif AI yang kemungkinan besar untuk membuat konten. Mungkin memberi mereka kemampuan untuk melakukannya dengan lebih cepat atau dengan volume yang lebih banyak. Tetapi hal itu tidak benar-benar mempengaruhi kemampuan kami untuk mendeteksi mereka," kata kepala penyelidikan ancaman Meta, Mike Dvilyanski.

Laporan tersebut menyoroti enam operasi pengaruh yang tersembunyi yang menganggu Meta  pada kuartal pertama. Selain jaringan STOIC, Meta juga menutup jaringan berbasis Iran yang fokus pada konflik Israel-Hamas, meskipun tidak mengidentifikasi penggunaan AI generatif dalam kampanye tersebut.

Meta dan raksasa teknologi lainnya telah berjuang untuk mengatasi potensi penyalahgunaan teknologi AI baru, terutama dalam pemilihan.

Penemuan konten yang kemungkinan dihasilkan oleh AI yang digunakan secara menyesatkan menyoroti tantangan yang dihadapi oleh perusahaan media sosial dalam mendeteksi dan mengurangi aktivitas semacam itu. Ini juga menegaskan perlunya kewaspadaan dan adaptasi teknologi yang terus-menerus oleh platform media sosial untuk melawan taktik manipulasi dan disinformasi yang terus berkembang secara online.