JAKARTA - OpenAI melaporkan adanya peningkatan upaya penggunaan model AI-nya untuk menghasilkan konten palsu yang bertujuan mempengaruhi pemilu, termasuk artikel panjang dan komentar di media sosial.
Dalam laporan yang dirilis Rabu 9 Oktober, pembuat ChatGPT ini menyebutkan bahwa penjahat siber semakin sering memanfaatkan alat AI untuk kegiatan berbahaya seperti pembuatan dan debugging malware, serta memproduksi konten palsu untuk situs web dan platform media sosial.
Sepanjang tahun 2024, OpenAI telah berhasil menetralkan lebih dari 20 upaya semacam itu, termasuk beberapa akun ChatGPT yang digunakan pada Agustus untuk memproduksi artikel terkait pemilu AS. Pada bulan Juli, OpenAI juga melarang sejumlah akun dari Rwanda yang digunakan untuk menghasilkan komentar terkait pemilu di negara tersebut untuk diposting di media sosial X.
BACA JUGA:
Meskipun begitu, OpenAI menekankan bahwa tidak ada aktivitas yang bertujuan mempengaruhi pemilu global yang berhasil mendapatkan perhatian besar atau audiens yang berkelanjutan. Kekhawatiran mengenai penggunaan alat AI untuk menghasilkan dan menyebarkan informasi palsu terkait pemilu terus meningkat, terutama menjelang pemilu presiden AS yang akan berlangsung pada 5 November.
Menurut Departemen Keamanan Dalam Negeri AS, ada ancaman yang meningkat dari Rusia, Iran, dan China dalam upaya mempengaruhi pemilu dengan menggunakan AI untuk menyebarkan informasi palsu atau memecah belah.
OpenAI, yang baru saja menerima pendanaan sebesar 6,6 miliar dolar AS (Rp103,3 triliun), kini menjadi salah satu perusahaan swasta paling berharga di dunia, dengan ChatGPT memiliki 250 juta pengguna aktif mingguan sejak diluncurkan pada November 2022