OpenAI Blokir Akun Grup Iran yang Menggunakan ChatGPT untuk Targetkan Pemilu AS

JAKARTA -  OpenAI mengumumkan pada  Jumat 16 Agustus bahwa mereka telah menutup akun-akun milik grup asal Iran yang menggunakan chatbot ChatGPT untuk menghasilkan konten yang ditujukan untuk mempengaruhi pemilihan presiden AS dan isu-isu lainnya.

Operasi yang diidentifikasi sebagai Storm-2035 ini menggunakan ChatGPT untuk menghasilkan konten yang berfokus pada topik seperti komentar tentang para kandidat di pemilu AS, konflik di Gaza, serta kehadiran Israel di Olimpiade, yang kemudian dibagikan melalui akun-akun media sosial dan situs web.

Investigasi yang dilakukan oleh perusahaan AI yang didukung oleh Microsoft  menunjukkan bahwa ChatGPT digunakan untuk menghasilkan artikel panjang dan komentar pendek di media sosial. Namun, OpenAI menyatakan bahwa operasi tersebut tidak berhasil mencapai keterlibatan audiens yang signifikan. Sebagian besar unggahan media sosial yang teridentifikasi hanya mendapatkan sedikit atau tidak ada respons sama sekali, seperti likes, shares, atau komentar, dan tidak ada indikasi bahwa artikel-artikel web tersebut dibagikan di media sosial.

Akun-akun tersebut telah dilarang menggunakan layanan OpenAI, dan perusahaan terus memantau aktivitas untuk mencegah upaya pelanggaran kebijakan lebih lanjut.

Pada awal Agustus, laporan intelijen ancaman dari Microsoft menyebutkan bahwa jaringan Iran, Storm-2035, yang terdiri dari empat situs web yang menyamar sebagai outlet berita, aktif berinteraksi dengan kelompok pemilih AS di kedua ujung spektrum politik dengan pesan-pesan yang memecah belah tentang isu-isu seperti kandidat presiden AS, hak LGBTQ, dan konflik Israel-Hamas.

Perusahaan AI ini sebelumnya, pada bulan Mei, juga telah mengungkapkan bahwa mereka telah mengganggu lima operasi pengaruh tersembunyi yang berusaha menggunakan model mereka untuk aktivitas "menyesatkan" di seluruh internet.