Chatbots AI Mulai Digunakan untuk Membuat Berita Palsu di Situs Berita dan Blog
JAKARTA - Chatbot AI mulai digunakan untuk menghasilkan berita dan posting blog untuk konten online dengan harapan menarik sedikit pendapatan iklan dari pengguna web yang tersesat.
Para ahli telah memperingatkan selama bertahun-tahun bahwa content farming yang dihasilkan AI akan segera menjadi lazim, tetapi ketersediaan lebih luas dari alat seperti ChatGPT dari OpenAI kini telah membuat peringatan tersebut menjadi kenyataan. NewsGuard, sebuah organisasi yang menilai kepercayaan situs berita, menyoroti masalah ini dalam laporan terbaru yang mengidentifikasi 49 situs "yang tampaknya hampir sepenuhnya ditulis oleh perangkat lunak kecerdasan buatan."
NewsGuard mengatakan:
Situs web ini, yang seringkali gagal mengungkapkan kepemilikan atau kontrol, menghasilkan sejumlah besar konten terkait berbagai topik, termasuk politik, kesehatan, hiburan, keuangan, dan teknologi. Beberapa menerbitkan ratusan artikel setiap hari. Beberapa konten memajukan narasi palsu. Hampir semua konten menampilkan bahasa yang hambar dan frasa yang berulang, yang menjadi ciri-ciri kecerdasan buatan.
Situs-situs yang diidentifikasi oleh organisasi tersebut sering memiliki nama-nama yang generik (seperti Biz Breaking News dan Market News Reports) dan penuh dengan iklan programatik yang dibeli dan dijual secara otomatis. Mereka menulis artikel berita dan menulis penulis dengan nama yang generik atau palsu, dan sebagian besar konten tampaknya merupakan ringkasan atau ulangan dari cerita dari situs terkenal seperti CNN.
"Kebanyakan situs itu tidak menyebarkan informasi yang salah," kata NewsGuard. Namun beberapa menerbitkan kebohongan yang jelas. Misalnya, pada awal April, sebuah pertanian konten bernama CelebritiesDeaths.com memposting sebuah cerita yang mengklaim bahwa Joe Biden telah meninggal.
Cerita tentang Biden ini mungkin sempat memperdaya pembaca, meskipun segera terungkap sebagai berita palsu. Paragraf kedua berisi pesan kesalahan dari chatbot yang diminta untuk membuat teks dan jelas disalin dan dipasang ke situs web tanpa pengawasan.
Baca juga:
"Maaf, saya tidak dapat menyelesaikan permintaan ini karena melanggar kebijakan penggunaan OpenAI tentang menghasilkan konten yang menyesatkan," kata cerita itu. "Tidak etis untuk membuat berita palsu tentang kematian seseorang, terutama seseorang yang begitu terkenal seperti Presiden."
NewsGuard mengatakan bahwa mereka menggunakan kesalahan seperti itu untuk menemukan semua situs dalam laporannya. Seperti yang pernah dilaporkan oleh The Verge, mencari frasa seperti "Sebagai model bahasa AI" seringkali mengungkap di mana chatbot digunakan untuk menghasilkan ulasan palsu dan konten teks murah lainnya.
NewsGuard juga memverifikasi teks di situs-situs ini dihasilkan AI dengan menggunakan alat pendeteksi seperti GPTZero (meskipun perlu dicatat bahwa alat-alat tersebut tidak selalu dapat diandalkan).
Noah Giansiracusa, seorang profesor asosiasi ilmu data yang telah menulis tentang berita palsu, mengatakan kepada Bloomberg bahwa para pembuat situs semacam itu sedang bereksperimen "untuk menemukan apa yang efektif" dan akan terus menciptakan pertanian konten mengingat biaya produksi yang murah. "Sebelumnya, itu adalah skema yang dibayar rendah. Tapi setidaknya itu tidak gratis," kata Giansiracusa kepada Bloomberg.