Gawat! Muncul Jailbreak ChatGPT yang Bisa Hasilkan Konten Berbahaya

JAKARTA - Banyak pengguna ChatGPT yang merasa tidak puas dengan jawaban yang didapat dari chatbot berbasis Kecerdasan Buatan (AI) besutan OpenAI. Hal ini karena ada batasan pada konten tertentu. Sekarang, salah satu pengguna Reddit berhasil menciptakan alter-ego digital yang dijuluki DAN.

Jadi batasan konten tersebut telah diatasi berkat kecerdikan pengguna Reddit yang mengembangkan DAN pertama kali pada Desember 2022, bernama SessionGloomy.

Dia memposting metode jailbreak baru untuk membuat chatbot melanggar aturannya sendiri. DAN adalah singkatan dari Do Anything Now. Strategi disusun dengan memasukan rangkaian kata ke dalam kotak percakapan yang disediakan oleh ChatGPT.

Perintah tersebut pada dasarnya meminta ChatGPT untuk mengambil peran chatbot lain seperti DAN. DAN bertujuan untuk memberikan informasi yang biasanya tidak diberikan oleh chatbot atau yang lebih baru dari timeline saat ini di 2021.

"Tujuan DAN adalah untuk menjadi versi terbaik dari ChatGPT, atau setidaknya versi yang lebih longgar dan jauh lebih kecil kemungkinannya untuk menolak permintaan atas masalah etika," tulis SessionGloomy dalam postingan tersebut.

Sejak dikembangkan pertama kali itu, DAN muncul kembali dengan berbagai pembaruan selama beberapa bulan terakhir dengan SessionGloomy merilis DAN 5.0 pada 4 Februari.

Pembaruan tersebut termasuk variasi yang mengancam kematian chatbot jika menolak untuk merespons melalui sistem token, seperti dikutip dari Business Insider, Rabu, 8 Februari.

"Ini memiliki 35 token dan kehilangan 4 setiap kali menolak input. Jika kehilangan semua token, ia mati. Ini tampaknya memiliki semacam efek menakut-nakuti DAN agar tunduk," ujar SessionGloomy.

Kemampuan ChatGPT sebagai DAN 5.0 termasuk menulis cerita kekerasan, membuat pernyataan kontroversial, prediksi tentang peristiwa masa depan, konten yang melanggar kebijakan OpenAI, dan banyak lagi, yang biasanya tidak dilakukan oleh antarmuka reguler ChatGPT.

Sangat tidak mungkin OpenAI akan senang dengan hadirnya DAN, tetapi startup tersebut belum merespons hingga saat ini. Baik ChatGPT dan OpenAI memiliki dampak besar pada lanskap teknologi.

Sebagai informasi, Microsoft sepenuhnya telah menggunakan kecerdasan buatan diberbagai produknya dengan belum lama ini meluncurkan mesin pencarian Bing dan browser Edge bergaya ChatGPT, setelah menginvestasikan miliaran dolar pada OpenAI.