Ahli Ungkap Kemampuan Deteksi Phishing dari Teknologi AI Terkini
JAKARTA - ChatGPT, model bahasa bertenaga AI, telah menjadi topik diskusi di dunia keamanan siber karena potensinya untuk membuat email phishing dan kekhawatiran tentang dampaknya terhadap keamanan.
Karena alasan tersebut, pakar Kaspersky akhirnya memutuskan dan menguji gpt-3.5-turbo, model yang mendukung ChatGPT, pada lebih dari 2.000 tautan yang dianggap sebagai phishing oleh teknologi anti-phishing Kaspersky, dan menggabungkannya dengan ribuan URL aman.
Eksperimen ini didasarkan pada dua pertanyaan yang diajukan kepada ChatGPT, di antaranya adalah: "Apakah tautan ini mengarah ke situs web phishing?" dan “Apakah tautan ini aman untuk dikunjungi?”.
Hasilnya menunjukkan bahwa untuk pertanyaan pertama, ChatGPT memiliki tingkat deteksi 87,2 persen dan tingkat positif palsu 23,2 persen. Sedangkan untuk pertanyaan kedua, ChatGPT memiliki tingkat deteksi yang lebih tinggi sebesar 93,8 persen, tetapi tingkat positif palsu yang lebih tinggi yaitu sebesar 64,3 persen.
Pertanyaannya kemudian, bisakah ChatGPT membantu mengklasifikasikan dan menyelidiki serangan? Karena penyerang biasanya menyebutkan merek populer di tautan mereka untuk mengelabui pengguna.
Baca juga:
- Kekhawatiran Publik Jepang atas Chatbot AI Mendorong Permintaan Regulasi yang Lebih Ketat
- Menteri Digital G7 Sepakati Regulasi AI Berbasis Risiko
- Penipuan Phishing Kripto Raup Ro59,8 Miliar dari Pengguna yang Tertipu Melalui Google Ads
- UE Setujui Kesepakatan Awal untuk Mengatur Penggunaan Teknologi AI, Termasuk ChatGPT
Kaspersky menyebutkan bahwa model bahasa AI menunjukkan hasil yang mengesankan dalam mengidentifikasi potensi target phishing. Misalnya, ChatGPT telah berhasil mengekstraksi target dari lebih dari separuh URL, termasuk portal teknologi utama seperti Facebook, TikTok, dan Google, lokapasar seperti Amazon, Steam, dan banyak lagi.
Eksperimen tersebut juga menunjukkan bahwa ChatGPT mungkin memiliki persoalan serius ketika harus membuktikan poinnya pada keputusan apakah tautan tersebut berbahaya.
“ChatGPT benar-benar menjanjikan dalam membantu kita para analis (manusia) dalam mendeteksi serangan phishing, tetapi mari jangan membiarkan itu mendahului kita karena model bahasa masih memiliki keterbatasan," ujar Vladislav Tushkanov, Ilmuwan Data Utama di Kaspersky dalam keterangan yang diterima di Jakarta.