Peneliti Ciptakan DetectGPT Demi Perangi ChatGPT di Dunia Pendidikan yang Semakin Mengkhawatirkan

JAKARTA - Belakangan banyak yang khawatir atas munculnya chatbot berbasis Kecerdasan Buatan (AI), termasuk Google dan bagaimana dampaknya terhadap dunia pendidikan. Sekarang, solusinya telah muncul dengan DetectGPT.

Dibesut tim peneliti di Stanford University, DetectGPT menjadi salah satu alat pertama untuk memerangi teks yang dihasilkan oleh Large Language Models (LLM) pada aplikasi teks AI populer seperti ChatGPT di dunia pendidikan.

Metode seperti itu, yang didasarkan pada gagasan teks dihasilkan oleh LLM biasanya berada di sekitar wilayah tertentu menggunakan kelengkungan lokal dari fungsi probabilitas log model.

Artinya, model akan mengenali pola yang mungkin menunjukkan sepotong teks dihasilkan AI, berdasarkan apa yang disajikan berkat metode zero-shot. Mengenali pola-pola ini, DetectGPT harus dapat mendeteksi jika terdapat sepotong teks dihasilkan oleh AI.

DetectGPT beroperasi sangat kontras dengan metode lain yang membutuhkan pengklasifikasi pelatihan dan kumpulan data dari bagian nyata dan yang dihasilkan.

Selain itu, tim peneliti menguji DetectGPT pada kumpulan data artikel berita palsu dan mengungguli metode zero-shot lainnya untuk mendeteksi teks yang dihasilkan mesin.

Secara khusus, mereka menemukan DetectGPT meningkatkan deteksi artikel berita palsu yang dihasilkan oleh parameter 20B GPT-NeoX dari 0,81 AUROC untuk baseline zero-shot terkuat menjadi 0,95 AUROC untuk DetectGPT.

Metode zero-shot yang tidak memerlukan data atau pelatihan tambahan, menjadikannya alat yang efisien dan efektif untuk mengidentifikasi teks yang dihasilkan mesin.

Karena penggunaan LLM terus berkembang, pentingnya sistem yang sesuai untuk mendeteksi teks yang dihasilkan mesin akan menjadi semakin penting, seperti dikutip dari Neowin, Senin, 30 Januari.

DetectGPT adalah pendekatan yang menjanjikan yang dapat berdampak signifikan di banyak bidang, dan pengembangan lebih lanjut dapat bermanfaat bagi banyak bidang.