Peniliti di Universitas Chicago Ciptakan Alat untuk Meracuni AI

JAKARTA - Para peneliti di Universitas Chicago telah mengembangkan sebuah alat yang memberikan kemampuan kepada para seniman untuk "membuat racun" pada karya seni digital mereka. Ini dilakukan guna menghentikan pengembang untuk melatih sistem kecerdasan buatan (AI) dengan karya mereka.

Disebut "Nightshade," dinamai dari keluarga tumbuhan yang beracun — alat ini memodifikasi gambar dengan cara tertentu sehingga keberadaannya mencemari kumpulan data yang digunakan untuk melatih AI dengan informasi yang salah.

Menurut laporan dari MIT's Technology Review, Nightshade mengubah piksel dari gambar digital agar dapat menipu sistem AI untuk salah menafsirkannya. Sebagai contoh, Tech Review menyebutkan bahwa alat ini dapat meyakinkan AI bahwa gambar kucing sebenarnya adalah anjing dan sebaliknya.

Dengan melakukannya, kemampuan AI untuk menghasilkan output yang akurat dan masuk akal secara teoritis akan terganggu. Dalam contoh di atas, jika seorang pengguna meminta gambar "kucing" dari AI yang tercemar, mereka mungkin malah mendapatkan gambar anjing yang ditandai sebagai kucing atau gabungan dari semua "kucing" dalam set pelatihan AI, termasuk gambar-gambar anjing yang sebenarnya telah dimodifikasi oleh alat Nightshade.

Ahli yang melihat karya tersebut, Vitaly Shmatikov, seorang profesor di Cornell University, berpendapat bahwa peneliti "belum mengetahui pertahanan yang kokoh terhadap serangan-serangan ini" — dengan implikasinya bahwa model yang kokoh seperti ChatGPT dari OpenAI juga dapat berisiko.

Tim peneliti di balik Nightshade dipimpin oleh Ben Zhao, seorang profesor di Universitas Chicago. Alat baru ini sebenarnya merupakan perluasan dari perangkat lunak perlindungan seniman mereka yang sudah ada, yang disebut Glaze. Dalam pekerjaan sebelumnya, mereka merancang metode di mana seorang seniman dapat mengaburkan, atau "glaze," gaya karya seni mereka.

Seorang seniman yang membuat potret arang, misalnya, dapat diberi lapisan glaze agar terlihat oleh sistem AI sebagai seni modern. 

Menurut Technology Review, Nightshade pada akhirnya akan diimplementasikan ke dalam Glaze, yang saat ini tersedia secara gratis untuk penggunaan web atau unduhan.