OpenAI Dituduh Melanggar Aturan Privasi dengan Chatbot AI yang Tidak Akurat
JAKARTA - Pada Senin, 29 April, startup OpenAI yang didukung oleh Microsoft mendapat keluhan privasi dari kelompok advokasi NOYB karena diduga tidak memperbaiki informasi yang salah disediakan oleh chatbot generatif AI-nya, ChatGPT, yang dapat melanggar aturan privasi UE.
NOYB mengatakan bahwa pelapor dalam kasus ini, yang juga merupakan tokoh publik, bertanya kepada ChatGPT tentang ulang tahunnya dan berulang kali diberikan informasi yang salah daripada chatbot memberitahukan pengguna bahwa ia tidak memiliki data yang diperlukan.
Kelompok tersebut mengatakan OpenAI menolak permintaan pelapor untuk memperbaiki atau menghapus data, dengan alasan bahwa tidak mungkin memperbaiki data dan juga gagal untuk mengungkapkan informasi apa pun tentang data yang diproses, sumbernya, atau penerima-penerima data tersebut.
Baca juga:
NOYB mengatakan telah mengajukan keluhan kepada otoritas perlindungan data Austria untuk menyelidiki pemrosesan data OpenAI dan langkah-langkah yang diambil untuk memastikan akurasi data pribadi yang diproses oleh model bahasa besar perusahaan tersebut.
"Jelas bahwa perusahaan saat ini tidak dapat membuat chatbot seperti ChatGPT mematuhi hukum UE, saat memproses data tentang individu," kata Maartje de Graaf, pengacara perlindungan data NOYB, dalam sebuah pernyataan.
Pada masa lalu, OpenAI telah mengakui kecenderungan alat ini untuk merespons dengan "jawaban yang terdengar masuk akal tetapi salah atau tidak masuk akal," sebuah masalah yang dianggap sulit untuk diperbaiki, bahkan hingga kini.