Regulator Kanada Temukan Pelanggaran dalam Pengembangan Awal ChatGPT

JAKARTA - Komisioner Privasi Kanada bersama regulator privasi di Quebec, British Columbia, dan Alberta menemukan pelanggaran privasi terhadap cara OpenAI melatih dan meluncurkan chatbot berbasis kecerdasan buatan ChatGPT pada tahap awal pengembangannya.

Dalam investigasi gabungan, keempat regulator tersebut menilai praktik awal perusahaan tidak sesuai dengan undang-undang privasi yang berlaku, mulai dari pengumpulan data pribadi secara berlebihan, kurangnya persetujuan dan transparansi yang valid, ketidakakuratan informasi pribadi, hingga kendala bagi pengguna untuk mengakses, memperbaiki, atau menghapus data mereka.

“Melalui investigasi ini, kami mengidentifikasi masalah privasi yang muncul sejak dini dan membuat rekomendasi yang mengarah pada peningkatan perlindungan informasi pribadi warga Kanada,” Komisioner Privasi Kanada, Philippe Dufresne dalam pernyataan di situs resminya.

Regulator juga menilai OpenAI belum memiliki akuntabilitas yang memadai terhadap informasi pribadi yang berada di bawah kendalinya.

Menanggapi hasil investigasi tersebut, OpenAI disebut telah menerapkan sejumlah perubahan untuk meningkatkan perlindungan data pribadi dalam pengembangan dan pengoperasian ChatGPT.

Secara khusus, regulator menyampaikan bahw Open AI telah secara signifikan membatasi informasi pribadi dan informasi sensitif yang digunakan untuk melatih model Chat GPT baru.

Mereka juga akan mengambil langkah-langkah untuk memberi informasi yang lebih baik kepada warga Kanada tentang implikasi penggunaan Chat GPT.

Philippe Dufresne menilai langkah-langkah yang telah diterapkan OpenAI, termasuk komitmen tambahan dalam beberapa bulan ke depan, mampu menjawab kekhawatiran regulator terkait kepatuhan terhadap PIPEDA, undang-undang privasi sektor swasta federal Kanada.

“Pengamanan yang memadai adalah landasan inovasi yang bertanggung jawab. Saya berharap temuan investigasi ini akan memberikan informasi dan memajukan desain perlindungan privasi pada teknologi berbasis AI lainnya,” tutupnya.