OpenAI Mulai Diinvestigasi FTC Atas Praktik Privasi dan Kasus Halusinasi ChatGPT

JAKARTA - Komisi Perdagangan Federal (FTC), Amerika Serikat (AS) mulai membuka penyelidikan terhadap OpenAI, startup pencipta ChatGPT, menyoal apakah chatbot merugikan konsumen melalui pengumpulan datanya dan publikasi informasi palsu pada individu.

Dalam surat setebal 20 halaman yang dikirim ke perusahaan berbasis di San Francisco, Amerika Serikat (AS) minggu ini, FTC mengatakan penyelidikan akan fokus pada apakah OpenAI telah terlibat dalam praktik privasi atau keamanan data yang tidak adil dan menipu.

Tidak luput juga, FTC akan melihat apakah OpenAI terlibat dalam praktik yang tidak adil atau menipu yang berkaitan dengan risiko bahaya bagi konsumen, termasuk kerusakan reputasi, yang melanggar Bagian 5 dari Undang-Undang FTC.

Permintaan informasi, yang dianggap sebagai jenis panggilan pengadilan administratif oleh FTC itu, juga mencari kesaksian dari perusahaan tentang keluhan apa pun yang diterimanya dari publik, daftar tuntutan hukum yang melibatkannya, dan detail kebocoran data yang diungkapkan OpenAI pada Maret 2023.

FTC juga menyatakan, sementara waktu meminta untuk membuka riwayat obrolan dan data pembayaran pengguna.

Artinya, agensi AS tersebut membutuhkan deskripsi tentang bagaimana OpenAI menguji, mengubah, memanipulasi algoritmenya, terutama untuk menghasilkan respons yang berbeda atau untuk merespons risiko, dan dalam bahasa yang berbeda.

Permintaan tersebut juga meminta perusahaan untuk menjelaskan langkah apa pun yang telah diambil dalam menangani kasus halusinasi, istilah industri yang menjelaskan hasil di mana AI menghasilkan informasi palsu.

Diketahui, investigasi FTC muncul setelah mereka memberikan peringatan berulang kali kepada bisnis untuk tidak membuat klaim berlebihan tentang AI atau menyalahgunakan teknologi dengan cara diskriminatif.

Dalam posting blog belum lama ini, FTC mengungkapkan perusahaan yang menggunakan AI akan dimintai pertanggungjawaban atas praktik tidak adil dan menipu yang terkait dengan teknologi.

Sebagai pengawas perlindungan konsumen nasional, FTC diberdayakan untuk menuntut pelanggaran privasi, pemasaran yang tidak benar dan kerugian lainnya.

Menanggapi FTC, CEO OpenAI Sam Altman mengaku kecewa atas permintaan agensi tersebut yang menyiratkan ketidak percayaan kepada perusahaan, seperti dikutip dari CNN Internasional dan CNBC Internasional, Jumat, 14 Juli.

"Sangat mengecewakan melihat permintaan FTC dimulai dengan kebocoran dan tidak membantu membangun kepercayaan. Kami membangun GPT-4 di atas penelitian keselamatan bertahun-tahun dan menghabiskan 6+ bulan setelah kami menyelesaikan pelatihan awal membuatnya lebih aman dan lebih selaras sebelum merilisnya," ujar Altman dalam akun resmi Twitter-nya.

Altman juga menegaskan, teknologinya sangat aman dan melindungi konsumen serta mematuhi hukum, "Teknologi kami aman dan pro-konsumen, dan kami yakin kami mematuhi hukum, tentu saja kami akan bekerja sama dengan FTC," ungkapnya.

"Kami melindungi privasi pengguna dan merancang sistem kami untuk belajar tentang dunia, bukan perorangan. Kami transparan tentang keterbatasan teknologi kami, terutama ketika kami gagal," tambahnya.