Nekat! Clearview AI Jual Alat Pengenalan Wajah yang Datanya Didapat dari Media Sosial Tanpa Izin

JAKARTA - Clearview AI memperluas penjualan perangkat lunak pengenal wajahnya ke perusahaan-perusahaan. Penjualan itu terutama diarahkan untuk melayani pihak kepolisian. Namun rencana itu , mengundang pengawasan tentang bagaimana startup ini memanfaatkan miliaran foto yang diambilnya dari profil media sosial.

Penjualan bisa menjadi signifikan untuk Clearview, saat mempresentasikan programnya pada Rabu, 24 Mei di konferensi investor Montgomery Summit di California. Ini memicu perdebatan yang muncul tentang etika memanfaatkan data yang disengketakan untuk merancang sistem kecerdasan buatan seperti pengenalan wajah.

Penggunaan Clearview atas foto yang tersedia untuk umum guna melatih alatnya membuatnya mendapat nilai tinggi untuk tingkat akurasi. Pemerintah Inggris dan Italia sendiri mendenda Clearview karena melanggar undang-undang privasi dengan mengumpulkan gambar online tanpa persetujuan, dan perusahaan bulan ini menyelesaikan dengan aktivis hak AS atas tuduhan serupa.

Clearview terutama sangat membantu polisi mengidentifikasi orang melalui gambar media sosial, tetapi bisnis itu terancam karena adanya penyelidikan atas dugaan bahwa mereka melanggar peraturan.

Penyelesaian sengketa dengan American Civil Liberties Union telah melarang Clearview menyediakan kemampuan media sosial untuk klien korporat.

Alih-alih perbandingan foto online, penawaran sektor swasta baru ini mencocokkan orang dengan foto ID dan data lain yang dikumpulkan klien dengan izin subjek. Ini dimaksudkan untuk memverifikasi identitas untuk akses ke ruang fisik atau digital.

Vaale, sebuah startup pinjaman berbasis aplikasi di Kolombia, mengatakan telah mengadopsi Clearview untuk mencocokkan foto selfie dengan foto ID yang diunggah pengguna.

“Vaale akan menghemat sekitar 20% biaya dan mendapatkan akurasi dan kecepatan dengan mengganti layanan Pengakuan Amazon.com Inc”, kata Kepala Eksekutif Vaale, Santiago Tobón, seperti dikutip Reuters.

"Kami tidak dapat memiliki akun duplikat dan kami harus menghindari penipuan," katanya. "Tanpa pengenalan wajah, kita tidak bisa membuat Vaale bekerja."

Sementara Amazon sendiri menolak berkomentar tentang laporan itu.

CEO Clearview AI, Hoan Ton-That, mengatakan perusahaan AS yang menjual sistem manajemen pengunjung ke sekolah juga telah mendaftar untuk mendapatkan aplikasi mereka.

Dia mengatakan database foto pelanggan disimpan selama yang mereka inginkan dan tidak dibagikan dengan orang lain, atau digunakan untuk melatih AI Clearview.

Tapi pencocokan wajah yang Clearview jual ke perusahaan dilatih mengenali foto di media sosial. Koleksi beragam gambar publik mengurangi bias rasial dan kelemahan lain yang mempengaruhi sistem saingan yang dibatasi oleh kumpulan data yang lebih kecil.

"Mengapa tidak memiliki sesuatu yang lebih akurat yang mencegah kesalahan atau masalah apa pun?" kata Ton-That.

Nathan Freed Wessler, seorang pengacara ACLU yang terlibat dalam kasus serikat pekerja terhadap Clearview, mengatakan bahwa menggunakan data yang tidak sah adalah cara yang tidak tepat untuk mengembangkan algoritma yang kurang bias.

“Regulator dan pihak lain harus memiliki hak untuk memaksa perusahaan menghentikan algoritme yang mendapat manfaat dari data yang disengketakan,” kata Wessler, seraya mencatat bahwa penyelesaian baru-baru ini tidak mencakup ketentuan seperti itu karena alasan yang tidak dapat diungkapkannya.

"Ini pencegah yang penting," katanya. “Ketika sebuah perusahaan memilih untuk mengabaikan perlindungan hukum untuk mengumpulkan data, mereka harus menanggung risiko bahwa mereka akan dimintai pertanggungjawaban."