Uni Eropa Capai Kesepakatan Awal Aturan Kecerdasan Buatan, Termasuk Pengawasan Biometrik

JAKARTA - Uni Eropa mencapai kesepakatan sementara pada Jumat 8 Desember mengenai aturan Uni Eropa yang mencakup penggunaan kecerdasan buatan, termasuk penggunaan pemerintah dalam pengawasan biometrik dan regulasi sistem kecerdasan buatan seperti ChatGPT.

Dengan kesepakatan politik ini, Uni Eropa menuju menjadi kekuatan dunia utama pertama yang memberlakukan undang-undang yang mengatur kecerdasan buatan. Kesepakatan Jumat antara negara-negara Uni Eropa dan anggota Parlemen Eropa terjadi setelah hampir 15 jam negosiasi yang menyusul debat hampir 24 jam pada hari sebelumnya.

Kedua belah pihak akan membahas rincian dalam beberapa hari mendatang, yang dapat mengubah bentuk legislasi akhir.

"Eropa telah menempatkan dirinya sebagai pelopor, memahami pentingnya perannya sebagai penentu standar global. Ini adalah hari bersejarah, saya percaya," kata Komisioner Eropa Thierry Breton dalam konferensi pers.

Kesepakatan ini mengharuskan model dasar seperti ChatGPT dan sistem kecerdasan buatan umum (GPAI) mematuhi kewajiban transparansi sebelum diperkenalkan ke pasar. Ini termasuk penyusunan dokumentasi teknis, mematuhi hukum hak cipta UE, dan menyebarkan ringkasan rinci tentang konten yang digunakan untuk pelatihan.

Model dasar berdampak tinggi dengan risiko sistemik harus melakukan evaluasi model, menilai dan mengatasi risiko sistemik, melakukan uji adversarial, melaporkan ke Komisi Eropa tentang insiden serius, memastikan keamanan siber, dan melaporkan efisiensi energi mereka.

GPAI dengan risiko sistemik dapat mengandalkan kode etik untuk mematuhi peraturan baru ini.

Pemerintah hanya dapat menggunakan pengawasan biometrik secara real-time di ruang publik dalam kasus korban kejahatan tertentu, pencegahan ancaman nyata, hadir, atau dapat diprediksi, seperti serangan teroris, dan pencarian orang yang dicurigai melakukan kejahatan paling serius.

Kesepakatan melarang manipulasi perilaku kognitif, pencabutan gambar wajah tanpa sasaran dari internet atau rekaman CCTV, skoring sosial, dan sistem kategorisasi biometrik untuk menyimpulkan keyakinan politik, keagamaan, filsafat, orientasi seksual, dan ras.

Konsumen memiliki hak untuk mengajukan keluhan dan menerima penjelasan yang bermakna, sementara denda atas pelanggaran akan berkisar dari 7,5 juta euro (Rp126,1 miliar) atau 1,5% omset hingga 35 juta euro (Rp588,3 miliar) atau 7% omset global.

Kelompok bisnis DigitalEurope mengkritik aturan tersebut sebagai beban tambahan bagi perusahaan, di atas legislasi terbaru lainnya.

"Kami memiliki kesepakatan, tapi dengan biaya apa? Kami sepenuhnya mendukung pendekatan berbasis risiko berdasarkan penggunaan AI, bukan teknologinya itu sendiri, tetapi upaya terakhir untuk mengatur model dasar telah memutarbalikkan ini," kata Direktur Jenderal Cecilia Bonefeld-Dahl, seperti dikutip VOI dari Reuters.

Kelompok hak privasi European Digital Rights juga sangat kritis. "Sulit untuk antusias terhadap undang-undang yang, untuk pertama kalinya di UE, telah mengambil langkah-langkah untuk melegalkan pengenalan wajah publik langsung di seluruh blok," kata Penasihat Kebijakan Senior Ella Jakubowska.

"Meskipun Parlemen berjuang keras untuk membatasi kerusakan, paket keseluruhan tentang pengawasan biometrik dan profilisasi paling banter hangat," katanya.

Peraturan ini diperkirakan akan mulai berlaku pada awal tahun depan setelah kedua belah pihak secara resmi meratifikasinya dan diharapkan berlaku dua tahun setelah itu.

Pemerintah di seluruh dunia berusaha menyeimbangkan keuntungan teknologi, yang dapat melakukan percakapan mirip manusia, menjawab pertanyaan, dan menulis kode komputer, dengan kebutuhan untuk menetapkan pembatas.

Aturan AI ambisius Eropa ini muncul ketika perusahaan seperti OpenAI, yang Microsoft adalah investor, terus menemukan penggunaan baru untuk teknologi mereka, memicu pujian dan kekhawatiran. Pemilik Google, Alphabet, pada Kamis 7 Desember, meluncurkan model AI baru, Gemini, untuk menyaingi OpenAI.

Hukum UE ini bisa menjadi blueprint bagi pemerintah lain dan alternatif untuk pendekatan AS yang ringan dan aturan interim China.