Pemerintah China Tenderkan Perangkat Lunak Berbasis AI untuk Awasi Penduduknya, Langgar Hak Asasi?

JAKARTA - Lusinan perusahaan China telah membangun perangkat lunak yang menggunakan kecerdasan buatan untuk menyortir data yang dikumpulkan tentang penduduk. Ini dilakukan di tengah permintaan tinggi dari pihak berwenang yang ingin meningkatkan alat pengawasan mereka. Hal ini dilaporkan Reuters setelah melihat dokumen pemerintah.

Menurut lebih dari 50 dokumen yang tersedia untuk umum yang diperiksa oleh Reuters, lusinan entitas di China selama empat tahun terakhir telah membeli perangkat lunak semacam itu. Perangkat lunak ini  dikenal sebagai "satu orang, satu file". Teknologi ini meningkatkan perangkat lunak yang ada, yang tidak hanya mengumpulkan data tetapi menyerahkannya kepada orang-orang untuk mengaturnya.

“Sistem memiliki kemampuan untuk belajar secara mandiri dan dapat mengoptimalkan akurasi pembuatan file seiring dengan bertambahnya jumlah data. (Wajah yang) sebagian diblokir, bertopeng, atau memakai kacamata, dan potret beresolusi rendah juga dapat diarsipkan secara relatif akurat, ”menurut laporan   yang diterbitkan pada bulan Juli lalu oleh departemen keamanan publik Henan, provinsi terbesar ketiga di China berdasarkan populasi.

Departemen keamanan publik Henan tidak menanggapi permintaan komentar tentang sistem dan penggunaannya.

Perangkat lunak baru ini diklaim meningkatkan pendekatan Beijing saat ini untuk pengawasan. Meskipun sistem yang ada di China dapat mengumpulkan data individu, namun penegak hukum dan pengguna lain dibiarkan mengaturnya.

Menurut Jeffrey Ding, peneliti pascadoktoral di Pusat Keamanan dan Kerjasama Internasional Stanford, keterbatasan lain dari perangkat lunak pengawasan saat ini adalah ketidakmampuannya untuk menghubungkan detail pribadi seseorang ke lokasi waktu nyata kecuali di pos pemeriksaan keamanan seperti di bandara.

“Satu orang, satu file  adalah cara menyortir informasi yang memudahkan pelacakan individu," kata Mareike Ohlberg, rekan senior di German Marshall Fund.

Departemen Keamanan Publik China, yang mengawasi otoritas kepolisian regional, tidak menanggapi permintaan komentar tentang satu orang, satu file dan penggunaan pengawasannya. Selain unit polisi, 10 tawaran dibuka oleh badan-badan Partai Komunis China yang bertanggung jawab atas urusan politik dan hukum. Komisi Urusan Politik dan Hukum Pusat China juga menolak berkomentar.

Tender yang diperiksa oleh Reuters mewakili sebagian kecil dari upaya unit polisi China dan badan Partai untuk meningkatkan jaringan pengawasan dengan memanfaatkan kekuatan data besar dan AI, menurut tiga pakar industri yang diwawancarai untuk cerita ini.

Menurut dokumen pemerintah, beberapa pengguna perangkat lunak, seperti sekolah, ingin memantau wajah-wajah asing di luar kompleks mereka.

Mayoritas, seperti unit polisi di provinsi Ngawa barat daya provinsi Sichuan, yang sebagian besar dihuni oleh orang Tibet, memerintahkannya untuk tujuan keamanan yang lebih eksplisit. Tender Ngawa menggambarkan perangkat lunak sebagai untuk "menjaga keamanan politik, stabilitas sosial dan perdamaian di antara orang-orang."

Beijing mengatakan pemantauannya sangat penting untuk memerangi kejahatan dan telah menjadi kunci upayanya untuk memerangi penyebaran COVID-19. Aktivis hak asasi manusia seperti Human Rights Watch mengatakan bahwa negara tersebut sedang membangun negara pengawasan yang melanggar privasi dan secara tidak adil menargetkan kelompok-kelompok tertentu, seperti minoritas Muslim Uyghur.

Tinjauan Reuters menunjukkan bahwa otoritas lokal di seluruh negeri, termasuk di distrik padat penduduk di Beijing dan provinsi terbelakang seperti Gansu, telah membuka setidaknya 50 tender dalam empat tahun sejak aplikasi paten pertama dibuat. Sebanyak 32 di antaranya dibuka untuk tender pada 2021. Dua puluh dua perusahaan teknologi, termasuk Sensetime, Huawei, Megvii, Cloudwalk, Dahua, dan divisi cloud Baidu, sekarang menawarkan perangkat lunak tersebut.

Sensetime menolak berkomentar. Megvii, Cloudwalk, Dahua, dan divisi cloud Baidu tidak menanggapi permintaan komentar.

Huawei mengatakan dalam sebuah pernyataan bahwa seorang mitra telah mengembangkan aplikasi satu orang, satu file di platform kota pintarnya. Namun mereka menolak untuk mengomentari aplikasi paten.

"Huawei tidak mengembangkan atau menjual aplikasi yang menargetkan kelompok orang tertentu," kata perusahaan itu.

Dokumen-dokumen yang ditinjau Reuters mencakup 22 dari 31 divisi administratif utama China, dan semua tingkat pemerintahan provinsi, dari departemen keamanan publik regional hingga kantor Partai untuk satu lingkungan.

Sistem baru ini bertujuan untuk memahami kumpulan data raksasa yang dikumpulkan entitas tersebut, menggunakan algoritme kompleks dan pembelajaran mesin untuk membuat file khusus untuk individu. File memperbarui diri secara otomatis saat perangkat lunak menyortir data.

Namun, berbagai tantangan dapat memperumit implementasi. Birokrasi dan bahkan biaya dapat menciptakan jaringan nasional yang terfragmentasi dan terputus-putus, kata tiga pakar AI dan pengawasan kepada Reuters.

Reuters juga menemukan pengumuman untuk tawaran yang berhasil untuk lebih dari setengah dari 50 dokumen pengadaan yang dianalisis, dengan nilai antara beberapa juta yuan dan hampir 200 juta yuan (Rp 451 miliar).