Pemerintah China Rancang UU yang Mengatur Teknologi Deepfake dan Turunannya

JAKARTA - Regulator siber China mengeluarkan rancangan aturan pada Jumat, 27 Januari untuk penyedia konten yang mengubah data wajah dan suara. Ini menjadi langkah terbaru untuk menindak "deepfake" dan membentuk ruang maya yang mempromosikan nilai-nilai sosialis China.

Aturan tersebut ditujukan untuk mengatur lebih lanjut teknologi seperti yang menggunakan algoritme untuk menghasilkan dan memodifikasi teks, audio, gambar, dan video, menurut dokumen yang diterbitkan di situs web Administrasi Ruang Siber China.

Setiap platform atau perusahaan yang menggunakan pembelajaran mendalam (deep learning) atau realitas virtual untuk mengubah konten online apa pun, yang disebut CAC sebagai "penyedia layanan sintesis mendalam", kini diharapkan untuk "menghormati moralitas dan etika sosial, mematuhi arah politik yang benar".

Peraturan mengatur agar orang dilindungi dari penyamaran tanpa persetujuan mereka oleh deepfake - gambar yang hampir tidak dapat dibedakan dari aslinya, dan mudah digunakan untuk manipulasi atau informasi yang salah.

"Di mana penyedia layanan sintesis mendalam menyediakan fungsi pengeditan yang signifikan untuk informasi biometrik seperti wajah dan suara manusia, itu akan meminta (penyedia) untuk memberi tahu dan mendapatkan persetujuan individu dari subjek yang informasi pribadinya sedang diedit," begitu salah satu bunyi Pasal 12 dari konsep peraturan tersebut..

Aturan ini menetapkan denda antara 10.000 dan 100.000 yuan (Rp22 juta hingga Rp226 juta) untuk pelanggar pertama kali tetapi pelanggaran juga dapat menyebabkan tuntutan perdata dan pidana.

Rancangan tersebut juga menyediakan sistem dan mekanisme pengaduan pengguna untuk mencegah pemalsuan mendalam digunakan untuk menyebarkan informasi palsu. Toko aplikasi akan diminta untuk menangguhkan atau menghapus penyedia teknologi palsu jika diperlukan.

“Layanan deep synthesis juga digunakan oleh beberapa penjahat untuk memproduksi, menyalin, mempublikasikan, dan menyebarkan informasi ilegal; memfitnah dan merendahkan reputasi, kehormatan orang; serta meniru identitas orang lain untuk melakukan penipuan dan tindakan ilegal lainnya – tidak hanya merusak kepentingan vital. rakyat, tetapi bahkan membahayakan keamanan nasional dan stabilitas sosial," kata rancangan peraturan itu, seperti dikutip oleh Reuters.

"Sangat mendesak untuk menggambarkan 'garis bawah' dan 'garis merah'.".

Entitas akan melakukan proyek di bidang-bidang seperti manufaktur, energi, layanan pemerintah dan pajak, hukum, pendidikan, kesehatan, perdagangan dan keuangan, serta keuangan lintas batas.