China Mengeluarkan Persyaratan Keamanan untuk Layanan AI Generatif: Termasuk Daftar Hitam Sumber Data

JAKARTA - China telah menerbitkan persyaratan keamanan yang diusulkan bagi perusahaan yang menawarkan layanan yang didukung oleh kecerdasan buatan generatif, termasuk daftar hitam sumber yang tidak boleh digunakan untuk melatih model AI.

AI generatif, yang populer berkat kesuksesan chatbot ChatGPT dari OpenAI, belajar cara mengambil tindakan dari data masa lalu dan membuat konten baru seperti teks atau gambar berdasarkan pelatihan tersebut.

Persyaratan tersebut diterbitkan pada Rabu 11 Oktober oleh Komite Standarisasi Keamanan Informasi Nasional, yang melibatkan pejabat dari Administrasi Siber China (CAC), Kementerian Industri dan Teknologi Informasi, dan kepolisian.

Komite tersebut mengusulkan melakukan penilaian keamanan terhadap setiap konten yang digunakan untuk melatih model AI generatif yang ditampilkan secara publik, dengan yang mengandung "lebih dari 5% informasi ilegal dan berbahaya" untuk dimasukkan dalam daftar hitam.

Informasi tersebut mencakup "menganjurkan terorisme" atau kekerasan, serta "menggulingkan sistem sosialis", "merusak citra negara", dan "mengganggu persatuan nasional dan stabilitas sosial".

Peraturan ini juga menyatakan bahwa informasi yang disensor di internet China tidak boleh digunakan untuk melatih model.

Penerbitannya terjadi sedikit lebih dari sebulan setelah regulator mengizinkan beberapa perusahaan teknologi China, termasuk raksasa mesin pencari Baidu, meluncurkan chatbot yang didukung AI generatif mereka ke publik.

CAC sejak April mengatakan bahwa ia ingin perusahaan mengajukan penilaian keamanan kepada otoritas sebelum meluncurkan layanan yang didukung AI generatif ke publik.

Pada Juli, regulator ranah siber menerbitkan langkah-langkah yang mengatur layanan tersebut yang analis katakan jauh lebih ringan dibandingkan dengan langkah-langkah yang diuraikan dalam draf April.

Persyaratan keamanan draf yang diterbitkan pada Rabu lalu mengharuskan organisasi yang melatih model AI ini mencari persetujuan individu yang menggunakan informasi pribadi mereka, termasuk data biometrik, untuk tujuan pelatihan. Mereka juga merinci panduan tentang cara menghindari pelanggaran hak kekayaan intelektual.

Negara-negara di seluruh dunia sedang berjuang untuk menetapkan aturan bagi teknologi ini. China melihat AI sebagai area di mana ia ingin menyaingi Amerika Serikat dan telah menetapkan sasaran untuk menjadi pemimpin dunia dalam bidang ini pada tahun 2030.