China Terbitkan Draf untuk Atur AI yang Berinteraksi Seperti Manusia

JAKARTA – Regulator siber China resmi merilis draf aturan baru untuk memperketat pengawasan terhadap layanan Kecerdasan Buatan (AI) yang mampu bekerja seperti manusia.

Langkah ini dilakukan untuk membentuk pengembangan AI yang lebih aman dan etis bagi konsumen di negara tersebut. Aturan ini menyasar produk AI yang memiliki pola pikir, gaya komunikasi, serta kemampuan berinteraksi secara emosional dengan pengguna.

Regulasi ini akan mencakup berbagai format interaksi, mulai dari teks, gambar, audio, hingga video. Pemerintah mewajibkan penyedia layanan untuk memperingatkan pengguna agar tidak menggunakan teknologi ini secara berlebihan.

Perusahaan juga harus melakukan intervensi jika ditemukan tanda-tanda Kecanduan pada pengguna mereka. Penyedia layanan AI kini diwajibkan membangun sistem peninjauan algoritma yang ketat serta memastikan perlindungan informasi pribadi pengguna.

Draf ini juga memberikan perhatian khusus pada risiko psikologis yang mungkin muncul dari interaksi emosional dengan mesin. Perusahaan diharapkan mampu mengidentifikasi kondisi emosi ekstrem atau tingkat ketergantungan pengguna yang tidak wajar.

Jika pengguna menunjukkan perilaku adiktif, penyedia layanan harus mengambil tindakan nyata untuk membatasi akses. Hal ini dilakukan demi menjaga stabilitas mental masyarakat di tengah masifnya penggunaan asisten digital.

Selain itu, aturan ini menetapkan batasan konten yang tegas untuk menjaga keamanan nasional. Layanan AI dilarang menghasilkan konten keras yang menyebarkan rumor, mempromosikan kekerasan, atau mengandung pornografi.