Character.AI Akan Halangi Pengguna di Bawah 18 Tahun Gunakan AI dalam Obrolan Terbuka
JAKARTA – Character.AI mengubah kebijakan aksesnya untuk anak muda. Platform chatbot karakter itu akan melarang anak berusia di bawah 18 tahun mengobrol dengan Kecerdasan Buatan (AI) di platformnya.
Perubahan ini akan berlaku pada 25 November mendatang. Melalui situs resminya, Character.AI mengatakan bahwa keputusan ini diambil setelah perusahaan mengevaluasi laporan berita terkini dan menerima pertanyaan dari regulator.
Menjelang penutupan akses untuk anak di bawah 18 tahun ini, perusahaan tersebut akan menetapkan batasan waktu mengobrol. Pengguna di bawah usia legal hanya bisa menggunakan Character.AI selama dua jam per hari.
Seiring berjalannya waktu, durasi akan dikurangi secara bertahap. Bersamaan dengan perubahan ini, perusahaan juga akan meluncurkan fungsi jaminan usia baru. Sistem ini akan memastikan setiap pengguna mendapatkan pengalaman yang sesuai dengan usia mereka.
"Kami ingin menetapkan preseden yang memprioritaskan keselamatan remaja sekaligus menawarkan kesempatan bagi pengguna muda untuk menemukan, bermain, dan berkreasi," kata Character.AI, dilansir pada Kamis, 30 Oktober.
Perusahaan telah membangun model jaminan usia internal dan akan menggabungkan model tersebut dengan alat pihak ketiga terkemuka, termasuk Persona. Langkah ini diambil untuk memastikan verifikasi usia lebih akurat dan tegas.
另请阅读:
Sebagai bagian dari komitmen keamanan, Character.AI juga akan mendirikan dan mendanai AI Safety Lab. Lembaga nirlaba independen ini didedikasikan untuk mengembangkan inovasi penyelarasan keamanan bagi fitur hiburan AI generasi mendatang.
AI Safety Lab akan fokus pada teknik keamanan baru dan kolaborasi pihak ketiga untuk memajukan teknologi. Hal ini dilakukan untuk memastikan riset keamanan untuk hiburan AI mendapatkan perhatian yang sama dengan kasus penggunaan AI lainnya.
Character.AI mengakui bahwa langkah ini tergolong konservatif dibandingkan perusahaan sejenis lainnya. Namun, mereka yakin ini adalah langkah yang tepat untuk memprioritaskan keselamatan remaja.