California Jadi Negara Bagian Pertama di AS yang Terapkan Undang-Undang Keamanan Chatbot AI

JAKARTA - California resmi menjadi negara bagian pertama di Amerika Serikat yang memberlakukan undang-undang komprehensif untuk mengatur chatbot berbasis kecerdasan buatan (AI) dan melindungi anak di bawah umur.

Undang-undang baru ini, yang dikenal sebagai Senate Bill 243 (SB 243), mewajibkan pengungkapan identitas AI secara jelas, penerapan jeda selama percakapan panjang, serta perlindungan terhadap konten berbahaya atau eksplisit.

Chatbot sebenarnya bukan hal baru. Dalam perkembangannya, chatbot generasi awal bisa dianggap sebagai cikal bakal AI modern yang kita kenal sekarang. Namun, seiring makin banyaknya perusahaan yang memanfaatkan AI untuk meningkatkan kecerdasan chatbot mereka, muncul pula berbagai risiko yang perlu diantisipasi. Karena itu, California mengambil langkah tegas dengan menerapkan regulasi baru untuk memastikan keamanan pengguna, terutama anak-anak.

Gubernur California, Gavin Newsom, menandatangani SB 243, menjadikan California negara bagian pertama yang menerapkan protokol keselamatan menyeluruh bagi chatbot AI. Aturan ini menargetkan perusahaan besar seperti OpenAI dan Meta, yang kini diwajibkan menyediakan perlindungan khusus bagi pengguna di bawah umur.

Sesuai undang-undang ini, perusahaan chatbot harus memberi tahu pengguna anak-anak bahwa mereka sedang berinteraksi dengan AI, bukan manusia. Selain itu, diwajibkan adanya jeda berkala selama sesi percakapan untuk mengatasi kekhawatiran terkait waktu layar berlebihan serta potensi ketergantungan emosional terhadap chatbot.

Peraturan juga menuntut perusahaan untuk mencegah chatbot di California menghasilkan konten berbahaya, seperti yang berkaitan dengan bunuh diri, menyakiti diri sendiri, atau materi seksual eksplisit. Undang-undang ini juga memberikan hak kepada korban pornografi deepfake untuk menuntut ganti rugi perdata hingga 250.000 dolar AS (sekitar Rp4,08 miliar).

“Teknologi baru seperti chatbot dan media sosial dapat menginspirasi, mendidik, dan menghubungkan orang. Namun tanpa pagar pengaman yang nyata, teknologi juga bisa mengeksploitasi, menyesatkan, dan membahayakan anak-anak kita. Kami telah menyaksikan banyak contoh tragis di mana remaja menjadi korban teknologi tanpa regulasi, dan kami tidak akan tinggal diam,” kata Newsom, dikutip VOI dari Reuters. 

Polemik Regulasi AI

Proses lahirnya undang-undang ini sempat menghadapi rintangan besar. Presiden Donald Trump sebelumnya menandatangani “One Big Beautiful Bill” pada Juli 2025, yang awalnya berisi ketentuan pelarangan negara bagian untuk mengatur AI selama 10 tahun.

Namun, ketentuan tersebut ditolak oleh sejumlah anggota parlemen dari kedua partai yang menilai bahwa negara bagian seharusnya tetap memiliki kewenangan untuk mengatur teknologi sesuai kebutuhan lokalnya.

Meski sebagian pihak berpendapat bahwa regulasi dapat memperlambat kemajuan AI, Newsom menegaskan pentingnya keseimbangan antara inovasi dan tanggung jawab. “Kita bisa tetap memimpin dalam bidang AI dan teknologi, tetapi kita harus melakukannya dengan cara yang bertanggung jawab — melindungi anak-anak kita di setiap langkah. Keselamatan anak-anak kita bukan untuk diperjualbelikan,” ujarnya