Gubernur California Veto RUU Keselamatan AI, Industri Teknologi Khawatirkan Dampak Inovasi

JAKARTA - Gubernur California, Gavin Newsom, pada Minggu  29 September memveto RUU keselamatan kecerdasan buatan (AI) yang kontroversial setelah mendapatkan penolakan keras dari industri teknologi. Newsom mengatakan, meskipun penting untuk melindungi publik dari potensi risiko AI, RUU tersebut bisa menghambat inovasi dan membuat perusahaan AI meninggalkan California.

Dalam pernyataannya, Newsom mengkritik RUU itu karena tidak membedakan apakah sistem AI diterapkan di lingkungan berisiko tinggi atau rendah, serta apakah melibatkan pengambilan keputusan penting atau penggunaan data sensitif. Menurutnya, RUU itu menerapkan standar ketat bahkan pada fungsi AI yang paling dasar, selama melibatkan sistem berskala besar. Ia juga mengungkapkan keprihatinannya bahwa pendekatan ini dapat mengekang inovasi yang pesat dalam industri teknologi.

"Saya meminta para ahli terkemuka dalam generative AI untuk membantu California mengembangkan pedoman yang dapat diterapkan, yang fokus pada analisis berbasis sains dan empiris," kata Newsom. Ia juga menginstruksikan agar badan-badan negara memperluas penilaian risiko terkait potensi bencana yang mungkin timbul akibat penggunaan AI.

Generative AI, teknologi yang mampu menghasilkan teks, gambar, dan video berdasarkan perintah yang diberikan, telah memicu kekhawatiran bahwa teknologi ini bisa menyebabkan kehilangan pekerjaan, mengganggu pemilu, dan bahkan membahayakan umat manusia.

Penolakan dari Senator dan Industri AI

Senator Demokrat, Scott Wiener, penggagas RUU ini, menyatakan kekecewaannya terhadap veto tersebut. Menurut Wiener, legislasi ini diperlukan untuk melindungi publik sebelum AI berkembang menjadi tak terkendali. Ia juga menambahkan bahwa veto ini membuat California menjadi kurang aman karena tidak ada pembatasan yang mengikat terhadap perusahaan AI.

"Perusahaan-perusahaan yang mengembangkan teknologi yang sangat kuat ini tidak menghadapi aturan yang tegas. Komitmen sukarela dari industri tidak dapat ditegakkan dan jarang memberikan hasil yang baik bagi publik," kata Wiener.

Di sisi lain, para pemimpin industri teknologi di California menyambut baik keputusan veto tersebut. Koalisi industri teknologi, Chamber of Progress, mengapresiasi langkah Newsom dengan mengatakan bahwa "ekonomi teknologi California selalu berkembang berkat persaingan dan keterbukaan."

Beberapa perusahaan besar seperti Google, Microsoft, OpenAI yang didukung oleh Google, dan Meta, menyatakan kekhawatiran mereka terhadap dampak dari RUU tersebut. Mereka berpendapat bahwa aturan yang terlalu ketat bisa menghambat pertumbuhan dan inovasi dalam pengembangan AI.

Pro dan Kontra dalam Dunia Teknologi

Meski banyak perusahaan besar yang menentang RUU ini, CEO Tesla, Elon Musk, yang juga memiliki perusahaan AI bernama xAI, mendukung RUU tersebut. Musk menyatakan bahwa manfaat dari RUU itu kemungkinan lebih besar daripada biayanya, meskipun ada beberapa ketentuan yang masih perlu diperjelas. Perusahaan lain seperti Anthropic, yang didukung oleh Amazon, juga mendukung langkah legislasi ini, meski mengakui ada beberapa kekhawatiran terkait ambiguitas dalam beberapa aspek aturan.

RUU ini mengusulkan pengawasan terhadap model AI canggih yang biaya pengembangannya lebih dari 100 juta dolar AS (Rp1,51 triliun) atau yang memerlukan daya komputasi dalam jumlah besar. Selain itu, pengembang perangkat lunak AI juga diwajibkan merancang metode untuk mematikan model AI tersebut, semacam "tombol pemutus" atau kill switch.

RUU ini juga bertujuan untuk membentuk entitas negara yang akan mengawasi perkembangan model AI frontier yang kemampuannya melampaui model AI canggih yang ada saat ini. Namun, penolakan kuat dari perusahaan-perusahaan teknologi dan beberapa anggota Kongres AS, termasuk Nancy Pelosi, membuat RUU ini terhenti.

Langkah Ke Depan

Meskipun memveto RUU keselamatan AI, Newsom menandatangani undang-undang lain yang mengharuskan negara untuk menilai potensi ancaman dari Generative AI terhadap infrastruktur kritis California. Saat ini, negara bagian tengah menganalisis risiko terhadap infrastruktur energi, dan dalam waktu dekat akan melakukan penilaian yang sama terhadap penyedia air dan sektor komunikasi.

Newsom menyatakan akan bekerja sama dengan legislatif dalam sesi berikutnya untuk merumuskan undang-undang AI yang lebih tepat sasaran. Ia juga menambahkan bahwa pendekatan hanya dari California mungkin diperlukan, terutama jika tidak ada tindakan dari Kongres AS.

"Kita tidak bisa menunggu bencana besar terjadi sebelum mengambil tindakan untuk melindungi publik," ujar Newsom, sambil menekankan bahwa solusi yang diambil harus didasarkan pada analisis empiris terhadap sistem dan kemampuan AI.

Di tingkat federal, upaya untuk memberlakukan aturan keselamatan AI masih terhambat di Kongres AS, sementara pemerintahan Presiden Joe Biden sedang merancang usulan pengawasan regulasi terhadap AI.