Anthropic Serukan Jeda Pengembangan AI Canggih
JAKARTA - Anthropic memperingatkan dunia perlu punya pilihan untuk memperlambat, bahkan menghentikan sementara, pengembangan AI canggih. Alasannya adalah laju AI makin cepat, sementara manusia belum tentu sanggup mengejar.
Disadur dari laporan Anadolu Agency, Minggu, 7 Juni, perusahaan AI asal California itu menyerukan koordinasi global untuk membuka peluang jeda pengembangan AI terdepan. Langkah itu, menurut Anthropic, hanya bisa dilakukan jika para pengembang AI besar lain ikut serta dan kepatuhannya dapat diperiksa.
“Kami percaya akan baik bagi dunia untuk memiliki pilihan memperlambat atau menghentikan sementara pengembangan AI terdepan, agar struktur sosial dan riset penyelarasan dapat mengikuti kemajuan teknologi tersebut,” tulis Anthropic dalam laporannya.
AI terdepan adalah sistem AI paling canggih yang berada di garis depan pengembangan teknologi. Sementara penyelarasan AI berarti upaya memastikan AI tetap bekerja sesuai tujuan dan nilai yang diinginkan manusia.
Anthropic menilai jeda pengembangan tidak bisa dilakukan sendirian. Harus ada sejumlah laboratorium besar di beberapa negara yang sepakat berhenti dengan syarat yang sama. Mereka juga harus bisa memastikan peserta lain benar-benar ikut berhenti, bukan tetap melanjutkan pengembangan secara diam-diam.
Baca juga:
Perusahaan itu menyebut peran manusia dalam pengembangan AI makin menyempit. AI kini semakin banyak mengerjakan tugas yang dulu dilakukan insinyur dan peneliti.
“Bukti menunjukkan bahwa peran manusia makin menyempit di setiap tahap proses pengembangan AI,” tulis laporan itu.
Anthropic juga memperkirakan, ketika kode buatan AI sudah setara dengan kode buatan manusia, manusia bisa berhenti menulis kode dan hanya berperan sebagai peninjau.
Menurut laporan Anadolu Agency, lebih dari 80 persen kode yang masuk ke basis kode produksi Anthropic kini ditulis oleh Claude, asisten AI milik perusahaan itu. Para insinyur Anthropic juga disebut menghasilkan kode rata-rata delapan kali lebih banyak per kuartal dibandingkan periode 2021 hingga 2025.
Anthropic memperingatkan pengawasan manusia bisa menjadi titik lemah baru. Sebab, manusia belum tentu mampu memeriksa kode secepat AI membuatnya.
“Sederhananya: pekerjaan melakukan sesuatu—yakni menulis kode, menjalankan eksperimen, menghasilkan hasil—kini hampir tidak membutuhkan waktu manusia,” kata perusahaan itu.
Tren ini, menurut Anthropic, dapat mengarah pada recursive self-improvement. Istilah ini berarti kondisi ketika AI mampu merancang dan mengembangkan versi penerusnya sendiri.
Di satu sisi, kemampuan itu bisa mempercepat kemajuan ilmu pengetahuan dan teknologi. Namun di sisi lain, Anthropic memperingatkan risiko yang lebih serius. Yakni manusia bisa kehilangan kendali atas sistem AI.
“Jendela untuk menyelidiki pertanyaan-pertanyaan ini bersama-sama terbuka sekarang,” kata Anthropic. Perusahaan itu mendesak pembuat kebijakan, peneliti, dan kelompok masyarakat sipil ikut membahas tata kelola AI.