Peneliti AI Desak Pemerintah dan Perusahaan Alokasikan Dana R&D untuk Keamanan Sistem AI

JAKARTA - Sebuah makalah yang dirilis oleh tiga pemenang Penghargaan Turing, seorang penerima Hadiah Nobel, dan lebih dari selusin akademisi AI ternama pada  Selasa 24 Oktober, menyarankan bahwa perusahaan dan pemerintah yang terlibat dalam penelitian dan pengembangan kecerdasan buatan harus mengalokasikan setidaknya sepertiga dari dana mereka untuk memastikan keamanan dan penggunaan etis sistem-sistem tersebut.

Makalah tersebut dirilis seminggu sebelum AI Safety Summit internasional di London, dan mencantumkan langkah-langkah yang seharusnya diambil oleh pemerintah dan perusahaan untuk mengatasi risiko-risiko AI.

"Pemerintah juga harus memberlakukan bahwa perusahaan bertanggung jawab secara hukum atas kerugian akibat sistem AI terdepan mereka yang dapat diprediksi dan dicegah dengan wajar," demikian bunyi pernyataan dalam makalah yang ditulis oleh tiga pemenang Penghargaan Turing, seorang penerima Hadiah Nobel, dan lebih dari selusin akademisi AI ternama.

Saat ini belum ada regulasi yang berbasis luas yang fokus pada keamanan AI, dan serangkaian regulasi pertama oleh Uni Eropa belum menjadi undang-undang karena para pembuat kebijakan masih belum sepakat dalam beberapa masalah.

"Model AI terbaru terlalu kuat dan terlalu signifikan untuk dibiarkan berkembang tanpa pengawasan demokratis," kata Yoshua Bengio, salah satu dari tiga orang yang dikenal sebagai bapak AI.

"Investasi dalam keamanan AI perlu dilakukan dengan cepat, karena AI berkembang jauh lebih cepat daripada tindakan pencegahan yang diambil," kata Bengio seperti dikutip VOI dari Reuters..

Para penulis makalah itu antara lain  Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song, dan Yuval Noah Harari.

Sejak diluncurkannya model AI generatif dari OpenAI, para akademisi terkemuka dan CEO ternama seperti Elon Musk telah memperingatkan tentang risiko-risiko AI. Mereka  menyerukan untuk menghentikan pengembangan sistem AI yang kuat selama enam bulan.

Beberapa perusahaan telah menentang hal ini, dengan menyatakan bahwa mereka akan menghadapi biaya kepatuhan yang tinggi dan risiko tanggung jawab yang tidak proporsional.

"Perusahaan akan mengeluh bahwa terlalu sulit untuk memenuhi regulasi - bahwa 'regulasi meredam inovasi' - itu tidak masuk akal," kata ilmuwan komputer asal Inggris, Stuart Russell. "Ada lebih banyak regulasi yang diterapkan pada toko sandwich daripada yang diterapkan pada perusahaan AI."