Karyawan OpenAI dan Google DeepMind Khawatirkan Risiko AI, Minta Regulasi Lebih Ketat

JAKARTA - Sebuah kelompok karyawan dan mantan karyawan di perusahaan kecerdasan buatan (AI), termasuk OpenAI yang didukung Microsoft  dan Google DeepMind milik Alphabet, pada  Selasa 4 Juni menyuarakan keprihatinan tentang risiko yang ditimbulkan oleh teknologi AI yang sedang berkembang tersebut.

Melalui surat terbuka yang ditulis oleh 11 karyawan dan mantan karyawan OpenAI serta seorang karyawan dan seorang mantan karyawan Google DeepMind, mereka mengatakan motif keuangan perusahaan AI menghambat pengawasan yang efektif.

"Kami tidak percaya struktur tata kelola perusahaan yang dipesan lebih dahulu cukup untuk mengubah ini," tambah surat itu.

Surat tersebut selanjutnya memperingatkan risiko dari AI yang tidak diatur, mulai dari penyebaran informasi yang salah hingga hilangnya sistem AI independen dan semakin dalamnya ketidakadilan yang ada, yang dapat mengakibatkan "kepunahan manusia."

Para peneliti telah menemukan contoh pembuat gambar dari perusahaan, termasuk OpenAI dan Microsoft, yang menghasilkan foto dengan disinformasi terkait pemungutan suara. Padahal ada kebijakan yang melarang konten tersebut.

Perusahaan AI memiliki "kewajiban yang lemah" untuk berbagi informasi dengan pemerintah tentang kemampuan dan keterbatasan sistem mereka, kata surat itu. Mereka juga menambahkan bahwa perusahaan-perusahaan ini tidak dapat diandalkan untuk berbagi informasi tersebut secara sukarela.

Surat terbuka tersebut adalah yang terbaru yang menyuarakan masalah keamanan seputar teknologi generative AI, yang dapat dengan cepat dan murah menghasilkan teks, gambar, dan audio seperti manusia.

Kelompok tersebut telah mendesak perusahaan AI untuk memfasilitasi proses bagi karyawan saat ini dan mantan karyawan untuk menyampaikan keprihatinan terkait risiko dan tidak menerapkan perjanjian kerahasiaan yang melarang kritik.

Klaim OpenAI  

Terpisah, perusahaan yang dipimpin Sam Altman itu pada  Kamis 30 Mei mengatakan telah menangkal lima operasi pengaruh terselubung yang berusaha menggunakan model kecerdasan buatannya untuk "aktivitas penipuan" di seluruh internet.