Tim Keselamatan AI di OpenAI Bubar setelah Serangkaian Pengunduran Diri

JAKARTA - Seluruh tim OpenAI yang berfokus pada bahaya eksistensial AI telah mengundurkan diri atau dilaporkan bergabung dengan kelompok penelitian lain di dalam perusahaan.

Beberapa hari setelah Ilya Sutskever, kepala ilmuwan OpenAI dan salah satu pendiri perusahaan, mengumumkan pengunduran dirinya, Jan Leike, mantan peneliti DeepMind yang juga merupakan co-lead tim superalignment OpenAI, mengumumkan pengunduran dirinya di platform X.

Menurut Leike, kepergiannya dari perusahaan disebabkan oleh kekhawatirannya tentang prioritas OpenAI, yang menurutnya lebih berfokus pada pengembangan produk daripada keselamatan AI.

Dalam serangkaian posting di X, Leike mengatakan bahwa kepemimpinan OpenAI salah dalam memilih prioritas inti dan seharusnya menekankan keselamatan dan kesiapan seiring dengan perkembangan artificial general intelligence (AGI).

AGI adalah istilah untuk kecerdasan buatan hipotetis yang dapat melakukan tugas-tugas yang sama atau lebih baik dari manusia dalam berbagai bidang.

Setelah tiga tahun di OpenAI, Leike mengkritik perusahaan karena memprioritaskan pengembangan produk yang menarik perhatian daripada membangun budaya keselamatan AI yang kuat dan proses yang memadai. Dia menekankan perlunya alokasi sumber daya yang mendesak — terutama daya komputasi — untuk mendukung penelitian keselamatan yang vital, yang menurutnya diabaikan.

"Saya tidak sependapat dengan kepemimpinan OpenAI tentang prioritas inti perusahaan untuk waktu yang cukup lama hingga akhirnya kami mencapai titik puncak. Selama beberapa bulan terakhir, tim saya telah berlayar melawan angin," kata Leike.

OpenAI membentuk tim penelitian baru pada Juli 2023 untuk mempersiapkan kemunculan AI canggih yang bisa lebih cerdas dan kuat daripada penciptanya. Sutskever ditunjuk sebagai co-lead dari tim baru ini, yang menerima 20% dari sumber daya komputasi OpenAI.

Menyusul pengunduran diri baru-baru ini, OpenAI memilih untuk membubarkan tim "Superalignment" dan mengintegrasikan fungsinya ke dalam proyek penelitian lain di dalam organisasi. Keputusan ini dilaporkan sebagai konsekuensi dari restrukturisasi internal yang sedang berlangsung, yang dimulai sebagai tanggapan terhadap krisis tata kelola pada November 2023.

Sutskever adalah bagian dari upaya yang berhasil membuat dewan OpenAI mendorong Sam Altman keluar sebagai CEO pada November 2023 sebelum dia kemudian dipekerjakan kembali ke peran tersebut setelah mendapat reaksi keras dari karyawan.

Menurut The Information, Sutskever menginformasikan kepada karyawan bahwa keputusan dewan untuk mencopot Altman memenuhi tanggung jawab mereka untuk memastikan bahwa OpenAI mengembangkan AGI yang bermanfaat bagi seluruh umat manusia. Sebagai salah satu dari enam anggota dewan, Sutskever menekankan komitmen dewan untuk menyelaraskan tujuan OpenAI dengan kepentingan yang lebih besar.