OpenAI Bentuk Komite Keamanan Baru untuk Melatih Model AI Terbaru

JAKARTA -- OpenAI telah membentuk Komite Keamanan dan Keselamatan yang akan dipimpin oleh anggota dewan, termasuk CEO Sam Altman, seiring dimulainya pelatihan model kecerdasan buatan (AI) terbaru. Hal ini diumumkan oleh startup AI tersebut pada Selasa, 28 Mei.

Direktur Bret Taylor, Adam D'Angelo, dan Nicole Seligman juga akan memimpin komite ini, menurut blog perusahaan OpenAI. Chatbot OpenAI yang didukung oleh Microsoft, yang memiliki kemampuan AI generatif seperti berinteraksi dalam percakapan layaknya manusia dan menciptakan gambar berdasarkan perintah teks, telah menimbulkan kekhawatiran terkait keamanan seiring semakin kuatnya model AI ini.

Mantan Kepala Ilmuwan Ilya Sutskever dan Jan Leike, yang sebelumnya memimpin tim Superalignment OpenAI yang memastikan AI tetap sesuai dengan tujuan yang diinginkan, meninggalkan perusahaan tersebut awal bulan ini. OpenAI telah membubarkan tim Superalignment pada awal Mei, kurang dari setahun setelah tim tersebut dibentuk, di mana beberapa anggota tim dialihkan ke grup lain.

Komite baru ini akan bertanggung jawab untuk memberikan rekomendasi kepada dewan terkait keputusan keamanan dan keselamatan untuk proyek dan operasi OpenAI. Tugas pertama komite ini adalah mengevaluasi dan mengembangkan lebih lanjut praktik keamanan OpenAI selama 90 hari ke depan, setelah itu mereka akan membagikan rekomendasi kepada dewan.

Setelah tinjauan dewan, OpenAI akan secara publik membagikan pembaruan terkait rekomendasi yang diadopsi, kata perusahaan tersebut. Anggota lain dari komite termasuk Kepala Ilmuwan yang baru diangkat, Jakub Pachocki, dan Matt Knight, kepala keamanan. Perusahaan juga akan berkonsultasi dengan ahli lain, termasuk Rob Joyce, mantan direktur keamanan siber Badan Keamanan Nasional AS dan John Carlin, mantan pejabat Departemen Kehakiman.

OpenAI tidak memberikan rincian lebih lanjut tentang model "frontier" baru yang sedang dilatih, kecuali bahwa model tersebut akan membawa sistem mereka ke "tingkat kemampuan berikutnya dalam perjalanan menuju AGI." Pada awal Mei, OpenAI mengumumkan model AI baru yang mampu melakukan percakapan suara realistis dan interaksi lintas teks dan gambar.