OpenAI Siap Perkuat Kerangka Evaluasi dan Mitigasi Risiko AI yang Makin Canggih

JAKARTA - OpenAI sedang membuka lowongan di posisi Head of Preparedness, untuk memimpin pengembangan dan penerapan model kecerdasan buatan (AI) paling canggih secara aman dan bertanggung jawab.

Posisi yang berada di bawah tim Safety Systems ini akan berbasis di San Francisco dan bertanggung jawab langsung atas perumusan serta eksekusi kerangka kesiapan model AI terbaru dari OpenAI.

“Kami membangun evaluasi, pengamanan, dan kerangka kerja keamanan yang membantu model-model kami berperilaku sesuai dengan yang diharapkan dalam lingkungan dunia nyata,” tulis perusahaan dalam pengumuman resminya.

Kerangka tersebut menjadi fondasi OpenAI dalam melacak, mengevaluasi, dan memitigasi risiko baru yang muncul seiring meningkatnya kapabilitas model frontier AI.

OpenAI menyebutkan bahwa mereka telah berinvestasi besar dalam Preparedness selama beberapa generasi model AI, termasuk pengembangan evaluasi kapabilitas, pemodelan ancaman, hingga mitigasi lintas fungsi.

Seiring meningkatnya kompleksitas sistem dan perlindungan yang diterapkan, peran ini dinilai semakin krusial, guna memperluas, memperkuat, dan memandu standar keselamatan model AI perusahaan.

Nantinya, Head of Preparedness akan memimpin pengembangan evaluasi kapabilitas frontier agar tetap presisi, kuat, dan dapat diskalakan dalam siklus pengembangan produk yang cepat.

Selain itu, posisi ini juga mengawasi desain mitigasi di berbagai area risiko utama, seperti keamanan siber dan biosecurity, serta memastikan hasil evaluasi secara langsung memengaruhi keputusan peluncuran produk dan kebijakan internal.

Di tengah gempuran model AI yang canggih dari berbagai raksasa teknologi lain, OpenAI menegaskan komitmennya sebagai perusahaan riset dan penerapan AI yang berorientasi pada keselamatan dan manfaat luas bagi umat manusia.