OpenAIは、AIの評価とリスク軽減のフレームワークを強化する準備ができています

写真:アンシュルス 

ジャカルタ - OpenAIは、最も先進的な人工知能(AI)モデルを安全かつ責任を持って開発および実装することを主導するために、準備責任者のポジションで募集しています。

セーフティシステムチームの下に位置するこのポジションはサンフランシスコに拠点を置き、OpenAIの最新のAIモデル準備フレームワークの策定と実行に直接責任を負います。

「私たちは、モデルが実際の環境で期待どおりに動作するのに役立つ評価、セキュリティ、セキュリティフレームワークを構築しています」と同社は公式発表で述べています。

このフレームワークは、AIフロンティアモデルの能力の向上に伴って生じる新たなリスクを追跡、評価、緩和するためのOpenAIの基盤です。

OpenAIは、能力評価、脅威モデリング、クロスファンクション緩和の開発など、AIモデルの世代にわたって準備に多額の投資を行ってきたと述べています。

システムの複雑さと適用される保護の増加に伴い、この役割は、企業のAIモデルのセキュリティ基準を拡張、強化、およびガイドするために、ますます重要であると考えられています。

その後、準備責任者は、迅速な製品開発サイクルで精度、強さ、スケーラビリティを維持するために、フロンティア能力評価の開発を率います。

さらに、このポジションは、サイバーセキュリティやバイオセキュリティなどのさまざまな主要リスク領域での緩和設計も監督し、評価結果が製品の立ち上げ決定や社内ポリシーに直接影響することを保証します。

他の多くのテクノロジー巨人の先進的なAIモデルの攻撃の真っ只中に、OpenAIは、人類の安全と広範な利益を念頭に置いたAIの研究と応用企業としてのコミットメントを強調しました。