OpenAIは、最新のAIモデルをトレーニングするための新しいセキュリティ委員会を結成

OpenAIは新しい安全安全委員会を設立しました。(写真:x @openai)

ジャカルタ - OpenAIは、最新の人工知能(AI)モデルに関するトレーニングの開始とともに、CEOのサム・アルトマンを含む取締役会メンバーが率いる安全安全委員会を結成しました。これは、5月28日火曜日にAIスタートアップによって発表されました。

同社のOpenAIブログによると、Bret Taylor、Adam D'Angelo、Nicole Seligmanのディレクターも委員会を率いる。Microsoftが支援するOpenAI Chatbotは、人間のような会話で対話したり、テキストコマンドで画像を作成したりするなど、生成的なAI機能を備えており、AIモデルが強化されるにつれてセキュリティに関する懸念を提起しています。

元チーフサイエンティストのイリヤ・スタスケバーとヤン・レイケは、AIが希望する目標に沿っていることを確認するOpenAIスーパーアライメントチームを率いていたが、今月初めに会社を去った。OpenAIは、チームが結成されてから1年も経たない5月上旬にスーパーアライメントチームを解散し、チームメンバーの一部が別のグループに異動しました。

新しい委員会は、OpenAIプロジェクトと運用に関するセキュリティと安全性の決定に関する推奨事項を理事会に提供する責任があります。委員会の最初の仕事は、今後90日間でOpenAIのセキュリティ慣行をさらに評価および開発し、その後、理事会と推奨事項を共有することです。

取締役会のレビューの後、OpenAIは採用された推奨事項に関する最新情報を一般に共有すると同社は述べた。委員会の他のメンバーには、新たに任命された科学部長のJakub Pachockiと、セキュリティ責任者のMatt Knightが含まれます。同社はまた、米国国家安全保障局の元サイバーセキュリティディレクターであるロブ・ジョイスや、司法省の元職員であるジョン・カーリンなどの他の専門家と相談する予定です。

OpenAIは、モデルが「AGIに向かう次のレベルの機能」にシステムを導くことを除いて、訓練中の新しい「フロンティア」モデルに関する詳細を提供していません。5月上旬、OpenAIは現実的な音声会話とテキストや画像間の相互作用を実行できる新しいAIモデルを発表しました。