자카르타 - OpenAI는 최신 인공 지능(AI) 모델에 대한 교육을 시작하면서 CEO인 Sam Altman을 포함한 이사회 구성원이 이끄는 보안 및 안전 위원회를 구성했습니다. 이는 지난 5월 28일 화요일 AI 스타트업에서 발표한 내용이다.
OpenAI 회사 블로그에 따르면 Bret Taylor 이사, Adam D'Angelo 및 Nicole Seligman도 이 위원회를 이끌게 됩니다. 인간과 같은 대화로 상호 작용하고 텍스트 명령을 기반으로 이미지를 생성하는 등 생성적 AI 기능을 갖춘 Microsoft가 지원하는 OpenAI 챗봇은 이러한 AI 모델이 더욱 강력해짐에 따라 보안 우려를 불러일으켰습니다.
이전에 AI가 목적에 적합한지 확인하는 OpenAI의 Superalignment 팀을 이끌었던 전 수석 과학자 Ilya Sutskever와 Jan Leike는 이달 초 회사를 떠났습니다. OpenAI는 Superalignment 팀이 결성된 지 1년도 채 되지 않은 5월 초에 팀을 해체했으며 일부 팀원은 다른 그룹으로 이동했습니다.
이 새로운 위원회는 OpenAI 프로젝트 및 운영에 대한 보안 및 안전 결정과 관련하여 이사회에 권장 사항을 제공하는 역할을 맡게 됩니다. 위원회의 첫 번째 임무는 향후 90일 동안 OpenAI의 보안 관행을 평가하고 추가 개발하는 것이며, 그 후 이사회와 권장 사항을 공유할 것입니다.
이사회 검토 후 OpenAI는 채택된 권장 사항에 대한 업데이트를 공개적으로 공유할 것이라고 회사는 말했습니다. 위원회의 다른 구성원으로는 새로 임명된 수석 과학자인 Jakub Pachocki와 보안 책임자인 Matt Knight가 있습니다. 회사는 또한 미국 국가안보국(NSA) 사이버보안 국장을 지낸 롭 조이스(Rob Joyce), 법무부 관료를 지낸 존 칼린(John Carlin) 등 다른 전문가들과도 협의할 예정이다.
OpenAI는 훈련 중인 새로운 "프론티어" 모델에 대한 자세한 내용을 제공하지 않았습니다. 단, 시스템을 "AGI를 향한 여정에서 다음 단계의 기능"으로 끌어올릴 것이라는 점만 제외하면 됩니다. 지난 5월 초 OpenAI는 텍스트와 이미지 전반에 걸쳐 현실적인 음성 대화와 상호작용이 가능한 새로운 AI 모델을 발표했습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
