OpenAI의 AI 안전팀, 일련의 사임 후 해체

자카르타 - AI의 실존적 위험에 초점을 맞춘 OpenAI 팀 전체가 사임하거나 회사 내 다른 연구 그룹에 합류한 것으로 알려졌습니다.

OpenAI의 수석 과학자이자 회사의 공동 창립자인 Ilya Sutskever가 사임을 발표한 지 며칠 후, OpenAI의 superalignment 팀을 공동으로 이끌고 있는 전 DeepMind 연구원 Jan Leike가 X 플랫폼에서 떠난다고 발표했습니다.

Leike에 따르면, 그가 회사를 떠난 이유는 OpenAI의 우선 순위에 대한 우려로 인해 발생했으며 OpenAI는 AI 안전보다 제품 개발에 더 중점을 두었다고 말했습니다.

일련의 게시물에서

AGI는 다양한 분야에서 인간과 동일하거나 더 나은 작업을 수행할 수 있는 가상의 인공 지능을 가리키는 용어입니다.

OpenAI에서 3년을 보낸 후 Leike는 강력한 AI 안전 문화와 적절한 프로세스를 구축하는 것보다 눈에 띄는 제품 개발을 우선시하는 회사를 비판했습니다. 그는 중요한 안전 연구를 지원하기 위해 리소스, 특히 컴퓨팅 성능을 긴급하게 할당해야 한다고 강조했지만, 이는 무시되고 있다고 말했습니다.

"나는 우리가 마침내 한계점에 도달할 때까지 꽤 오랫동안 회사의 핵심 우선순위에 대해 OpenAI 리더십에 동의하지 않았습니다. 지난 몇 달 동안 우리 팀은 바람에 맞서 항해해 왔습니다."라고 Leike는 말했습니다.

OpenAI는 창작자보다 더 똑똑하고 강력할 수 있는 첨단 AI의 출현에 대비하기 위해 2023년 7월 새로운 연구팀을 구성했습니다. Sutskever는 OpenAI 컴퓨팅 리소스의 20%를 받은 새 팀의 공동 리더로 임명되었습니다.

최근 사임 이후 OpenAI는 "Superalignment" 팀을 해체하고 해당 기능을 조직 내 다른 연구 프로젝트에 통합하기로 결정했습니다. 이번 결정은 2023년 11월 거버넌스 위기에 대응해 시작된 지속적인 내부 구조조정의 결과인 것으로 알려졌다.

Sutskever는 OpenAI 이사회가 Sam Altman을 2023년 11월에 CEO로 밀어내도록 하는 성공적인 노력의 일환이었습니다. 이후 Sam Altman은 직원들의 반발 이후 CEO 자리에 복귀했습니다.

The Information에 따르면 Sutskever는 Altman을 제거하기로 한 이사회의 결정이 OpenAI가 모든 인류에게 이익이 되는 AGI를 개발하도록 보장하는 책임을 다했다고 직원들에게 알렸습니다. 6명의 이사회 구성원 중 한 명인 Sutskever는 OpenAI의 목표를 더 큰 이익과 일치시키려는 이사회의 의지를 강조했습니다.