OpenAI, 비밀 군용 AI 네트워크에서 인류학자를 대체하는 펜타곤 계약 체결

OpenAI는 비밀 군 네트워크에 인공 지능(AI) 모델을 제공하기 위해 국방부와 계약을 체결했다고 확인했습니다. 이 계약은 미국 정부가 이번 주 연방 기관에서 Anthropic의 AI 기술 사용을 점진적으로 중단하기로 결정한 후 이루어졌습니다.

OpenAI의 CEO 인 샘 알트만 (Sam Altman)은이 결정을 옹호했습니다. 그는 "시각"면에서이 조치가 논란이 있다는 것을 인정했습니다. 그러나 그는 OpenAI가 기술의 남용을 방지하기 위해 다층 기술 보안 시스템 또는 "안전 스택"을 준비했다고 강조했습니다.

인류학적 대체와 미국의 정책

이 발표는 미국 대통령 도널드 트럼프가 연방 환경에서 인공 지능 기술 사용을 중단했다고 발표한 지 몇 시간 만에 나왔습니다. 정부는 Anthropic과 갈등을 겪고 있으며, 이 회사는 군사 사용을 제한하는 일련의 제한을 제거하는 것을 거절했다고 보고했습니다.

이후 국방부는 Anthropic를 "공급망 위험"으로 지정했으며, 이는 효과적으로 회사를 추가 협력을 위해 블랙리스트에 올려 놓았습니다. 연방 기관에서 Anthropic 기술 사용을 중단하는 과정은 6 개월 이내에 완료 될 예정입니다.

OpenAI 외에도 엘론 머스크가 소유한 AI 회사 인 xAI도 중요한 역할을 수행했습니다. xAI의 Grok 모델은 비밀 작전에서 사용할 수 있도록 허가를 받았다고보고되었습니다. Anthropic와는 달리 xAI는 "법에 의해 합법적인 모든 목적"을 위해 AI 기술 사용에 대한 정부 표준을 수용할 의향이 있다고 평가되었습니다.

클라우스 규칙 "모든 합법적 목적" 논란

논쟁의 중심은 "모든 합법적 목적"조항에 있습니다. Anthropic의 CEO 인 다리오 아모데이는 이전에 현재의 규제가 AI의 위험한 영향을 예측하기에 충분하지 않다고 주장했습니다.

대신에, OpenAI는 다른 접근 방식으로 조항을 받았습니다. 샘 알트만은 계약에 미국 법에 대한 직접적인 참조를 포함함으로써, OpenAI는 일반적인 내부 사용 정책에 의존하는 것보다 더 강력한 보호를 가지고 있다고 느꼈다고 말했습니다.

다층 기술 보안에 의존하십시오.

윤리적 우려를 완화하기 위해 OpenAI는 법적 계약에만 의존하지 않는다고 강조했습니다. 회사는 엔지니어를 배치하여 펜타곤 환경에서 AI 모델 구현을 모니터링합니다.

개발된 "안전 스택"시스템은 불법적인 국내 감시 또는 인간의 감독없이 무기를 사용하는 등의 특정한 제한을 위반하는 명령을 감지하고 거절하기 위해 설계된 AI 분류기를 포함한다. 알트만은 모델이 그러한 규칙에 따라 명령을 거절하면 수동적으로 규칙을 무시할 수 있는 메커니즘이 없다는 것을 강조했다.

이 계약은 다양한 반응을 불러 일으켰습니다. 인류학자의 클로드 모델은 ChatGPT에 대한 보이콧 촉구가 나온 후 앱 스토어에 급격히 상승했다고보고되었습니다.

내부적으로 열어진 AI에서 수십 명의 직원이 경영진이 안전 원칙을 계속 우선시하도록 촉구하는 공개 서한에 서명했습니다. 일부 직원은 새로운 보호를 단순히 "윈도우 드레싱"이라고 불렀으며 특히 대규모 군사 맥락에서 적용될 때 장기적으로 효과가 있을지 의문을 제기했습니다.

AI 산업에 대한 영향

샘 알트만은 이러한 조치를 정부와 AI 산업 간의 긴장을 완화하려는 노력으로 묘사했습니다. 그는 국가 방위에 기술이 어떻게 사용되는지에 대한 결정은 헌법적 보호가 유지되는 한 선출 된 지도자의 손에 있어야한다고 생각합니다.

OpenAI와 xAI가 각각 국방 부문에서 역할을 수행하기 시작함에 따라, 이러한 발전은 미래에 민간 AI 기술 회사가 정부와 어떻게 상호 작용할지 결정하는 데 중요한 선례가 될 것으로 예상됩니다.