자카르타 - 조 바이든 미국 대통령 행정부가 중국과 러시아로부터 미국의 인공지능(AI)을 보호하기 위한 노력에 새로운 전선을 열 준비가 되어 있습니다. 그들은 ChatGPT와 같은 인공 지능 시스템의 소프트웨어 핵심인 가장 진보된 AI 모델 주위에 보호 장치를 배치할 계획입니다.
상무부는 훈련된 소프트웨어와 데이터가 기밀로 유지되는 독점 또는 비공개 소스 AI 모델의 수출을 제한하기 위한 새로운 규제 추진을 고려하고 있다고 이 문제에 정통한 세 사람이 말했습니다.
어떤 조치라도 중국의 군사 목적을 위한 첨단 기술 개발을 지연시키기 위한 노력의 일환으로 첨단 AI 칩의 중국 수출을 차단하기 위해 지난 2년 동안 시행된 일련의 조치를 보완할 것입니다. 그러나 규제 당국이 업계의 급속한 발전을 따라잡는 것은 어려울 것입니다.
상무부는 논평을 거부했으며 워싱턴 주재 러시아 대사관은 논평 요청에 즉시 응답하지 않았습니다. 중국대사관은 이번 조치에 대해 “전형적인 일방적인 경제 협박 행위”라며 “중국은 이를 단호히 반대한다”고 밝혔다. 회사는 자신의 이익을 보호하기 위해 "필요한 조치"를 취할 것이라고 덧붙였습니다.
현재 Microsoft, Microsoft가 지원하는 OpenAI, Alphabet의 Google DeepMind 및 가장 강력한 비공개 소스 AI 모델을 개발한 경쟁사 Anthropic과 같은 미국의 AI 거대 기업이 감독 없이 전 세계 거의 모든 사람에게 판매하는 것을 막을 수 있는 방법은 없습니다. 정부.
정부와 민간 연구자들은 미국의 적들이 정보를 요약하고 콘텐츠를 생성하기 위해 대량의 텍스트와 이미지를 마이닝하는 모델을 사용하여 공격적인 사이버 공격을 시작하거나 심지어 효과적인 생물학적 무기를 만들 수도 있다고 우려합니다.
한 소식통은 새로운 수출 통제 조치가 러시아, 중국, 북한, 이란을 대상으로 할 가능성이 높다고 말했습니다. 마이크로소프트는 2월 보고서에서 중국과 북한 정부, 러시아 군사 정보부, 이란 혁명수비대와 연계된 해커 그룹이 대규모 언어 모델을 사용하여 해킹 캠페인을 개선하려고 시도하는 과정을 추적했다고 밝혔습니다.
컴퓨팅 성능
소식통은 AI 모델에 대한 수출 통제를 확대하기 위해 미국이 지난 10월 발표한 AI 행정 명령에 포함된 모델 훈련에 필요한 컴퓨팅 성능의 양을 기준으로 한 임계값을 사용할 가능성이 있다고 말했습니다. 해당 수준에 도달하면 개발자는 AI 모델 개발 계획을 보고하고 테스트 결과를 상무부에 제공해야 합니다.
두 명의 미국 관리와 논의에 대해 브리핑한 또 다른 소식통에 따르면 이러한 컴퓨팅 성능 임계값은 어떤 AI 모델이 수출 제한 대상이 될지 결정하는 기초가 될 수 있다고 합니다. 세부 사항이 공개되지 않았기 때문에 이름을 밝히기를 거부했습니다.
AI 동향을 추적하는 연구 기관인 EpochAI에 따르면 구글의 제미니 울트라(Gemini Ultra)가 거의 근접한 것으로 생각되지만, 이를 사용하면 아직 출시되지 않은 모델의 수출만 제한될 가능성이 높습니다.
기관은 규칙 제안을 마무리하기에는 아직 멀었습니다. 그러나 그러한 움직임이 고려되고 있다는 사실은 미국 행정부가 빠르게 발전하는 기술에 대해 강력한 규제 체제를 시행해야 하는 심각한 과제에도 불구하고 중국의 AI 야망을 중단하려는 노력의 격차를 줄이려고 노력하고 있음을 시사합니다.
바이든 행정부가 중국과의 경쟁과 첨단 AI의 위험성을 살펴보면서 AI 모델은 "분명히 여기에서 생각해야 할 도구이자 잠재적인 관문 중 하나"라고 전 국가안보회의(NSC) 출신 피터 하렐이 말했다. 공식적인. 실제로 실제로 수출 통제가 가능한 관문으로 전환할 수 있을지는 지켜봐야 할 것”이라고 덧붙였다.
생물학 무기와 사이버 공격?
미국 정보 커뮤니티, 싱크탱크, 학계에서는 외국 행위자가 고급 AI 기능에 접근하는 데 따른 위험에 대해 점점 더 우려하고 있습니다. Gryphon Scientific과 Rand Corporation의 연구원들은 고급 AI 모델이 생물학적 무기를 만드는 데 도움이 될 수 있는 정보를 제공할 수 있다고 지적합니다.
국토안보부는 사이버 공격자들이 2024년 국내 위협 평가에서 "더 크고, 더 빠르고, 더 효율적이고, 탐지하기 어려운 사이버 공격을 가능하게 하기 위해" AI를 사용해 "새로운 도구를 개발"할 가능성이 높다고 밝혔습니다.
국가정보국(Office of the Director of National Intelligence)의 브라이언 홈스(Brian Holmes) 관리는 지난 3월 수출 통제 회의에서 "[AI] 사용 및 착취의 폭발 가능성은 급진적이며 우리는 이를 따라가는 데 정말 어려움을 겪고 있다"고 말했습니다. 중국의 발전을 특별한 관심사로 강조했습니다.
AI 제한
이러한 우려를 해결하기 위해 미국은 미국 AI 칩과 이를 제조하는 도구가 중국으로 유입되는 것을 차단하는 조치를 취했습니다.
또한 외국 고객이 사이버 공격에 사용할 수 있는 강력한 AI 모델을 교육하기 위해 서비스를 사용할 때 미국 클라우드 회사가 정부에 알리도록 요구하는 규칙을 제안했습니다.
그러나 지금까지 AI 모델 자체에 접근한 사람은 아무도 없다. 상무부에서 미국 수출 정책을 감독하는 앨런 에스테베즈(Alan Estevez)는 지난 12월 상무부가 업계 피드백을 구하기 전에 오픈 소스 대형 언어 모델의 수출을 규제하기 위한 옵션을 모색하고 있다고 말했습니다.
워싱턴 DC 소재 싱크탱크 CNAS의 AI 정책 전문가인 팀 피스트는 "새로운 모델의 기능과 위험을 측정하기 위한 더 나은 방법을 개발할 때까지 이 임계값은 좋은 임시방편"이라고 말했습니다.
전직 백악관 및 법무부 관리인 자밀 재퍼는 바이든 행정부가 컴퓨팅 성능 임계값을 사용하지 말고 모델의 기능과 의도된 사용에 따라 제어를 선택해야 한다고 말했습니다. 그는 "기술적 한계보다 국가 안보 위험을 우선시하는 것이 보다 지속 가능하고 위협에 초점을 맞춘 조치"라고 말했습니다.
임계값이 동일하지 않습니다. 한 소식통은 상무부가 데이터 유형이나 생물학적 무기를 만드는 데 사용할 수 있는 단백질 설계 능력과 같은 AI 모델의 잠재적 용도와 같은 다른 요인과 결합하여 더 낮은 순위를 얻을 가능성이 있다고 말했습니다.
임계값에 관계없이 AI 모델 내보내기는 통제하기 어려울 것입니다. 많은 모델이 오픈 소스이므로 고려 중인 수출 통제 범위를 벗어나게 됩니다.
Fist는 규제 당국이 어떤 모델을 통제해야 하는지 결정하기 위한 정확한 기준을 정의하는 데 어려움을 겪을 가능성이 높기 때문에 보다 정교한 독점 모델에 통제를 부과하는 것조차 어려울 것이라고 말했습니다. 또한 Fist는 중국이 소프트웨어 개발에서 미국보다 약 2년 정도 뒤쳐질 가능성이 있다고 지적했습니다. .자신의 AI.
고려 중인 수출 통제는 ChatGPT와 같은 일부 소비자 애플리케이션을 구동하는 백엔드 소프트웨어에 대한 액세스에 영향을 주지만 하위 애플리케이션 자체에 대한 액세스를 제한하지는 않습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
