자카르타 - 인류학자들은 세계가 지능형 AI 개발을 늦추거나 심지어 일시적으로 중단할 수 있는 선택권이 있어야 한다고 경고했다. 이유는 인공 지능의 속도가 더 빨라지고 있지만 인간은 반드시 추격할 수 없기 때문입니다.
6월 7일 일요일 안도라 기자단의 보고서에서 캘리포니아의 AI 회사는 선도적 인 AI 개발 중단 기회를 열기 위해 글로벌 협력을 촉구했습니다. Anthropic에 따르면 이러한 조치는 다른 주요 AI 개발자들이 참여하고 준수가 검토 될 수 있을 때만 가능합니다.
"우리는 사회 구조와 연구 조정이 기술 발전에 뒤처지지 않도록 선도적 인 인공 지능 개발을 늦추거나 일시적으로 중단하는 옵션을 세계가 갖는 것이 좋다고 믿습니다." Anthropic는 보고서에서 썼습니다.
선두에 있는 AI는 기술 개발의 최전선에 있는 가장 진보된 AI 시스템입니다. 반면에 AI 조정은 AI가 인간이 원하는 목적과 가치에 따라 계속 작동하도록 보장하는 노력을 의미합니다.
Anthropic는 개발 중단이 혼자서 수행 될 수 없다고 생각합니다. 몇몇 국가에 동일한 조건으로 중단하기로 동의한 많은 대규모 실험실이 있어야합니다. 또한 다른 참가자가 실제로 계속 개발을 계속하는 것이 아니라 계속 중단하는지 확인해야합니다.
회사는 AI 개발에서 인간의 역할이 줄어들고 있다고 말했습니다. AI는 이제 엔지니어와 연구원이 수행했던 작업을 점점 더 많이 수행하고 있습니다.
보고서는 "증거는 인간의 역할이 AI 개발 과정의 모든 단계에서 점점 더 좁아지고 있다는 것을 보여줍니다."라고 썼습니다.
Anthropic은 또한 AI가 만든 코드가 인간이 만든 코드와 동등해질 때, 인간은 코드를 쓰는 것을 멈추고 검토자 역할만 수행할 수 있다고 추정했습니다.
안나도루 기자단의 보고서에 따르면, Anthropic의 생산 코드베이스에 들어가는 코드의 80% 이상이 회사의 AI 조수인 클로드가 작성했습니다. Anthropic 엔지니어는 또한 2021년에서 2025년까지의 기간보다 분기당 평균 8배 더 많은 코드를 생성했다고 합니다.
인류학자들은 인간의 감시가 새로운 약점이 될 수 있다고 경고했다. 왜냐하면 인간은 AI가 그것을 만드는 것만 큼 빨리 코드를 검사할 수 없기 때문이다.
"간단히 말해, 무언가를 하는 일 - 즉, 코드를 작성하고, 실험을 수행하고, 결과를 생성하는 일 -은 이제 거의 인간의 시간이 필요하지 않습니다."라고 회사는 말했습니다.
Anthropic에 따르면 이러한 추세는 재귀적 자기 개선으로 이어질 수 있습니다. 이 용어는 AI가 자신의 후속 버전을 설계하고 개발할 수 있다는 조건을 의미합니다.
한편으로는 이러한 능력은 과학 기술의 발전을 가속화 할 수 있습니다. 그러나 다른 한편으로는 인류학자들은 더 심각한 위험을 경고합니다. 즉, 인간은 AI 시스템을 통제 할 수 없게 될 수 있습니다.
"이 질문들을 함께 조사할 수 있는 기회가 지금 열려 있습니다."라고 Anthropic은 말했습니다. 회사는 정책 입안자, 연구자 및 시민 사회 그룹이 AI 관리에 대해 논의하도록 촉구했습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
