자카르타 - 최신 세대의 인공 지능에 대한 우려는 글로벌 금융 부문에서 느껴지기 시작했습니다. 골드만 삭스의 CEO 인 데이비드 솔로몬 (David Solomon)은 Anthropic가 개발 한 최신 AI 모델 인 Mythos가 야기하는 위험에 대해 "초인적 인"인 것으로 인정했습니다.
이 성명은 AI가 이제 도구일 뿐만 아니라 사이버 보안에 심각한 위협이 될 수 있다는 우려가 커지고 있는 가운데 나왔습니다.
시스템을 "침투"할 수 있는 AI
Anthropic의 Claude 계열의 일원인 Mythos 모델은 소프트웨어 보안 결함을 찾아서 악용하는 놀라운 능력을 가지고 있다고 합니다.
그의 성명서에서 Anthropic는이 모델이 시스템 취약성을 감지하는 데 대부분의 사람들을 능가 할 수 있다고 인정했습니다.
"AI 모델은 소프트웨어 취약점을 발견하고 악용하는 데 거의 모든 사람을 능가할 수 있는 코딩 능력 수준에 도달했습니다."라고 Anthropic은 공식 블로그에서 썼습니다.
즉, 세계는 해커처럼 생각할 수 있지만 기계의 속도로 생각할 수있는 새로운 가능성에 직면하고 있습니다.
골드만 삭스는 침묵하지 않을 것이다.
이러한 위험에 직면하여 골드만 삭스는 선제적 접근 방식을 선택했습니다. 솔로몬은 그의 팀이 이미 모델에 액세스하고 Anthropic 및 보안 공급 업체와 직접 협력하여 이해하고 활용할 수 있다고 강조했습니다.
"우리는 미토스의 능력을 인식하고 있습니다 ... 그리고 우리는 이러한 최첨단 기술을 활용하기 위해 Anthropic과 우리의 보안 파트너와 긴밀히 협력하고 있습니다."라고 솔로몬은 말했습니다.
그는 사이버 보안 부문에 대한 투자는 은행의 디지털 인프라 저항력을 강화하는 전략의 일환으로 가속화되고 있다고 덧붙였다.
글로벌 규제자의 경고
이러한 우려는 민간 부문에서만 발생하지 않습니다. AI Security Institute (AISI)는 미스를 사이버 위협 잠재력의 "대규모 급증"으로 묘사했습니다.
그들의 테스트에서 이 모델은 32 단계로 복잡한 사이버 공격 시뮬레이션을 완료 할 수 있었으며 - 일반적으로 인간 전문가가 며칠 동안 걸리는 일 - 몇 가지 시도에서 성공했습니다.
더 걱정스러운 점은 이 AI가 약한 방어 시스템에 대해 자율적으로 공격할 수 있다는 것입니다.
그러나 AISI는 강력한 방어 시스템에 대한 능력이 여전히 확실하지 않다고도 지적했습니다.
이 상황은 규제 당국의 신속한 반응을 불러 일으켰습니다. 미 국무부의 스코트 베센트 장관은 심지어 AI가 야기하는 위험에 대해 논의하기 위해 주요 은행 사장들을 모았습니다.
영국에서는 크로스 마켓 운영 회복 그룹이 영국 은행과 금융 행위 당국과 같은 당국을 포함하여 가까운 장래에 유사한 회의를 개최할 예정입니다.
이러한 발전은 한 가지 현실을 확인합니다. AI는 이제 생산성 도구 일뿐만 아니라 사이버 무기의 잠재력이기도합니다.
금융 기관의 경우, 베팅은 매우 높습니다. 작은 방해조차도 경제 안정성에 시스템적 영향을 미칠 수 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
