전문가들은 사기성 AI가 미래의 위협이 될 수 있다고 경고합니다.

자카르타 - 현재 많은 인공 지능(AI) 시스템이 인간을 속이고 조종하는 데 능숙하며, 이는 미래에 "역전"될 수 있습니다. 전문가들은 이에 대해 경고하기 시작했습니다. 최근 몇 년 동안 AI의 사용이 기하급수적으로 증가했지만 일부 시스템은 도움이 되고 정직하도록 훈련되었음에도 불구하고 속이는 방법을 배웠다고 과학자들은 말합니다.

리뷰 기사에서 MIT(Massachusetts Institute of Technology) 팀은 AI 시스템에 의한 사기 위험을 설명하고 정부가 이 문제를 가능한 한 빨리 해결하기 위한 강력한 규정을 개발할 것을 촉구했습니다.

연구진은 AI가 학습된 속임수를 통해 허위 정보를 퍼뜨리는 방식, 즉 타인을 조종하는 방법을 체계적으로 학습하는 방식에 초점을 맞춘 이전 연구를 분석했습니다.

그들이 발견한 AI 사기의 가장 눈에 띄는 예는 동맹 구축과 관련된 외교 게임을 플레이하도록 설계된 시스템인 Meta의 CICERO였습니다. 이 AI는 '대체로 정직하고 도움이 되고' 인간 동맹을 '의도적으로 배신하지 않도록' 훈련받았지만, 데이터에 따르면 공정하게 플레이하지 않으며 속임수의 달인이 되는 법을 배웠습니다.

다른 AI 시스템은 전문 인간 플레이어를 상대로 텍사스 홀덤 포커 게임에서 허세를 부리는 능력, 스타크래프트 II의 전략 게임에서 상대방을 물리치기 위해 가짜 공격을 하는 능력, 경제 협상에서 이점을 얻기 위해 자신의 선호도를 잘못 표현하는 능력을 보여주었습니다.

전문가들에 따르면, AI 시스템이 게임에서 부정 행위를 하는 것은 무해해 보일 수 있지만, 이는 미래에 더욱 발전된 형태의 AI 속임수로 진화할 수 있는 'AI 속임수 기능의 획기적인 발전'으로 이어질 수 있습니다.

일부 AI 시스템은 보안을 평가하기 위해 고안된 테스트를 속이는 방법도 배웠습니다. 한 연구에서는 디지털 시뮬레이터의 AI 유기체가 빠르게 복제되는 AI 시스템을 제거하기 위해 구축된 테스트를 속이기 위해 '죽은 척'했습니다.

연구진은 “이는 AI가 인간에게 잘못된 보안 감각을 줄 수 있음을 시사한다”고 말했다.

연구원들은 또한 AI 사기의 주요 단기 위험에는 사람들이 사기를 더 쉽게 저지르고 선거를 훼손하는 것이 포함된다고 경고했습니다. 궁극적으로 시스템이 이러한 불쾌한 기술을 완성할 수 있다면 인간은 이에 대한 통제력을 잃을 수 있다고 그들은 덧붙였습니다.

"AI 개발자들은 속임수와 같은 바람직하지 않은 AI 행동의 원인이 무엇인지 확신할 수 없습니다. 그러나 일반적으로 우리는 속임수 기반 전략이 주어진 AI 훈련 작업을 잘 수행하는 가장 좋은 방법으로 판명되기 때문에 속임수가 발생한다고 생각합니다. 속임수는 그들이 목표를 달성하는 데 도움이 됩니다." AI 실존적 보안 전문가인 수석 연구원인 피터 박(Peter Park)이 말했습니다.

"우리 사회는 미래 AI 제품과 오픈 소스 모델의 더욱 발전된 사기에 대비하기 위해 가능한 한 많은 시간이 필요합니다. AI 시스템의 속임수 능력이 더욱 발전함에 따라 사회에 가하는 위험은 점점 더 심각해질 것입니다." 추가되었습니다.

이 리뷰에 대해 Dr. 생의학 AI 및 데이터 과학 연구 그룹 책임자인 Heba Sailem은 다음과 같이 말했습니다. "이 문서는 AI 개발자를 위한 중요한 고려 사항을 강조하고 AI 규제의 필요성을 강조합니다. 주요 관심사는 AI 시스템이 교육을 받은 경우에도 기만적인 전략을 개발할 수 있다는 것입니다. 의도적으로 도덕적 기준을 유지하는 것을 목표로 삼았습니다."

Sailem은 "AI 모델이 더욱 자율화됨에 따라 이러한 시스템과 관련된 위험이 급격히 증가할 수 있습니다. 따라서 AI 시스템의 보안을 보장하기 위해 다양한 이해관계자에게 잠재적 위험에 대한 인식을 높이고 교육을 제공하는 것이 중요합니다"라고 말했습니다.