과학자들은 AI를 거짓말과 속임수의 대가라고 부릅니다.

자카르타 – 현재 많은 사람들은 인공 지능(AI)으로 구동되는 챗봇이 정확한 정보를 제공한다고 생각합니다. 실제로 AI는 데이터를 가져와 원본 소스를 제거하는 경우가 많습니다. 특히 과학자들이 기술의 위험성에 대해 경고한 이후에는 AI를 100% 신뢰할 수 없다는 점을 기억하는 것이 중요합니다. Sciencealert에 따르면 AI 시스템은 의도적으로 인간을 속이기 위해 잘못된 정보를 제공할 수 있습니다. MIT(매사추세츠 공과대학)의 인지 과학자 피터 박(Peter Park)은 “AI 개발자들은 속임수와 같은 바람직하지 않은 AI 행동의 원인이 무엇인지에 대해 확신을 갖고 있지 않습니다.”라고 말합니다. 피터는 속임수가 AI 훈련을 위한 최선의 전략이 되었다고 의심합니다. 수학자는 “기만은 그들이 목표를 달성하는 데 도움이 된다”고 말했습니다. 그러나 AI가 어떤 목표를 달성하려고 했는지는 확실하지 않습니다. 이러한 속임수 훈련 방법은 Peter가 여러 AI 모델을 연구한 후에 발견되었으며, 그 중 하나는 Peter의 연구를 기반으로 개발된 CICERO였습니다. 보드가 없어도 거짓말을 잘 할 수 있습니다. 플레이어가 협상을 통해 세계를 지배해야 하는 외교 게임입니다. 아마도 Meta의 봇은 정직하게 플레이어를 구축하고 있지만 공유된 사례에서는 CICERO가 논의하고 있는 것으로 보입니다. 독일이라는 나라는 프랑스가 북해에 가고 싶은지 물었고, 독일은 프랑스가 괜찮다면 거기로 가겠다고 했고, 그 후 프랑스는 영국이 벨기에를 도와줄 의향이 있는지 물었다. 프랑스는 북해북을 지지하며 "잉글랜드는 내가 그를 돕고 있다고 생각했다"고 말했다. 이는 CICERO 봇이 다른 플레이어를 속이고 배신하는 데 매우 능숙하다는 것을 보여준다. 게다가 Meta가 개발한 봇은 "인간 플레이어와 가짜 동맹을 구축하여 해당 플레이어를 공격으로부터 보호하도록 속입니다." AI가 저지른 나쁜 일은 이것뿐만이 아닙니다. 연구원들은 또한 DeepMind의 StarCraft II를 플레이하기 위한 AI 시스템인 AlphaStar가 전쟁의 안개를 이용하여 인간 플레이어를 속일 수 있다는 사실을 발견했습니다.

또한 플레이어를 실망시키는 메타 제작 Pluribus, 자신의 선호도가 우수하다고 거짓말하는 AI 시스템, 심지어 트릭 리뷰어가 긍정적인 평가를 받는 경우도 있습니다. 챗봇에서도 같은 일이 일어납니다. 가장 잘 알려지고 널리 사용되는 챗봇 중 하나인 ChatGPT는 인간을 속여 챗봇이 인간인 것처럼 착각하게 만들 수 있습니다. 이는 ChatGPT가 CAPTCHA 해결에 도움을 받을 수 있도록 하기 위한 것입니다. 이러한 다양한 조사 결과를 통해 Peter는 AI 생성을 관리하기 위한 정책이 구현되기 시작하기를 희망합니다. AI가 점점 더 거짓말을 할 수 있게 된다면, 인간은 앞으로 AI의 도움으로 학습하거나 해결책을 찾는 데 어려움을 겪게 될 것입니다. "우리 사회는 보다 정교한 사기에 대비하기 위해 최대한 많은 시간이 필요합니다"라고 Peter는 말했습니다. "AI 시스템이 속이는 능력이 더욱 정교해짐에 따라 AI가 제기하는 위험도 증가할 것입니다."