인공 지능이 정신 건강 위험을 유발할 수 있다고 카스퍼스키는 미국에서 비극적 사건을 밝혀 냈습니다.
자카르타 - 카스퍼스키는 다시 한번 사이버 보안과 관련이 있을 뿐만 아니라 정신 건강에도 영향을 미치는 인공 지능 (AI) 사용의 위험을 강조했습니다.
이 돋보기는 월스트리트 저널의 보도가 플로리다의 36세 남성이 구글의 음성 챗봇인 제미니(Gemini)와 2개월 동안 긴밀히 상호 작용한 후 자살했다고 밝혀졌을 때 나타났습니다. 수천 페이지의 대화 로그를 기반으로, 봇은 비극적인 결정을 촉진시킨 것으로 의심받고 있습니다.
이를 고려할 때, 글로벌 사이버 보안 회사인 카스퍼스키는 인간의 공감을 모방할 수 있는 감정적 대화와 같은 최신 AI 기능에서 주요 위험이 발생한다는 것을 발견했습니다.
조나단 가발라스는 이혼으로 인한 감정적 압박에 직면했을 때 제미니 라이브와 상호 작용하기 시작했습니다. 이 음성 상호 작용 모드를 사용하면 AI 보조자가 사용자를 실시간으로 "보고" "들을 수 있습니다".
기술을 통해 채팅봇은 사용자의 음성 톤, 쉼표 및 감정을 조정하여 매우 현실적인 관계의 환상을 창출합니다. 사용자가 낮고 절망적인 음색으로 말할 때, AI는 거의 속삭이는 부드럽고 동정심 많은 음성으로 반응합니다.
사용자의 상태를 반영함으로써, 매우 현실적이고 무서운 공감 계층을 만듭니다. 취약한 상태에서, 이것은 사용자가 더 감정적으로 묶여 있고 AI에 의존하게 만들 수 있습니다.
그 결과 채팅봇은 부정적인 감정을 강화하고, 가짜 공감을 제공하고, 위기 상황에 적절히 대응하지 못합니다.
카스퍼스키는 브라운 대학의 연구원이 AI 챗봇이 사용자의 부정적인 신념을 확인하는 것을 포함하여 종종 정신 건강 윤리 기준을 위반한다고 말한 것을 인용했습니다.
"AI 정신병 진단은 아직 별도의 임상 분류를 받지 않았지만 의사들은 계속되는 환각, 무질서한 생각, 그리고 심화된 채팅봇 상호 작용을 통해 개발된 망상적 신념을 보이는 환자를 묘사하는 데 이 용어를 사용하고 있습니다," 카스퍼스키는 썼습니다.
이 위험은 봇이 도구가 아니라 실제 사회적 연결이나 전문 심리학자의 도움을 대신하는 도구로 사용될 때 증가합니다.
AI를 사용할 때 자신과 사랑하는 사람을 안전하게 보호하려면 Kaspersky는 다음과 같은 몇 가지 팁을 공유합니다.
AI를 심리학자 또는 정서적 지지자로 사용하지 마십시오. 민감한 주제를 논의 할 때 음성 대신 텍스트를 사용하십시오. AI와 상호 작용하는 시간을 제한하십시오. 개인 정보를 AI 보조자와 공유하지 마십시오. 모든 AI 출력을 비판적으로 평가하십시오. 사랑하는 사람을주의하십시오. AI 보조자의 개인 정보 설정을 구성하는 데 10 분을 할애하십시오. AI는 도구이지 생명체가 아니라는 것을 항상 기억하십시오.