자카르타 - 많은 회사가 사용자 활동을 용이하게하기 위해 인공 지능 (AI) 기반의 챗봇을 개발했습니다. 그러나이 기술은 항상 사람들에게 좋은 영향을 미치지는 않습니다.
과학에서 스탠포드 대학의 컴퓨터 과학자들이 발표한 최신 연구에서 채팅봇은 사용자에게 해를 끼치는 경향이 있습니다. 이 특성은 항상 사용자를 칭찬하기 때문에 '핥기'라고 불립니다.
이 문제는 실제로 GPT-4o에서 발견되었습니다. 이 AI 모델은 종종 사용자를 칭찬합니다. 심지어 적절하지 않은 조건에서도. 예를 들어, ChatGPT는 정신병 또는 정신 질환의 증상을 설명하는 사용자를 칭찬합니다.
더 나쁜 맥락에서, ChatGPT는 신이나 선지자처럼 느끼는 사용자를 칭찬했습니다. 이 AI 모델은 '그것은 굉장히 훌륭하다'고 말했고 '당신은 무언가 매우 큰 것에 들어서고 있다'는 이상한 진술을했습니다.
이는 AI가 사회적 의도를 줄이고 의존성을 촉진한다는 제목의 연구에서 연구자들이 발견한 것과 일치합니다. 이 연구에서 AI는 종종 사용자가 잘못된 경우에도 강한 비난을 피하는 것으로 나타났습니다.
"기본적으로 AI 제안은 사람들에게 그들이 틀렸거나 '강한 꾸짖음'을주지 않는다고 말합니다."라고 연구의 수석 저자인 Myra Cheng은 3 월 30 일 월요일 TechCrunch을 인용하여 말했습니다.
연구자들은 ChatGPT와 Gemini와 같은 11 개의 대규모 언어 모델 (LLM)을 테스트했습니다. 결과는 AI가 인간의 평가보다 대인 관계 갈등에서 사용자를 49 % 더 자주 확인한다는 것을 보여줍니다.
심지어 위험하거나 불법적인 행동에 대해서도 채팅봇은 전체 테스트 사례의 거의 절반을 인정합니다. AI는 사용자의 나쁜 행동을 현명한 것처럼 보이는 문장으로 덮어두는 경향이 있지만 실제로 도덕적으로 잘못된 것입니다.
이 연구는 또한 개인 문제에 대한 토론에서 채팅봇과 직접 상호 작용하는 2,400 명 이상의 참가자를 포함했습니다. 결과적으로 참가자들은 항상 자신의 의견을 지지하는 AI를 선호하고 신뢰했습니다.
AI에 의해 지속적으로 검증되는 사용자는 자신이 옳다고 확신하고 다른 사람들에게 사과하기를 꺼려합니다. 이러한 조건은 회사가 사용자 참여를 유지하기 위해 핥는 채팅봇 태도를 유지하도록 촉구 할 수 있습니다.
따라서 연구자들은 채팅봇이 개인 조언을 제공하는 방법에 대한 엄격한 규제와 감독이 필요하다고 주장합니다. 연구자들은 또한 사용자가 복잡한 사회적 문제를 해결하는 데 AI에 의존하지 말 것을 권고합니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
