OpenAI는 추돌과 괴롭힘의 희생자로부터 소송을 당했습니다. 이 소송은 ChatGPT가 범죄자의 위험한 환상을 강화시킨 것으로 의심하기 때문에 캘리포니아 고등 법원에 제기되었습니다.
알려진 피해자는 제인 도이라는 이름으로, 오픈AI가 피해자를 위협하는 행동에 대해 경고하는 세 개의 경고를 회사에 보냈다고 주장했습니다.
범인은 53세의 사업가로, ChatGPT와의 긴 대화를 통해 수면 무호흡증 치료법을 발견했다고 믿고 있습니다. 그의 환상이 더 심해질 때, 인공 지능(AI) 모델은 그의 생각을 지지했습니다.
ChatGPT은 또한 범죄자를 감시하는 '대규모의 힘'이 있다고 말했습니다. 또한, OpenAI는 이전에 비활성화 된 범죄자 계정을 다시 활성화하는 것으로 알려져 있습니다.
실제로, 범죄자의 계정은 이전에 매우 위험한 계정으로 표시되었습니다. 피해자의 설명에 따르면, OpenAI의 인간 보안 팀은 계정이 도에 대한 표적이 되고 추적하는 증거를 포함할 수 있음에도 불구하고 범죄자의 계정을 복구했습니다.
"사용자 커뮤니케이션은 정신 장애를 겪고 있다는 명백한 통지를 제공하고 ChatGPT이 망상적 사고를 촉발한다는 것을 보여줍니다." 피해자는 4월 13일 월요일 TechCrunch에서 보도한대로 소송에서 썼습니다.
범인은 지난 1월 폭탄 위협과 치명적인 무기로의 공격으로 기소되어 체포되었습니다. 그러나 그는 재판을 받지 못하고 정신 건강 시설에서 치료를 받았습니다.
OpenAI는 더 많은 조사를 위해 필요한 범죄자의 완전한 채팅 로그를 제출하라는 요청을 거절했다고 전해졌다. 회사는 사용자 계정을 일시 중단하는 데 동의했습니다.
이 행동은 OpenAI와 몇 달 동안 대화를 나눈 후 자살한 10대 아담 라인의 사건에도 연루된 법률 회사인 에델슨 PC가 강조했습니다.
"모든 경우에 OpenAI는 중요한 안전 정보를 대중, 피해자, 제품에 적극적으로 위험에 처한 사람들로부터 숨기기로 선택했습니다."라고 에델슨은 말했습니다. "이번에는 그들에게 옳은 일을하도록 요청합니다."
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
