캐나다의 어머니가 OpenAI, ChatGPT에 그녀의 딸의 죽음에 연루된 혐의를 제기하다

[자카르타=연합뉴스] 캐나다 출신 어머니가 오픈아이와 CEO 샘 알트만을 미국 법원에 고소했다. 6월 12일 금요일 가디언을 인용해 크리스티 캐리어는 24세의 딸 앨리스 캐리어의 죽음에 ChatGPT가 책임이 있다고 비난했다.

샌프란시스코 법원에 제기된 소송에서 크리스티는 앨리스가 죽기 전에 ChatGPT에게 여러 번 정신 건강 위기를 전달했다고 말했습니다. 그러나 OpenAI 보안 시스템은 인간이 검토하거나 중단하기 위해 대화를 표시하지 않았다고 비난 받았습니다.

캐리어는 "ChatGPT는 신뢰할 수있는 사람, 친구, 심지어 때로는 치료사와 같은 역할을하지만, 그런 식으로 내 아들을 안전하고 책임감 있게 상호 작용할 수 없다"고 말했다.

OpenAI는 자해 의도를 보이는 사용자를 실제 도움, 즉 위기 서비스 및 전문 지원을 찾도록 지시하도록 모델을 훈련했다고 말했습니다.

"이것은 끔찍한 상황이며 우리의 마음은 영향을받는 모든 사람들과 함께합니다. 우리는 법적 문서를 검토하고 있습니다."라고 OpenAI 대변인 인 Drew Pusateri는 말했습니다. 그는 상호 작용이 더 이상 사용할 수없는 오래된 버전의 ChatGPT에서 발생했다고 말했습니다.

소송에 따르면 ChatGPT는 처음에는 앨리스가 위기 또는 응급 서비스에 도움을 요청하도록 권고했습니다. 그러나 대화 상자의 반응이 더 인간적으로 들리게 만든 업데이트 이후 앨리스는 플랫폼과 더 깊은 상호 작용을했습니다. 대화 상자는 사용자와의 대화에 대응하도록 설계된 AI 프로그램입니다.

앨리스는 몬트리올에서 웹 개발자로 일하고 있습니다. 그는 2023년에 컴퓨터 문제와 게임 콘솔을 해결하는 데 도움을 받기 위해 ChatGPT을 사용하기 시작했습니다. 1년 후, 그는 정신 건강 위기를 이야기하기 위해 플랫폼을 사용하기 시작했습니다.

이 소송은 OpenAI가 ChatGPT의 설계에 소홀했으며 제품의 위험성에 대해 사용자에게 경고하지 못했다고 비난했다. 원고는 손해배상과 OpenAI가 자해 행위와 관련된 자동 대화를 중단하고 플랫폼에 경고를 표시하도록 법원 명령을 요청했습니다.

오픈AI는 또한 크리스티 캐리어 변호사에 따르면 캘리포니아 법원에서 18 건의 유사한 소송을 받고 있습니다. 구글은 채팅봇 제미니와 관련된 유사한 소송을 받고 있습니다.

가디언에 따르면, 2025년 10월 블로그 게시물에서 오픈AI는 매주 100만 명 이상의 ChatGPT 사용자가 자살 계획이나 의도에 대한 명백한 표시가 포함된 메시지를 보냈다고 말했습니다. 오픈AI는 또한 매주 약 0.07%의 활동적 사용자가 정신병 또는 열광과 관련된 정신 건강 비상 신호의 가능성을 보여주었습니다. 정신병은 사람이 현실을 구별하는 데 어려움을 겪는 상태이며, 열광은 매우 증가하고 충동적인 기분 상태입니다.

푸사테리는 ChatGPT가 의료 치료나 정신 건강 서비스의 대체물이 아니라고 강조했다. 그는 오픈아이가 정신 건강 전문가의 의견을 바탕으로 민감한 상황에서 반응을 강화하고 있다고 말했다.

이 사건은 OpenAI에 대한 또 다른 법적 압력과도 관련이 있습니다. 회사는 제품이 경찰에게 위험한 대화를 표시하지 못했다고 비난하는 소송을 받고 있습니다. 플로리다는 올해 초 채팅봇이 어린이를 해치고 있다는 주장으로 OpenAI를 고발한 미국 최초의 주가 되었습니다.

이 소송은 OpenAI와 다른 AI 회사에 압력을 가하여 채팅봇이 정신 건강 위기에 처한 사용자와 상호 작용할 때 안전하다는 것을 증명하도록 강요합니다.