런던 - 영국 의회 의원 제스 아사토는 엘론 머스크가 소유한 인공 지능 회사 인 xAI를 고소했습니다. Grok 채팅봇이 허가 없이 자신의 성적 사진과 비디오를 만드는 데 사용된 것으로 의심받고 있기 때문입니다.
6월 4일 목요일 미러에서 인용한 바와 같이 아사토는 그록을 비난한 후 표적이되었다. AI 도구는 여성과 어린이의 성적 사진을 만드는 데 사용된다고 많은 사용자가 말했습니다.
아사토의 사진은 인터넷에서 가져와서 비키니를 입은 자신의 딥페이크 사진으로 조작되었습니다. 딥페이크는 AI의 도움으로 만들어진 가짜 사진이나 비디오로 보이도록 만들어진 것입니다.
또한, 그는 마비되어 성폭행을 준비하는 것처럼 보이는 가짜 비디오도 있습니다.
로스토프트의 의원인 아사토는 여성과 소녀에 대한 폭력 문제에 적극적으로 참여해 왔습니다. 그는 또한 딥페이크 포르노로 만들어진 여성 사진을 포함한 다른 사례를 강조했습니다.
"나는 Grok을 소유하고 설계하는 Elon Musk가 소유하고 설계하는 xAI에 대해 법적 소송을 제기했습니다."라고 Asato는 The Mirror에서 인용했습니다.
그는 자신의 사진이 동의 없이 사용되었고 여성을 굴욕감을 주는 가짜 성적 사진과 비디오로 바뀌었다고 말했다.
"나는 그것이 매우 부끄럽고 나 자신을 침해한다고 느꼈다"고 그녀는 말했다.
아사토는 그룩의 영향을 보면서 화가 났으며 xAI가 충분히 보호하지 못했다고 평가했다. 그에게 따르면, 그의 AI 사진은 변호사를 지명한 후에만 삭제되었습니다.
"물론 모든 사람이 이것을하기 위해 변호사를 고용할 수있는 능력이 있는 것은 아닙니다."라고 그는 말했습니다.
아사토는 그러한 사진과 비디오는 처음부터 만들어서는 안된다고 생각합니다. Grok과 같은 AI 도구는 여성과 어린이를 보호하기에 충분한 안전장치가 없이 설계되었다고 그는 말했습니다.
"엘론 머스크는 그록이 이러한 보안 기능을 가지고 있지 않다는 것을 알고 있습니다."라고 아사토는 말했습니다. 그는 그록이 만들어진 이후로 그 도구가 법률을 위반할 수있는 자료를 생성하는 데 악용 될 수 있다는 경고가 있었다고 말했습니다.
미러에 따르면 아사토의 소송은 수요일 xAI를 피고로 고등 법원에 제기되었다. 이 사건은 국회의원의 사진을 조작할 수 있다고 판단 된 Grok 디자인에 초점을 맞추고 있습니다.
승인되면 이 사건은 AI 개발자가 잘못 사용하기 쉬운 시스템 설계에 책임이 있는 정도를 테스트 할 수 있습니다.
아사토는 또한 이 사건이 디지털 공간에서 동의의 의미에 대한 논쟁을 열어 놓기를 바라고 있습니다.
아사토를 대변하는 AWO의 변호사 라비 나이크는 아무도 그런 괴롭힘을 당해서는 안된다고 말했다. 그는 또한 피해자가 가짜 사진을 삭제하기 위해 변호사를 고용해야한다고 생각하지 않는다고 말했다.
"이 콘텐츠는 xAI의 엔지니어가 만든 디자인 선택으로 인해 존재합니다."라고 Naik는 말했습니다.
Naik에 따르면 AI 개발에서 사용자의 안전은 늦게 생각되어서는 안됩니다.
미러는 그록 스캔들이 막스의 X 플랫폼에서 성적 딥페이크가 널리 보급된 후 전 세계적인 분노를 불러일으켰다고 보도했다.
아동 성폭력을 감시하는 인터넷 워치 재단은 분석가들이 Grok을 사용하여 만들어진 것처럼 보이는 아동 사진을 발견했다고 말했습니다.
영국 케어 스타머 총리는 그록과 엑스의 행동을 "혐오스럽고 부끄러운"이라고 말했다.
영국 기술 장관 리즈 켄달은 그록이 만든 사진을 "괴롭힘 무기"라고 불렀습니다. 영국은 승인 없이 친밀한 사진을 만드는 것 또는 만드는 시도를 금지했습니다.
광범위한 압력을 받은 후, X는 영국 법률에 완전히 준수하도록 조치를 취할 것이라고 말했습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
