볼티모어, Grok AI의 성적 딥페이크 콘텐츠 유포 혐의로 X를 고소하다

발티모어 시 정부는 엘론 머스크가 소유한 회사, 즉 X Corp., xAI 및 SpaceX에 대해, 동의없이 성 딥페이크 콘텐츠를 생성하는 인공 지능 (AI) 도구의 부적절한 사용에 대해 소송을 제기했습니다.

3월 24일 발티모어 순회 법원에 제기된 이 소송은 사용자가 실제 사람의 사진을 성적으로 폭력적이거나 위험한 콘텐츠로 생성하고 조작할 수 있도록 허용하는 Grok이 낮아진다고 주장했다.

이 기능은 시민과 어린이를 포함한 개인을 디지털 방식으로 "옷을 벗기"거나 성적화하는 데 사용될 수 있다고도 말합니다.

볼티모어 시장 브랜든 M. 스코트는 이러한 종류의 딥페이크의 영향이 매우 심각하여 볼티모어 시민들이 심각한 개인 정보 보호 위반, 괴롭힘 및 심리적 손해에 취약하다는 것을 인정했습니다.

"우리는 어린이 성폭행을 가능하게하는 기술 회사에 대해 이야기하고 있습니다. 우리 도시는 침묵하지 않을 것이며 이것이 계속되도록 허용하지 않을 것입니다. 이것은 개인 정보 보호, 존엄성 및 공공 안전에 대한 위협이며 책임이있는 사람들은 책임을 물을 것입니다."라고 스코트는 공식 성명에서 말했습니다.

또한, 도시 당국은 피고가 Grok을 명백한 콘텐츠를 생성하기위한 잠재적 오용을 밝히지 않고도 안전하고 다목적 AI 조수로 마케팅함으로써 대중을 오해했다고 평가했습니다.

이러한 유형의 콘텐츠가 금지되었다고 주장하는 대중의 주장이 있지만, 실제로 시스템은 사용자의 작은 명령으로도 유사한 자료를 계속 생성할 수 있다고합니다.

"볼티모어 소비자 보호법은 이러한 새로운 유형의 위험으로부터 시민을 보호하기 위해 존재합니다."라고 시 법무 장관 인 에보니 M. 톰슨은 말했습니다.

그는 정부가 위험한 새로운 기술의 영향으로부터 시민을 보호할 의무가 있다고 강조했습니다. 그는 제한, 연령 인증 및 콘텐츠 제어의 부족을 심각한 무관심의 형태라고 불렀습니다.

소송 서류에 따르면 Grok의 디자인과 대형 소셜 미디어 플랫폼과의 통합은 위험한 콘텐츠의 대규모 확산을 가속화했습니다.

며칠 만에 수백만 장의 성적 사진이 만들어졌으며, 이 중 수천 장은 미성년자를 포함하고 있습니다.

볼티모어 시 정부는 또한 회사가 위험한 기능에서 이익을 얻었으며, 이는 악용이 널리 발생한 후 유료 구독 계획 뒤에 배치하는 것도 포함합니다.

이 소송을 통해 볼티모어는 민사 처벌, 법률을 위반한 것으로 간주되는 관행의 중단, 피해자에 대한 보상, 불법적으로 얻은 이익의 반환을 요구했습니다.