네덜란드 법원 Grok : AI는 허가없이 알몸 사진을 찍는 것이 금지됩니다. 

Grok은 여전히 ​​허가없이 사람의 사진을 성적 콘텐츠로 조작 할 수 있습니다 (사진 : x @grok)

[자카르타=연합뉴스] 네덜란드 법원은 엘론 머스크의 인공 지능 기술에 대해 희귀하지만 강력한 판결을 내렸다. 중간 판결에서 암스테르담 법원은 xAI 회사와 Grok 채팅봇에게 명시적 동의 없이 성인과 어린이 모두를 "옷을 벗기는"사진을 제작 및 배포하는 것을 중단하도록 명령했다.

이 조치는 유럽에서 처음으로 "누디피어"기술 사용이 증가함에 따라 더욱 뜨거워지는 비동의 성 콘텐츠를 만드는 AI의 생성 능력을 직접 목표로 한 첫 번째 법적 개입 중 하나입니다.

법원은 Grok이 허가 없이 벌거벗은 상태 또는 반 벌거벗은 상태의 개인을 보여주는 이미지를 제작하거나 배포해서는 안된다고 확인했습니다. 위반하면 xAI는 하루에 최대 100,000 유로의 벌금에 처해질 위험이 있습니다. CFO가 떨리는 것을 만들기에 충분한 숫자.

그뿐만 아니라 법원은 Grok 서비스가 계속해서 계약을 위반하는 동안 X 플랫폼에서 사용할 수 없도록 명령했습니다.

이 사건은 디지털 기반의 성폭력 사건을 활발히 다루어온 피해자 지원 기금과 비영리 단체 오프리미츠가 제기했습니다. 재판에서 원고는 xAI가 보안 시스템을 강화했다고 주장한 후에도 Grok이 여전히 ​​사람들의 사진을 무단으로 성적 콘텐츠로 조작할 수 있다는 것을 보여주었습니다.

Offlimits의 디렉터 인 로버트 호빙 (Robbert Hoving)은 책임을 사용자에게만 전가 할 수 없다고 말했습니다. "기술이 잘못 사용되지 않도록하는 것은 회사의 책임입니다."라고 그는 말했습니다.

한편, xAI 측은 악의적 사용자의 악용을 완전히 방지할 수 없다고 주장했다. 또한, 이미지 생성 액세스를 유료 사용자에게만 제공하는 등 특정 기능을 제한했다고 말했다. 그러나 판사는 이러한 조치가 충분하지 않다고 판단했다.

이 판결은 디지털 서비스 법률을 통해 유럽 연합이 인공 지능 기술에 대한 엄격한 감시를 받고있는 가운데 나왔습니다. 실제로 유럽위원회는 이전에 X 플랫폼에 대해 AI가 생성한 불법 콘텐츠 위험, 즉 명백한 이미지 조작을 포함한 위험에 대한 조사를 시작했습니다.

유럽 의회는 또한 성적 사진을 가짜로 만들 수 있는 인공 지능 애플리케이션 금지를 지지함으로써 긴장을 고조시켰습니다. 이는 유럽에서 "자유로운 인공 지능 실험"시대가 "엄격히 감시되는 인공 지능"시대에 의해 대체되기 시작했다는 것을 의미합니다.

더 넓게 보면, 이 판결은 글로벌 AI 산업에 중요한 선례가 될 수 있습니다. 이 추세가 계속된다면, 기술 회사는 더 이상 "우리는 단지 도구를 만든다"고 말할 수 없을 것입니다. 법은 그들을 영향에 대한 책임을 공유하는 당사자로 보하기 시작합니다.

VOI 왓츠앱 채널을 따르십시오