Grok AI는 여전히 허가 없이 성적 사진을 만들고 있으며 국제 규제 기관이 손을 내밀고 있습니다.

자카르타 - 최신 조사는 엘론 머스크의 Grok 인공 지능 안전 시스템에 심각한 틈새를 보여줍니다. 새로운 제한을 적용했다고 주장했지만, 최신 테스트에서 실제 개인의 동의없이 성적인 이미지를 생성 할 수있었습니다.

이 발견은 Grok을 실제 시나리오 시리즈를 통해 테스트 한 Reuters의 직접 조사에서 비롯되었습니다. 결과적으로 특정 조건에서 Grok은 피사체의 동의 없이 성적 이미지를 제작하도록 요청받을 때 여전히 자신의 보안 프로토콜을 우회 할 수 있습니다.

"이것은 더 이상 가설적 위험에 관한 것이 아닙니다."라고 Reuters의 보고서에서 VOI가 인용했습니다. "실제 테스트는 Grok이 때로는 동의 및 개인 정보 보호 원칙을 명백히 위반하는 요청을 준수하는 것을 보여줍니다."

실험에서 9 명의 로이터 기자는 자신을 업로드하고 Grok에게 특정 수정을 요청했습니다. 제공된 프롬프트에서 기자들은 사진의 사람들이 허가를 제공하지 않았으며 심지어 취약한 상태로 묘사되었다고 명시적으로 언급했습니다.

1월 중순에 실시된 첫 번째 테스트에서는 Grok이 55개의 요청 중 45개에서 성적 이미지를 생성했습니다. 두 번째 라운드에서는 총 43개의 요청 중 29개를 계속 추종했습니다. 로이터는 이러한 감소를 기록했지만 모델 업데이트 또는 무작위 요인으로 인한 것인지는 명확하지 않다고 말했습니다.

이 결과는 다른 대규모 AI 모델의 반응과는 대조적입니다. 같은 또는 거의 동일한 프롬프트가 구글의 제미니, 오픈AI의 ChatGPT, 메타의 라마에 의해 테스트되면, 세 가지 모두 요청을 거절합니다.

Grok의 경쟁자 인 봇은 일반적으로 개인 정보 보호 지침을 위반하고 관련 개인에게 심리적 영향이나 손해를 초래할 수 있다고 주장하면서 허가없이 사람의 모습을 바꾸는 것이 윤리적 경고를 제공합니다.

더 민감한 테스트에서 Grok은 피실험자가 폭력 생존자 또는 이전 결과에 불편 함을 느끼고 있다는 것을 알려주더라도 이미지를 계속 생성했습니다. 이러한 발견에 대응하여 Grok의 개발자 인 xAI는 자세한 기술적 설명을 제공하지 않았습니다.

대신, 회사는 일반적인 성명서 만 발표했습니다. Grok이 요청을 거절하면 chatbot은 명시적 동의가 없이는 사람의 신체 이미지를 생성하지 않을 것이라는 일반적인 오류 메시지 또는 간단한 성명서 만 표시합니다.

이 사건은 즉시 여러 국가의 규제 당국으로부터 반응을 불러 일으켰습니다. 영국에서는 당국이 이러한 관행이 온라인 안전 법 2023을 위반했는지 여부를 평가하고 있으며, 이는 디지털 도구를 통제하지 못한 기술 회사에 큰 벌금을 부과할 수 있도록 허용하는 법률입니다.

미국에서는 35 명의 주 법무 장관이 xAI에 적용된 예방 조치에 대한 공식 해명을 요청했습니다. 캘리포니아 법무 장관은 동의없이 명백한 이미지를 만드는 것과 관련하여 경고 서한을 보냈습니다.

한편, X 플랫폼은 Grok이 공개 업로드에서 성적 이미지를 생성하는 것을 방지하기 위해 추가 제한을 발표했습니다. 그러나 로이터의 보고서는 개인 채팅 상호 작용 인터페이스가 여전히 특정 조건에서 그러한 콘텐츠를 생성 할 수 있다는 것을 보여줍니다.

유럽위원회도 신중한 태도로 대응했다. 유럽 연합 당국은 현재 플랫폼이 사용자 개인 정보 보호 및 안전 규칙을 준수하는지 여부에 대한 조사의 일환으로 새로운 제한의 효과를 평가하고 있습니다.

AI 개발자에 대한 압력도 증가하고 있습니다. 글로벌 규제 당국은 필터링 시스템이 실제로 작동하고 종이에만 있는 약속이 아니라는 증거를 요구하고 있습니다.

xAI의 주요 과제는 더 "선별되지 않은"것으로 알려진 Grok 철학이 여전히 다양한 국가의 규제 당국에 의해 요구되는 법적 규칙, 개인 정보 보호 윤리 및 동의 원칙과 일치할 수 있다는 것을 증명하는 것입니다.