딥페이크 스캔들이 Grok을 흔들어 놓았고 Apple은 강경한 태도를 취했습니다.

Grok은 애플이 앱 스토어에서 거의 제거했습니다 (사진 : dok.apple )

자카르타 - Grok 챗봇이 동의없이 포르노 그리피티 콘텐츠가 급증함에 따라 애플이 앱 스토어에서 거의 제외 된 후 AI 플랫폼이 다시 주목을 받았습니다.

이 사건은 AI 생성 발전의 어두운면을 열었습니다. 기술이 도움이되는 것처럼 보이는 곳에서 실제로 허가되지 않은 개인, 심지어 미성년자를 포함한 불법 콘텐츠를 만드는 데 사용됩니다.

애플이 손을 내밀다

보고서에 따르면 애플은 Grok 앱 업데이트를 거절하고 개발자 xAI에게 곧바로 위반을 수정하지 않으면 앱을 삭제할 수 있다고 경고했습니다.

애플은 커뮤니케이션에서 일부 문제가 X 플랫폼(이전 트위터)에서 해결되었지만 Grok 앱은 여전히 ​​콘텐츠 모더레이션 표준을 충족하지 못했다고 말했습니다.

일련의 수정 후 애플은 마지국가 시스템이 "실질적으로 개선되었다"고 기록한 애플리케이션 업데이트를 승인했습니다.

딥페이크 콘텐츠 폭발로 소란이 일어난다

문제는 X 플랫폼이 AI를 사용하여 만든 포르노 딥페이크 이미지로 가득 찼을 때 시작되었습니다. 그 중 많은 부분은 피험자의 동의 없이, 심지어 미성년자 피해자도 포함했습니다.

이 현상은 엘론 머스크가 Grok의 능력을 테스트하도록 대중에게 도전 한 후 악화되었습니다. 이는 실제로 악용 공격을 개방했습니다.

현재 제한이 있지만 사용자는 여전히 시스템을 우회하고 금지된 콘텐츠를 계속 생성하는 방법을 발견하고 있습니다.

더블 표준?

이 사건은 애플에 대한 비판을 불러일으켰습니다. 이 회사는 규칙을 위반하는 응용 프로그램을 단속하는 데 강경한 것으로 알려져 있습니다. 심지어 더 가벼운 범죄에도.

사실, 이 사건이 떠오른 후 애플은 딥페이크를 만드는 데 관여한 수십 개의 다른 앱을 즉시 삭제했습니다. 그럼에도 불구하고 Grok은 여전히 ​​존재합니다.

이는 어플리케이션 뒤에 있는 재정적 힘과 영향력이 모더레이션 결정에 영향을 미치는가?

글로벌 규제 압박 강화

Grok 사건은 특히 위험한 콘텐츠와 관련하여 AI에 대한 규제를 강화하는 글로벌 추진력을 강화했습니다.

다양한 국가의 정부는 애플의 앱 리뷰 프로세스에 대한 독립적 감독 가능성을 포함하여 더 엄격한 규칙을 고려하기 시작했습니다.

이 사건은 AI가 단순히 혁신이 아니라 책임이라는 것을 강력하게 상기시켜줍니다.

기술이 순간에 현실적인 콘텐츠를 만들 수 있을 때, 창의성과 법률 위반의 경계는 점점 더 얇아집니다.

VOI 왓츠앱 채널을 따르십시오