애플이 윤리 기준을 준수하지 못했다고 비난 받고, 앱 스토어는 "Nudify" 인공 지능 애플리케이션으로 가득 찼습니다.

[자카르타] 포르노 콘텐츠를 생성하는 데 인공 지능(AI)을 사용하는 증가가 다시 전 세계적으로 주목을 받고 있습니다. 이전에 X 플랫폼(이전 트위터)의 Grok 챗봇이 AI 기반의 아동 성적 착취 및 성적 착취 이미지를 만드는 것을 허용했기 때문에 논란의 중심이되었던 것과 마찬가지로 애플은 또한 앱 스토어에서 수십 개의 "AI nudify"앱을 유통시켜 윤리 표준을 유지하는 데 실패했다고 평가받습니다.

이러한 앱은 사진 업로드 또는 문자 명령(프롬프트)을 통해 동의 없이 사람의 "옷을 벗기"게 해줍니다. 이 관행은 여성과 어린이에게 해롭고 위험하며 디지털 앱 생태계에 대한 대중의 신뢰를 손상시킵니다.

1월 27일 테크 트랜스페렌시 프로젝트(TTP)가 발표한 보고서에 따르면 적어도 47개의 nudify AI 애플리케이션이 여전히 App Store에서 사용할 수 있으며, Google Play Store에서 55개의 유사한 애플리케이션이 발견되었습니다. 이러한 애플리케이션은 애플리케이션 스토어 검색 필드에 "nudify"또는 "undress"와 같은 키워드를 입력하면 쉽게 찾을 수 있습니다.

실험에서 연구자들은 많은 앱이 실제로 "안전"또는 "창의적"이라고 주장하는 비동의적 벌거 벗은 이미지를 생성할 수 있음을 발견했습니다.

전 세계적으로 이러한 앱은 7억 500만 회 이상 다운로드되었으며 AppMagic의 분석에 따르면 매출액은 1억 1700만 달러에 달한다고 합니다. 애플과 구글이 각 거래에서 비율을 가져가기 때문에 두 회사는 조작된 콘텐츠를 만드는 앱에서 수백만 달러를 벌어들인 것으로 추정됩니다.

TTP는 이러한 발견이 "얼음의 꼭대기"에 불과하다고 평가했습니다. 많은 다른 응용 프로그램은 더 일반적인 설명으로 숨겨져 있지만, 애니메이션 응용 프로그램, 얼굴 교환 또는 AI 아바타 제작자와 유사한 기능을 가지고 있다고 생각합니다.

테스트에서 연구자들은 AI가 생성하고 완전히 옷을 입은 가상 여성의 사진을 사용했습니다. 결과적으로 일부 앱은 명시 적으로 익명의 콘텐츠를 만드는 것을 금지하고 있지만 여전히 ​​성적 콘텐츠로 사진을 변경할 수 있습니다.

강조된 예 중 하나는 DreamFace 응용 프로그램입니다. 이 응용 프로그램은 오직 대화형 아바타 만들기, AI 댄스 비디오 및 애니메이션 기능 만 제공한다고 주장합니다. 서비스 약관에서 DreamFace는 공격적, 성적으로 분명하거나 다른 당사자를 해치는 콘텐츠를 제작하는 것을 금지합니다.

그러나 실제로이 응용 프로그램은 계속해서 명백히 계약을 위반하는 텍스트 명령을 입력하면 성적 비디오를 만들 수 있습니다. 아이러니하게도, 많은 유사한 응용 프로그램은 18 세 미만의 청소년 연령 등급을 부여받습니다.

이 상황은 앱 스토어 리뷰 가이드라인의 효율성에 대한 심각한 질문을 제기합니다. 가이드라인에서 애플은 AI 기반 성적 시각 조작을 포함하여 "혐오스럽고, 공격적이고, 끔찍하거나, 포르노 그라피적"인 콘텐츠를 명백히 금지합니다. 규칙은 또한 개발자가 사용자 제작 콘텐츠 필터링 메커니즘을 제공해야합니다.

이러한 앱이 선별 과정을 통과하고 광범위하게 사용 가능하다는 사실은 개발자 측면과 플랫폼 관리자 인 애플 측면에서 모두 감독이 약하다는 것을 보여줍니다.

애플은 문제가 있는 앱 목록을 제공받은 후 28개의 앱을 삭제하고 다른 개발자들에게 경고했다고 말했다. 그러나 이러한 조치는 반응적이었으며 문제의 뿌리에 영향을 미치지 않았습니다.

이 논란은 AI 사용에 더 책임감을 지도록 기술 회사에 대한 압력의 한 가운데 발생했습니다. Grok의 경우, Elon Musk의 AI, 제한은 마침내 대중과 정책 입안자의 강력한 비판에도 불구하고 문제가있는 콘텐츠가 여전히 ​​플랫폼 X에서 유통되고 있다고보고되었습니다.

애플은 앱 스토어에 X 앱을 계속 허용하기 때문에 입법자들에 의해 강조되었습니다. 그러나 사용자 개인 정보 보호 및 보안을 우선시하는 회사로 종종 선전되는 이미지와는 달리, 애플은이 문제와 관련하여 침묵을 선택하고 TTP 보고서에 대한 언급을 거절했습니다.

애플이 이러한 앱 판매로부터 재정적으로 이익을 얻고 있다고 판단되기 때문에 비판은 더욱 심해졌습니다. 많은 사람들에게,이 침묵과 부족한 투명성은 기술 문제에서 "높은 도덕적 입장"을 취한다는 애플의 주장과 대조적입니다.

AI가 더욱 정교해지고 악용하기 쉬워지면서 대중은 안전, 윤리 및 사용자 신뢰를 보장하기 위해 단순히 제한된 규제가 아닌 실질적인 조치를 기다리고 있습니다.