자카르타 - 최신 조사는 애플의 모더레이션 시스템에 심각한 틈새를 열었습니다. 피해자의 동의 없이 딥페이크 포르노 콘텐츠를 만드는 수많은 AI 기반 앱이 앱 스토어에 통과했을뿐만 아니라 광고를 게재하고 사용자 검색 결과에 표시되었습니다.
연구 기관 인 Tech Transparency Project의 보고서에 따르면 사용자는 "deepfake"와 같은 키워드를 입력하기 만하면 누군가의 얼굴을 폭력적인 콘텐츠로 조작하는 데 사용할 수있는 응용 프로그램을 찾을 수 있습니다. 더 걱정스러운 점은 일부 응용 프로그램이 어린이를위한 안전한 연령 등급을 부여받는다는 것입니다.
이러한 현상은 애플의 앱 리뷰 시스템이 애플리케이션 생태계의 수호자로서의 기본 기능을 수행하지 못하고 있다는 비판을 강화시켰습니다.
앱 스토어의 큰 틈
연구자들이 수행한 실험은 학대가 얼마나 쉽게 일어나는지를 보여줍니다. 얼굴 교환 응용 프로그램 중 하나는 사용자가 명백한 비디오를 업로드하고 다른 사람의 사진으로 얼굴을 교체 할 수 있도록 허용합니다. 경고, 검증 또는 제한이 없습니다.
알림도 없고, 콘텐츠 필터도 없고, 기본적인 방지 메커니즘도 없습니다. 법률 및 윤리 측면에서 볼 때, 이는 분명히 개인 정보를 침해하고 디지털 착취의 문을 열 수 있는 회색 영역에 속합니다.
문제는 기술뿐만 아니라 대규모 플랫폼이 촉진하는 분포입니다.
계속되는 길 광고
상황을 더욱 불합리하게 만드는 것은이 애플리케이션이 앱 스토어의 유료 광고 슬롯에도 나타난다는 것입니다. 즉, 개발자는 선별을 통과 할뿐만 아니라 사용자에게 직접 가시성을 구입할 수 있습니다.
조사 데이터에 따르면 약 31개의 "nudify"앱이 활동 중인 것으로 나타났으며 총 다운로드 수는 수억 번에 달했으며 총 수익은 1억 2000만 달러를 넘었습니다.
간접적으로 애플은 이러한 생태계에서 수익을 얻습니다. 이는 글로벌 규제 당국의 디지털 플랫폼에 대한 압력이 증가함에 따라 돌발 상황이 될 수 있습니다.
첫 사례가 아니다
이전에 애플은 수십 개의 유사한 앱을 삭제했으며 심지어 xAI와 같은 AI 회사에 앱의 심층 가짜 문제에 대해 경고했습니다.
그러나 최근의 발견은 이러한 조치가 충분하지 않음을 보여줍니다. 절제는 예방적이지 않고 반응적입니다.
사실, 딥페이크 기술은 빠르게 발전하고 있으며, 원본 콘텐츠와 구별하기가 점점 더 어려워지고 있습니다. 이는 잘못된 손에 들어가면 위험한 도구가 될 수 있습니다.
이 사건은 여러 국가의 정부가 AI 콘텐츠, 특히 성적 착취와 개인 정보 보호와 관련된 콘텐츠에 대한 규칙을 강화하기 시작한 시기에 발생했습니다.
애플이 시스템을 개선하지 못하면 규제 기관의 개입이 더욱 공격적이 될 가능성이 있습니다. 이는 앱 리뷰 프로세스에 대한 외부 감독 가능성을 포함합니다.
딥페이크 문제는 더 이상 인터넷 포럼에서 틈새 문제가 아닙니다. 그것은 주류 플랫폼에 들어갔고, 한 번의 클릭으로 사용할 수 있었으며, 아이러니하게도 홍보되었습니다.
VOI 왓츠앱 채널을 따르십시오
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
