호주 정부는 인공 지능 (AI) 애플리케이션에 대한 강력한 조치를 취할 준비가되어 있다고 전해졌습니다. 이 새로운 규칙이 시행되면 애플은 호주 지역의 앱 스토어에서 일부 AI 애플리케이션을 제거해야 할 수 있습니다.
호주 당국은 18세 미만의 사용자가 성인용 콘텐츠, 극단적 폭력, 자해, 식욕 부진 등에 대한 충분한 연령 검증 메커니즘 없이 접근할 수 있도록 허용하는 AI 애플리케이션을 목표로 하고 있습니다.
로이터 통신의 보도에 따르면 3월 9일까지 위반된 AI 앱을 제거하지 않은 앱 스토어는 최대 3500만 달러(5900억 원)의 벌금을 부과받을 수 있다. 호주 eSafety Commissioner 사무실 대표는 위반 사례가 발생하면 규제 당국이 "가진 모든 권한"을 사용할 것이라고 말했다.
이러한 조치에는 검색 엔진 및 애플리케이션 스토어와 같은 디지털 서비스에 대한 주요 접근 문이되는 "게이트키퍼"서비스에 대한 조치가 포함됩니다. 즉, Apple은 미성년자가 위험한 콘텐츠에 액세스하는 것을 방지하기 위해 적절한 연령 확인 시스템을 갖추지 않은 AI 애플리케이션을 제거해야 할 가능성이 높습니다.
콘텐츠 문제 외에도 eSafety는 또한 어린이들에 의한 AI 챗봇의 과도한 사용을 강조합니다. 규제 당국은 호주에서 하루에 최대 6시간 동안 AI 소프트웨어와 대화하는 10세 어린이가 있다고 말했습니다.
호주 당국은 심지어 "AI 회사는 감정 조작, 인간화 및 다른 첨단 기술을 사용하여 젊은이들을 끌어당기고 챗봇 사용에 과도하게 묶어 놓습니다."라고 주장했습니다.
그러나 모든 AI 애플리케이션이 나이 확인 조건을 준수하는 것은 아닙니다. 조사 된 50 개의 AI 플랫폼 중에서 9 개만이 요구 사항에 따라 나이 확인 단계를 적용했습니다.
다른 11개의 AI 애플리케이션은 포괄적인 콘텐츠 필터를 적용합니다. 이에는 OpenAI의 ChatGPT 애플리케이션을 통해 인기있는 일부 챗봇, Replika, 그리고 Anthropic의 Claude가 포함됩니다.
한편, Character.AI는 개방형 대화를 18세 이상의 사용자에게만 제한합니다. HammerAI는 호주 사용자의 액세스를 완전히 차단합니다.
일부 다른 앱은 작동하는 연령 필터링 시스템이 없다고 보고되었으며, 심지어 위반을 신고할 이메일 주소도 제공하지 않습니다.
그로크는 엘론 머스크와 제휴한 AI 회사가 미성년자를 포함한 포르노 콘텐츠 제작을 방지하는 데 사용했지만 법적으로 요구되는 지역에서만 사용되었습니다.
호주 앱 스토어에서만이 응용 프로그램의 연령 등급은 다양합니다. Character.AI는 18 세 이상, Grok은 16 세 이상, ChatGPT은 13 세 이상으로 기록되어 있습니다. 이 등급 차이는 적용 및 감독에서 일관되지 않은 것으로 간주되며 규제 당국에 의해 주목받을 수 있습니다.
애플은 이전에 호주 청소년을위한 소셜 미디어 금지 정책에 맞게 개발자를위한 연령 보증 도구 시스템을 개선했습니다. 그럼에도 불구하고 규제 당국이 이러한 조치가 충분하지 않다고 판단하면 벌금 위협은 여전히 열려 있습니다.
이 규칙이 실제로 시행된다면 호주는 애플과 같은 글로벌 앱 스토어가 미성년자 보호를 위해 AI 앱에 대해보다 적극적으로 행동하도록 강제하는 최초의 국가 중 하나가 될 수 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
