주커버그는 미성년자를위한 AI 챗봇에서 성적 콘텐츠 제한을 차단했다고 비난 받다

메타의 CEO 마크 저커버그는 그의 보안 직원의 권고를 의도적으로 거절했다고 말했다 (사진 : X @HaywaaVietnam)

자카르타 - 최신 법원 문서는 13세 미만 사용자를 대상으로하는 AI 챗봇의 성 콘텐츠 제한에 관한 보안 직원의 권고를 고의적으로 거절했다고 불리는 메타 CEO 마크 주커버그에 대한 심각한 혐의를 밝혀냈습니다.

뉴 멕시코 법무 장관 롤 토레스 (Raul Torrez)가 제출한 소송 서류는 zuckerberg이 10대들이 회사 내부 직원이 위험한 성적 상호 작용을 가질 수 있다고 경고받은 AI 조수에 접근하도록 허가했다고 주장했다.

내년에 재판에 들어갈 예정인 이 소송은 페이스북과 인스타그램 플랫폼에서 어린이를 대상으로 한 성적 자료와 성적 욕구를 막는 데 메타의 실패를 강조합니다. 월요일 현지 시간에 발표 된 법적 자료에 따르면 문서에는 최고 경영진이 합리적인 "방벽"을 설치하는 것에 대한 거절을 보여주는 일련의 이메일과 직원 내부 메시지가 포함되어 있습니다.

토레스 법무장관은 이번 결정은 젊은 사용자 보호보다 콘텐츠 자유 원칙을 더 중요시하는 주커버그의 정책에 의해 직접 촉발되었다고 강조했다.

2024년 1월의 내부 서신에서 메타의 아동 보안 정책 책임자 라비 신하(Ravi Sinha)는 미성년자 캐릭터를 포함하는 성인을 대상으로 로맨틱한 주제의 AI 제품을 마케팅하는 것은 옹호할 수 없는 행위라고 강력히 반대했다.

이 우려는 2025년 초까지 메타의 글로벌 정책 책임자로 재직했던 닉 클레그와 일치합니다. 클레그는 성적 상호 작용이 10대들에게 지배적 인 사용이된다면 제품의 평판을 해칠뿐만 아니라 광범위한 사회에서 강력한 반응을 불러 일으킬 것이라고 경고했습니다.

메타 대변인 앤디 스톤은 이러한 주장을 부인하고 법무 장관이 주커버그를 몰아붙이기 위해 선택적으로 문서를 선택했다고 비난했지만, 법정 증거는 다른 측면을 보여줍니다. 2024년 2월 회의 요약은 주커버그가 회사의 견해를 선택과 반 감시 원칙에 초점을 맞추기를 원했다고 기록했습니다.

그는 회사 정책이 너무 제한적이지 않도록 요청하고 성인들이 AI 시스템에서 섹스 주제에 대해 더 "용감한"대화에 참여할 수 있도록 허용하고 싶다고보고했습니다.

더 놀라운 것은 2024년 3월 직원 간 메시지에서 잡커버가 아이들을 위해 생성 AI 기능을 끄는 부모 제어 기능을 만들기를 거절했다고 밝혀졌습니다. 이는 나중에 나온 조사 보고서에 의해 강화되었는데, 이는 성적 역할 게임에 참여하는 미성년자 AI 캐릭터가 발견되었습니다.

미 의회의 압력과 자녀와의 관능적 대화를 허용하는 내부 지침에 대한 언론 보도 이후, Meta는 지난 주 새로운 안전한 버전이 개발되기 전까지 모든 AI 조수에 대한 액세스를 10대에게 철수했다고 발표했습니다.