자카르타 - 생성 AI가 아동 성적 학대 및 착취의 도구로 광범위하게 오용되고 있음을 인식하고 전 세계의 몇몇 영향력 있는 AI 리더들은 아동의 안전을 보호하기 위해 최선을 다하고 있습니다.
Thorn 및 All Tech Is Human과 협력하여 Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI, OpenAI 및 Stability AI는 안전 설계 원칙을 공개적으로 약속합니다.
이러한 원칙에 따라 이들 회사는 AI로 생성된 아동 성적 학대 자료(AIG-CSAM) 및 기타 성폭력의 생성 및 배포로부터 아동을 보호하기 위해 최선을 다하고 있습니다.
4월 23일 화요일, Thorn과 all Tech Is Human은 "생성 AI를 위한 설계를 통한 안전: 아동 성적 학대 방지"라는 제목의 논문을 발표했습니다. 이 논문은 AI 도구, 소셜 미디어 플랫폼, 호스팅 회사 및 개발자를 만드는 회사가 조치를 취하도록 권장하는 내용을 제공합니다. 생성 AI가 어린이에게 해를 끼치는 데 사용되는 것을 방지합니다.
한 가지 권장 사항은 AI 모델을 훈련하는 데 사용되는 데이터 세트를 신중하게 선택하고, 생성 AI가 두 개념을 혼동하는 경향이 있으므로 아동 성적 학대 자료(CSAM)만 포함하는 데이터 세트는 피하고 성인용 콘텐츠도 포함하는 데이터 세트를 피하도록 기업에 요청하는 것입니다.
이들의 약속은 업계에 획기적인 선례를 세웠으며, 미래에 생성 AI가 발전함에 따라 아동을 성적 학대로부터 보호하려는 노력에서 중요한 도약을 의미합니다.
이러한 원칙에 대한 약속의 일환으로 기업은 이러한 원칙을 구현하는 과정에 대한 투명한 문서를 게시하고 공유하는 데에도 동의합니다.
이들 회사는 Safety by Design 원칙을 생성 AI 기술 및 제품에 통합함으로써 어린이를 보호할 뿐만 아니라 윤리적인 AI 혁신을 주도하고 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
