자카르타 - 아마존은 외부 소스에서 온 인공 지능 (AI) 훈련 데이터를 검토하는 동안 아동 성적 학대 자료 (CSAM)를 발견했다고 확인했습니다. 이 발견은 미국에서 실종 및 착취 아동 국립 센터 (NCMEC)에보고되었습니다.
블룸버그 보고서를 인용하면 NCMEC은 2025년에 AI 기반 CSAM에 대한 100만 건 이상의 보고서를 받았으며 대부분의 보고서는 아마존에서 온 것으로 알려졌습니다. 회사는 콘텐츠가 AI 시스템을 훈련하는 데 사용되는 제3자 데이터 스캔 과정에서 감지되었다고 말했습니다.
그러나 NCMEC는 아마존 보고서가 소스 정보가 거의 없기 때문에 눈에 띄는 것으로 평가했습니다. NCMEC의 CEO 인 팔로온 맥나티 (Fallaon McNuty)는 기술 회사의 보고서에는 일반적으로 법 집행 기관이 추적 할 수 있도록 충분한 세부 정보가 포함되어 있다고 말했습니다. 아마존의 경우, 콘텐츠의 출처에 대한 정보가 없으면 보고서를 조사에 사용하기 어렵습니다.
McNuty에 따르면 이러한 상황은 AI 훈련 데이터 수집 과정에 대한 심각한 질문을 제기하고 기술 플랫폼 전체에 더 엄격한 감독 표준 및 보안 메커니즘의 필요성을 강조합니다.
아마존은 이러한 비판에 대해, 훈련 데이터를 검토할 때 엄청난 규모의 거짓 양성 결과를 초래할 수 있는 광범위한 스캔 규칙을 사용한다고 말했습니다. 아마존은 또한 CSAM이 실제로 AI 모델 훈련에 사용된 증거를 발견하지 못했다고 주장했습니다.
회사는 데이터가 제3자로부터 온 것이기 때문에 보고서가 별도의 시스템을 통해 전달되었으며 사용자 정보를 포함하지 않았기 때문에 소스 세부 정보를 첨부할 수 없다고 설명했습니다.
아마존은 책임있는 AI 개발과 아동 안전 보호에 대한 의지를 강조했습니다. AI 개발의 윤리와 보안 문제는 개인 데이터 사용과 사용자 보호와 관련하여 OpenAI, Character.AI 및 Meta와 같은 다른 기술 회사에 대한 여러 소송과 함께 계속해서 주목을 받고 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
