OpenAI, AI 이미지 감지 도구 내장 DALL-E 3 출시

JAKARFTA - OpenAI는 텍스트-이미지 생성기인 DALL-E 3로 생성된 이미지를 감지할 수 있는 도구를 출시할 예정입니다. 이는 OpenAI가 생성한 콘텐츠의 영향에 대한 우려가 커지는 가운데 5월 7일 화요일 Microsoft 지원 스타트업에서 발표한 것입니다. 올해 세계선거에는 인공지능이 투입된다.

회사는 이 도구가 내부 테스트에서 DALL-E 3에서 생성된 이미지를 약 98% 정확하게 식별했으며 압축, 자르기, 채도 변경과 같은 일반적인 수정 사항을 최소한의 영향으로 처리할 수 있다고 밝혔습니다.

또한 ChatGPT 제작자는 사진이나 오디오와 같은 디지털 콘텐츠에 삭제하기 어려운 신호를 표시하기 위해 변경하기 어려운 워터마크도 추가할 계획입니다.

이러한 노력의 일환으로 OpenAI는 Google, Microsoft, Adobe가 포함된 산업 그룹에도 합류했으며 다양한 미디어의 출처를 추적하는 데 도움이 되는 표준을 제공할 계획입니다.

지난 4월 인도 총선이 진행되는 동안 나렌드라 모디 총리를 비판하는 발리우드 배우 두 명의 가짜 영상이 온라인에서 급속도로 퍼졌다.

인공지능으로 생성된 콘텐츠와 딥페이크의 확산은 인도와 미국, 파키스탄, 인도네시아를 포함한 세계 다른 지역의 선거에서 점점 더 많이 사용되고 있습니다.

OpenAI는 인공 지능 교육을 지원하기 위해 2백만 달러(321억러피아짜리)의 "커뮤니티 탄력성" 기금을 시작하는 데 Microsoft와 합류할 것이라고 말했습니다.