Meta Discover는 온라인 운영에서 AI 생성 콘텐츠의 가능한 사용 가능성을 발견합니다.

자카르타 - Meta는 5월 29일 수요일에 Facebook과 Instagram 플랫폼에서 "인공 지능(AI)에 의해 생성되었을 가능성이 있는" 콘텐츠가 오해의 소지가 있는 콘텐츠를 발견했다고 발표했습니다. 해당 콘텐츠에는 글로벌 언론 기관과 미국 국회의원의 게시물 아래 게시된 이스라엘의 가자 전쟁 처리를 찬양하는 댓글이 포함되어 있었습니다.

소셜 미디어 회사는 분기별 보안 보고서에서 해당 계정이 유대인 학생, 아프리카계 미국인 및 기타 관련 시민으로 가장하여 미국과 캐나다의 청중을 표적으로 삼고 있다고 밝혔습니다. Meta는 Tel Aviv에 본사를 둔 정치 마케팅 회사 STOIC의 캠페인을 비난했습니다.

STOIC 자체는 이러한 비난에 즉각 대응하지 않았습니다.

메타는 2019년부터 영향력 행사에서 인공지능이 생성한 기본 프로필 사진을 발견해왔지만, 텍스트 생성 AI 기술의 활용을 공개한 것은 2022년 말 등장한 이후 처음이다. 인간과 유사한 텍스트, 이미지 및 오디오를 빠르고 저렴하게 생성하면 보다 효과적인 허위 정보 캠페인으로 이어지고 선거 결과에 영향을 미칠 수 있습니다.

보도 자료에서 Meta 보안 경영진은 이스라엘 캠페인을 신속하게 제거했으며 새로운 AI 기술이 특정 메시지를 전달하기 위한 조정된 노력인 영향력 네트워크를 방해하는 능력을 방해한다고 생각하지 않는다고 말했습니다.

"해당 네트워크에는 잠재적으로 생성 가능한 AI 도구를 사용하여 콘텐츠를 만드는 방법에 대한 몇 가지 예가 있습니다. 이를 통해 더 빠르게 또는 더 많은 양을 수행할 수 있는 능력이 제공될 수 있습니다. 그러나 이를 감지하는 능력에는 실제로 영향을 미치지 않습니다. Meta의 위협 조사 책임자인 Mike Dvilyanski는 말했습니다.

이 보고서는 1분기에 Meta를 혼란에 빠뜨린 6가지 숨겨진 영향력 작전을 강조합니다. STOIC 네트워크 외에도 Meta는 이스라엘-하마스 분쟁에 초점을 맞춘 이란 기반 네트워크도 폐쇄했지만 캠페인에서 생성 AI의 사용을 확인하지는 않았습니다.

메타를 비롯한 거대 기술 기업들은 특히 선거에서 새로운 AI 기술의 오용 가능성을 해결하기 위해 고군분투해 왔습니다.

오해의 소지가 있는 AI 생성 콘텐츠가 사용될 가능성이 있다는 사실은 소셜 미디어 기업이 그러한 활동을 탐지하고 완화하는 데 직면한 어려움을 강조합니다. 이는 또한 끊임없이 진화하는 온라인 조작 및 허위 정보 전술에 대응하기 위해 소셜 미디어 플랫폼의 지속적인 기술적 경계와 적응의 필요성을 강조합니다.