사용자의 항의로 Meta, Instagram에서 Deepfake를 만들 수 있는 AI 기능을 철수

자카르타 - 메타는 사용자가 인공 지능으로 만든 그림에 다른 사람을 포함시킬 수 있도록하는 인스타그램 AI 기능을 철수했습니다. 이 기능은 공개 계정이 소유자의 적극적인 승인 없이 자동으로 사용될 수 있기 때문에 항의가 끝난 후 철수되었습니다.

CNET은 7월 15일 수요일, 메타가 금요일 회사 블로그 업데이트를 통해 이 기능을 중단한다고 발표했다고 보도했다.

"이 기능이 타겟팅되지 않았다는 의견을 들었으므로 더 이상 사용할 수 없습니다."라고 Meta는 썼습니다.

이 기능은 인스타그램에서 사진을 만드는 Meta의 최신 AI 모델과 함께 일주일 전에 출시되었습니다. 사용자는 공개 계정을 표시하고 계정에서 사람을 실제처럼 보이는 AI 사진에 넣을 수 있습니다.

이 능력은 딥페이크를 만드는 데 사용될 수 있습니다. 이 용어는 실제 사람처럼 보이는 인공 지능으로 만든 사진, 비디오 또는 음성을 나타냅니다.

메타는 실제로 계정 소유자가 이 기능을 사용하는 것을 거절하는 두 가지 방법을 제공합니다. 그러나 많은 사용자들이 회사가 처음부터 자동으로 활성화하는 결정에 항의하고 있습니다.

계정 소유자는 AI 이미지에 자신의 모습이나 외모가 사용되지 않도록 선택해야합니다.

미국 배우 조합 SAG-AFTRA는 이 기능을 제거하는 것을 환영했습니다. 이 조직은 승인 없이 AI를 사용하는 예술가의 얼굴, 목소리 및 외모를 보호하도록 장려해 왔습니다.

"동의없이 디지털 복제의 위험은 널리 알려져 있습니다. 그런 행동을 촉진하는 기능은 현명하지 않은 조치입니다. 우리는 그것을 중단하는 것을 고맙게 생각합니다. 그것은 책임있는 결정입니다,"SAG-AFTRA는 말했습니다.

AI 이미지 및 비디오 모델은 이제 시각적으로 원본 녹화와 구별하기 어려운 콘텐츠를 생성할 수 있습니다.

기술 회사는 AI가 만든 콘텐츠에 삽입 된 디지털 마커와 더 명확한 레이블을 통해 이를 해결하려고합니다.

그럼에도 불구하고 물 표시와 라벨이 항상 AI 콘텐츠를 쉽게 식별할 수 있도록하지는 않습니다. Instagram에서 여전히 사용할 수 있는 AI 사진 편집 및 제작 도구는 또한 문제를 악화시킬 수 있습니다.

메타는 공개 계정을 표시하고 사람을 사진에 포함시킬 수있는 기능 만 제거했습니다. AI 사진 제작 및 편집 기능은 여전히 ​​사용할 수 있습니다.