자카르타 - Meta는 Muse Image를 출시했으며, 다른 사람들이 Instagram 사용자의 얼굴로 매우 현실적인 그림을 만들 수 있도록하는 인공 지능 모델입니다. 위험은 주로 공개 계정을 사용하는 18 세 이상의 사용자를 위협합니다.
CNET은 7월 11일 토요일, Meta AI 계정을 보유한 사람이라면 누구나 Instagram 사용자 이름을 이미지 생성 명령에 입력할 수 있다고 보도했습니다. 결과는 실제 사건의 사진이 아니더라도 사용자의 얼굴을 확실하게 표시할 수 있습니다.
이 사건에서 딥페이크는 매우 현실적으로 누군가의 얼굴을 모방하는 AI가 만든 이미지를 의미합니다. 얼굴이 사용된 사람은 자신이 다른 사람의 AI 창조에 포함되었다는 것을 인식하지 못할 수도 있습니다.
Muse Image는 Meta의 초능력 연구소에서 개발된 Muse Spark 제품군의 첫 번째 창의적 모델입니다. 이 모델은 더 복잡한 명령을 처리하고 여러 사진을 결합하고 기존 이미지를 편집하도록 설계되었습니다.
이 서비스는 Meta AI, Instagram 및 WhatsApp 앱에서 사용할 수 있습니다. Meta는 또한 Facebook, Messenger 및 광고주 서비스로 가져 오기를 계획하고 있습니다.
CNET은 다른 Instagram 사용자 이름을 입력하여 기능을 테스트했습니다. 딥페이크 사진은 1 분 미만으로 만들 수 있습니다.
이러한 편의성은 즉각적인 비판을 불러 일으켰습니다. 배우 단체 SAG-AFTRA는 LA Times에 사용자를 자동으로 이 기능에 포함시키는 결정은 위험과 발생할 수있는 손실에 대한 대중의 태도를 읽는 데 큰 실수라고 말했습니다.
성적 착취에 관한 국립 센터의 헤일리 맥나마라 (Haley McNamara) 사무총장도 이 기능이 어떻게 승인을 받을 수 있었는지에 대해 의문을 제기했습니다.
"이것이 어떻게 녹색 빛을 받을 수 있습니까? 메타는 착취, 성폭력, 괴롭힘 및 신원 도용에 대한 명확하고 예측 가능한 기회를 창출합니다."라고 그는 말했습니다.
이 위험은 크리에이터와 영향력자들에게 매우 실감납니다. 그들의 이름과 얼굴은 개인적인 정체성일 뿐만 아니라 브랜드의 일부이며 수입원입니다.
메타는 Muse Image가 불법적이고 폭력적이거나 명예를 훼손하는 콘텐츠를 만들지 못하도록 안전 시스템을 가지고 있다고 말했습니다. 그러나 CNET은 이전에 다른 AI 모델의 안전 시스템이 악의적 인 사용자에 의해 쉽게 우회 될 수 있다고 지적했습니다.
Instagram에서 얼굴 사용을 제한하는 방법
사용자는 두 가지 방법을 선택할 수 있습니다. 첫 번째 단계는 Instagram 계정을 개인으로 변경하는 것입니다.
1. 인스타그램을 열고 프로필 페이지로 이동하십시오. 2. 오른쪽 상단 모서리에있는 세 줄 아이콘을 누르십시오. 3. 계정 개인 정보를 선택하십시오. 4. 개인 계정을 활성화하십시오.
개인 계정의 콘텐츠는 AI 콘텐츠를 만들거나 재처리하거나 사용하기 위해 누구나 액세스할 수 없습니다. 그러나 계정을 찾는 것이 더 어려워지고 다른 사용자와의 상호 작용은 더 제한적입니다.
계속해서 공개 계정이 필요한 크리에이터, 영향력자 또는 사업자는 콘텐츠 재사용 권한을 해제할 수 있습니다.
1. 인스타그램을 열고 프로필 페이지로 이동하십시오. 2. 오른쪽 상단 모서리에있는 세 줄 아이콘을 탭하십시오. 3. 공유 및 재사용 섹션으로 스크롤하십시오. 4. Instagram에서 콘텐츠를 재사용하고 Meta의 AI 기능을 사용할 수 있도록 허용 옵션을 비활성화하십시오.
이 설정은 Meta의 AI 기능에 의한 업로드 및 릴의 사용을 제한합니다. 그러나 이러한 조치는 모든 형태의 오용이 사라질 것이라는 보장으로 간주될 수는 없습니다.
Meta AI 앱 사용자는 또한 설정을 열고 귀하의 유사성을 선택할 수 있습니다. 그곳에서 사용자는 자신의 유사성을 사용할 수 있는 사람을 자신, 승인 된 추종자, 서로를 따르는 사용자, 모든 사람으로부터 선택할 수 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
