Meta AI可以从Instagram用户的脸上制作深度伪造，这是如何拒绝它的

雅加达 - Meta发布了Muse Image，这是一种人工智能模型，可以让人们用Instagram用户的脸创建非常逼真的图像。风险主要潜伏在使用公共帐户的18岁以上用户中。

CNET于7月11日星期六援引报道，任何拥有Meta AI帐户的人都可以将Instagram用户名输入到图像生成命令中。结果可以令人信服地显示用户的脸，即使图像不是实际事件的照片。

在这种情况下，deepfake指的是人工智能制作的图像，它非常逼真地模仿了一个人的脸。使用其面部的人甚至可能不知道他或她已被包含在其他人的AI创作中。

Muse Image 是 Meta 超级智能实验室开发的 Muse Spark 系列的第一个创意模型。该模型旨在处理更复杂的命令，结合多张照片，并编辑现有图像。

该服务已在Meta AI，Instagram和WhatsApp应用程序中可用。Meta还计划将其带到Facebook，Messenger以及广告商服务。

CNET通过输入另一个Instagram用户名测试了该功能。深度伪造图像可以在不到一分钟的时间内创建。

这种便利性立即引发了批评。演员协会SAG-AFTRA告诉洛杉矶时报，自动将用户纳入该功能的决定是错误的，因为它读错了公众对可能出现的危险和损失的态度。

国家性剥削中心执行董事海利·麦克纳马拉也质疑该功能如何获得批准。

“这怎么可能得到绿灯？Meta为剥削，性暴力，骚扰和身份欺诈创造了明确和可预测的机会，”他说。

对于创作者和影响者来说，这种风险是显而易见的。他们的名字和面孔不仅是个人身份，也是品牌和收入来源的一部分。

Meta表示，Muse Image有一个安全系统，可以防止非法，粗俗或诽谤内容的制作。然而，CNET指出，其他AI模型的安全系统以前仍然可以被恶意用户绕过。

如何限制 Instagram 上的面部识别

用户可以选择两种方式。第一步是将Instagram帐户改为私人。

1. 打开Instagram并登录到个人资料页面。 2. 点击右上角的三个线形图标。 3. 选择帐户隐私。 4. 启用私人帐户。

私人帐户的内容不能被任何人访问，以重新处理或用于创建AI内容。然而，帐户也变得更难找到，与其他用户的互动也更有限。

创作者、影响者或企业家如果仍然需要公共帐户，可以关闭内容重用权限。

1. 打开Instagram并登录到个人资料页面。 2. 点击右上角的三个线形图标。 3.滚动到共享和重复使用部分。 4.关闭允许人们在Instagram上重复使用您的内容以及Meta中的AI功能的选项。

此设置限制了Meta AI功能对上传和Reels的使用。然而，这一举措不能被视为保证所有形式的滥用都将消失。

Meta AI应用程序的用户还可以打开“设置”，然后选择“您的相似度”。在该部分中，用户可以指定谁可以使用他们的相似度，从自己，批准的追随者，相互追随的用户到每个人。