Meta因Instagram上可创建深度伪造的AI功能而被用户抗议

雅加达 - Meta 取消了Instagram的AI功能，该功能允许用户将其他人输入人工智能制作的图像。该功能在收获抗议后被撤回，因为自动公共帐户可以在没有所有者主动同意的情况下使用。

CNET于7月15日星期三援引报道，Meta于周五通过公司博客的更新宣布了该功能的终止。

“我们听到反馈说这个功能没有达到预期，所以它不再可用，”Meta写道。

此功能在一周前与Meta的最新AI模型一起推出，用于在Instagram上创建图像。用户可以标记公共帐户，然后将该帐户中的人员插入到看起来逼真的AI图像中。

这种能力可以用来制作深度伪造。这个术语指的是由AI制作的图像，视频或声音，其外观与真实的人相似。

事实上，Meta为帐户所有者提供了两种拒绝使用该功能的方法。然而，许多用户抗议该公司从一开始就自动激活该功能的决定。

用户必须选择退出，如果他们不希望自己的脸或外表用于AI图像。

美国演员协会SAG-AFTRA欢迎取消该功能。该组织一直在推动保护艺术家的面部，声音和外表，不受未经同意的AI的使用。

“未经许可的数字模仿的危险是众所周知的。鼓励这种行为的功能是不明智的。我们赞赏它的停止。这是一个负责任的决定，“SAG-AFTRA说。

AI图像和视频模型现在能够生成越来越难以与肉眼区分的原始内容。

科技公司试图通过在人工智能内容中插入数字标记和更清晰的标签来解决这个问题。

然而，水印和标签并不总是使AI内容易于识别。Instagram上仍然可用的AI图像编辑和创建工具也被认为可以放大这个问题。

Meta 只是取消了标记公共帐户并将其插入图片的能力。其他 AI 图像创建和编辑功能仍然可用。