Meta 将开始检测和标记人工智能结果的图像

雅加达 - Meta Platforms Inc. 将在未来几个月内开始检测和标记其他公司制造的智能服务产生的图像。他们使用了一系列不可见的标记构建到文件中。Meta的政策高管于2月6日星期二表示了这一点。

Meta 将标签应用于将标签发布到其 Facebook、Instagram、Threads 服务中的任何内容,以便向用户发出信号,即这些图像 - 通常类似于真实照片 - 实际上是数字创作。Meta全球事务总裁Nick Clegg在一篇博客文章中概述了这一点。

该公司已使用自己的人工智能工具标记了所生成的任何内容。

“新系统运行后,Meta 也会对OpenAI,微软,Adobe,Midjourney,Shutterstock和Alphabet的Google提供的服务上创建的图像做同样的事情,”Clegg说。

该公告概述了科技公司开发的不断增长的标准系统,以减少与生成人工智能技术相关的潜在损害,生成人工智能技术可能产生虚假但看起来真实的内容,以回应简单的指示。

这种方法基于同一些公司在过去十年中创建的模板,以协调整个平台上禁止的内容的删除,包括大规模暴力和儿童剥削的描述。

克莱格在接受采访时告诉路透社,他认为这些公司可以在此时对人工智能生成的图像进行标签,但表示标记音频和视频内容的工具更加复杂,并且仍在开发中。

“虽然技术还没有完全成熟,特别是在音频和视频方面,但希望我们能够为整个行业创造一种势头感和激励感,以跟上,”Clegg说。

他还补充说,Meta将开始要求人们对自己修改的音频和视频内容进行标记,如果他们未能这样做,将实施制裁。塞格恩没有解释制裁。

他补充说,目前没有适当的机制来标记人造智能工具(如ChatGPT)生成的文本。“现在还为时过早,”克莱格说。

Meta的发言人拒绝透露,该公司是否会对其加密消息传递服务WhatsApp上共享的生成人人工智能内容进行标签。

Meta的独立监事会于2月5日星期一谴责了该公司对误导性编辑视频的政策,称政策过于狭窄,其内容应该被标记而不是被删除。

克莱格表示,他一般同意批评。“董事会属实,”他说。“现有的Meta政策不符合环境中你将比以往任何时候都拥有更多的合成和混合内容的目的。

他指出,新的标记合作伙伴关系证明Meta已经朝着理事会提出的方向前进。