印度提出了针对人工智能内容标签的严格规则,以防止深度虚假和虚假信息的风险

雅加达 - 印度政府于10月22日(星期三)提出了一项新规则,要求人工智能(AI)公司和社交媒体明确标记人工智能生成的内容。采取这一步骤是为了抑制Deepfakes和虚假信息的传播,遵循欧盟和中国首先实施的类似政策。

近十亿互联网用户,种族和宗教多样性高涨,印度面临着可能引发社会冲突的假新闻传播的巨大风险。在选举前一些Deepfakes视频流传后,人们的担忧加剧,使政府官员处于充分警戒状态。

根据印度信息技术部发布的法规草案,人工智能产生的每一个视觉内容都必须具有至少10%的视觉显示容量或音频内容的初始持续时间10%的标签。这一规定增加了OpenAI、Meta、X(Twitter)和Google等大公司的责任。

社交媒体平台还需要要求用户说明其上传是否含有AI制作内容,并采取合理的技术步骤,以确保检查系统有效运行。政府断言,这一规则将“确保清晰的标签,可追踪的元数据,以及所有AI内容在公共场所显示的透明度”。

政府在规则最终确定之前,将公开和工业投入开放至11月6日。

采取这一步骤是因为再生人工智能滥用传播虚假信息、操纵政治意见或模仿个人的身份的可能性日益增加。“用户风险正在迅速增加,”一份官方政府声明说。

到目前为止,OpenAI、Google、Meta尚未回应媒体的置评请求。

与此同时,一些与Deepfakes有关的案件正在印度法院审理。Bollywood演员Abhishek Bachchan和Aishwarya Rai Bachchan对起诉YouTube,要求禁止制作侵犯他们知识产权的AI视频,并质疑该平台的AI培训政策。

印度治理和政策项目政策研究所创始人Dhruv Garg评估说,最低10%的标签规则是“世界上制定可衡量可见性标准的最明确的努力之一”。

实施后,该政策将迫使印度的AI公司建立一个自动标签系统,该系统从创建阶段标记AI内容。

印度本身正成长为全球AI公司的主要市场。OpenAI首席执行官山姆·奥尔特曼(Sam Altman)在二月份透露,印度现在是其公司的第二大市场,按用户数量计算 - 一年中增加了两倍。

新政策标志着印度在数字时代保持信息完整性的坚定一步,数字时代正日益受到人工算法和智能的控制。