中国发布生成人工智能服务安全要求:包括数据源黑名单

雅加达 - 中国为提供生成人工智能支持的服务的公司发布了拟议的安全要求,包括不应用于训练人工智能模型的源黑名单。

生成人工智能,由于OpenAI的 ChatGPT 聊天机器人 的成功,很受欢迎,它学会了如何从过去的数据中采取行动,并根据培训创建了文本或图像等新内容。

该要求由国家信息安全标准化委员会于10月11日(星期三)发布,涉及中国网络管理局(CAC)、工业和信息技术部以及警察的官员。

委员会建议对用于训练公开展示的生成人工智能模型的内容进行安全评估,其中包含“超过5%的非法和危险信息”被列入黑名单。

这些资料包括“恐吓恐怖主义”或暴力,以及“推翻社会主义制度”,“破坏国家形象”和“破坏民族团结和社会稳定的”。

该法规还规定,中国互联网上审查的信息不应用于训练模特。

出版物是在监管机构允许包括搜索引擎巨头百度在内的几家中国科技公司向公众推出其生成AI支持的聊天机器人之后不到一个月发生的。

CAC自4月以来表示,它希望该公司在向公众推出生成AI支持服务之前,向当局提交安全评估。

7月,网络领域监管机构发布了规范该服务的措施,分析师表示,与4月草案中概述的措施相比,这些措施要轻得多。

周三发布的草案的安全要求要求要求培训这些AI模型的组织寻求个人批准,这些个人使用其个人信息(包括生物识别数据)进行培训。他们还详细介绍了如何防止侵犯知识产权的指南。

世界各国正在努力为这项技术制定规则。中国认为人工智能是一个希望与美国竞争的领域,并设定了到2030年成为该领域的世界领导者的目标。