加利福尼亚州签署了一项法案,规范聊天机器人,Deepfake和社交媒体儿童年龄限制

雅加达 - 加州州长Gavin Newsom签署了一项法律草案,旨在加强网络空间对儿童的保护,并规范新技术(包括人工智能(AI)的使用。

该法案增加了平台的强制性功能,例如年龄核查,自杀和自伤处理协议,与社交媒体和随行聊天机器人相关的警告,以及对非法deepfakes内容的更严厉惩罚。

Newsom在其官方声明中表示,聊天机器人和社交媒体等新技术可以激励,教育和联系,但没有真正的障碍,技术也可以利用,误导和伤害儿童。

“当公司继续运营时,我们不会保持沉默,没有必要的局限性和问责制。我们孩子的安全不应该被交易,“Newsom在加州政府的官方网站上说。

新通过的法案包括若干重要步骤,包括:

Chatbot AI保护:辅助聊天机器人平台必须有一个协议来处理显示抑郁症,自杀意图或自杀行为迹象的用户。Chatbot还必须明确表示,对话是人为的,不得向未成年人显示性暴露内容。

年龄核查:操作系统和应用商店需要提供年龄核查机制,以防止儿童访问恶意内容。

社交媒体警告标签:平台必须显示有关长期使用社交媒体的潜在风险的警告。

Deepfake Pornography的更严厉判决:受害者,包括未成年人,现在可以要求高达25万美元的民事赔偿,用于对促进非共识明确内容分发的当事方的行为。

反网络欺凌指南:加州教育办公室被要求制定模型政策来处理学龄外发生的网络欺凌案件,每个教育机构必须在2026年6月1日之前采用。

人工智能的责任:人工智能制造商和用户不能躲避“技术自主”的主张,以避免对他们构成的系统的负面影响承担法律责任。