加利福尼亚州成为美国第一个实施AI Chatbot Security Act的州

加利福尼亚州正式成为美国第一个颁布全面法律以规范基于人工智能(AI)的聊天机器人并保护未成年人的州。

该新法律,被称为参议院第243号法令(SB 243),要求明确披露AI身份,在长时间对话中实施滞后,以及保护免受有害或明确的内容的侵害。

聊天机器人实际上并不是什么新鲜事。在其发展过程中,早代聊天机器人可以被认为是我们今天知道的现代AI的先驱。然而,随着越来越多的公司利用AI提高其聊天机器人的智能,还存在各种需要预测的风险。因此,加州采取了果断措施,实施了新的法规,以确保用户,特别是儿童的安全。

加利福尼亚州州长Gavin Newsom签署了SB 243,使加利福尼亚州成为第一个对AI聊天机器人实施全面安全协议的州。该规则针对OpenAI和Meta等大公司,这些公司现在需要为未成年用户提供特殊保护。

根据法律,聊天机器人公司必须通知儿童用户,他们正在与人工智能而不是人类互动。此外,在对话环节中需要定期暂停,以解决与过度屏幕时间和潜在的情感依赖于聊天机器人有关的担忧。

法规还要求公司防止加利福尼亚州的聊天机器人产生与自杀、伤害自己或明确性性材料有关的恶意内容。该法律还赋予Deepfakes色情受害者要求高达250,000美元(约合40.8亿印尼盾)的民事赔偿的权利。

“聊天机器人和社交媒体等新技术可以激励、教育和联系人。但没有真正的安全围栏,技术也可以利用、误导和伤害我们的孩子。我们目睹了许多悲惨的例子,其中青少年在没有监管的情况下成为技术的受害者,我们不会停滞不前,“新闻社说,VOI援引路透社的话说。

人工智能监管争论

法律的诞生过程面临着重大障碍。唐纳德·特朗普总统此前曾于2025年7月签署“一份大美丽的公告”,最初包含禁止州监管人工智能10年的条款。

然而,该条款被双方的一些立法者驳回,他们认为各州仍应有权根据其当地需要规范技术。

虽然一些政党认为监管可以减缓人工智能的进步,但Newsom强调了创新与责任之间平衡的重要性。“我们仍然可以在人工智能和技术领域取得领先,但我们必须以负责任的方式做到这一点 - 在每一步都保护我们的孩子。我们孩子的安全不是要被交易的,“他说。