加利福尼亚州州长Veto AI安全法案,科技工业担心创新影响

- 加州州长Gavin Newsom否决人工智能安全法案(照片:x @CAgovernor)

雅加达 - 加州州长Gavin Newsom在被科技行业的强烈抵制后,于9月29日星期日否决了有争议的人工智能(AI)安全法案。Newsom表示,虽然保护公众免受潜在的人工智能风险很重要,但该法案可能会阻碍创新,并使人工智能公司离开加州。

Newsom在声明中批评该法案没有区分人工智能系统是在高危或低危环境中实施的,以及它是否涉及重要决策或敏感数据的使用。据他介绍,该法案即使适用于最基本的AI功能,也适用了严格的标准,只要涉及大规模系统。他还表示担心这种方法可能会限制技术行业的快速创新。

「我要求生成人工智能的知名专家帮助加利福尼亚州制定可应用的指导方针,重点是基于科学和经验的分析,”Newsom说。他还指示国家机构扩大与使用人工智能可能引起的潜在灾害相关的风险评估。

生成人工智能(Generative AI)是一项能够根据给定命令生成文本、图像和视频的技术,引发了人们的担忧,即这项技术可能导致失业,干扰选举,甚至危及人类。

参议员和人工智能产业的拒绝

该法案的发起人民主党参议员斯科特·维也纳(Scott Wiener)对否决权表示失望。维也纳人称,在人工智能失控之前,需要这种立法来保护公众。他还补充说,这种否决权使加州不太安全,因为对人工智能公司没有强制性的限制。

“这些开发出如此强大技术的公司并不面临严格的规则。该行业的自愿承诺是不可执行的,很少为公众带来良好的结果,“维也纳说。

另一方面,加利福尼亚州的科技行业领导人对否决决定表示欢迎。科技行业联盟进步委员会赞赏新闻社的举动,称“由于竞争和开放性,加州的科技经济一直在增长”。

谷歌、微软、谷歌支持的OpenAI和Meta等几家大公司对该法案的影响表示担忧。他们认为,过度严格的规则可能会阻碍人工智能开发的增长和创新。

技术界的利弊

虽然许多大公司反对该法案,但特斯拉首席执行官埃隆·马斯克(Elon Musk)也拥有一家名为xAI的AI公司,但他支持该法案。马斯克表示,该法案的收益可能高于成本,尽管仍有一些规定需要澄清。其他公司,如亚马逊支持的Anthropic,也支持这一立法举措,尽管他们承认在规则的某些方面存在与模糊性有关的某些担忧。

该法案提议对高级AI模型进行监控,其开发成本超过1亿美元(1.51万亿印尼盾)或需要大量计算能力。此外,AI软件开发人员还需要设计一种关闭AI模型的方法,例如“切断按钮”或杀死交换机。

该法案还旨在成立一个国家实体,监督边境AI模型的发展,其能力超过了当今存在的先进AI模型。然而,科技公司和包括南希·佩洛西(Nancy Pelosi)在内的一些美国国会议员的强烈抵制阻止了该法案。

前进

尽管否决了AI安全法案,但Newsom还是签署了另一项法律,要求国家评估Generative AI对加利福尼亚州关键基础设施的潜在威胁。目前,该州正在分析能源基础设施的风险,并将在不久的将来对供水商和通信部门进行同样的评估。

Newsom表示,它将在下届会议上与立法机构合作,制定更有针对性的AI法。他还补充说,可能只需要来自加州的方法,特别是如果美国国会没有采取行动的话。

“我们不能等到重大灾害发生之前采取行动保护公众,”Newsom说,并强调所采取的解决方案必须基于对系统和人工智能能力的实验性分析。

联邦一级,美国国会仍在阻碍实施人工智能安全规则的努力,而乔·拜登总统的政府正在起草针对人工智能的监管监督提案。