雅加达 - 美国总统乔·拜登(Joe Biden)的政府已准备好开辟一条新战线,努力保护美国的人工智能(AI)来自中国和俄罗斯。他们计划将安全性放在最先进的AI型号周围,这是ChitGPT等人工智能系统的软件核心。
三位熟悉此事的人说,贸易部正在考虑提起新的监管措施,以限制所有者或封闭源AI模型的出口,其软件和其培训的数据被保密。
任何举措都将补充过去两年中实施的一系列措施,阻止向中国出口先进的AI芯片,以减缓北京为军事目的开发尖端技术。然而,监管机构很难追求该行业的快速发展。
商务部拒绝置评,而俄罗斯驻华盛顿大使馆没有立即回应置评请求。中国大使馆称此举“典型的单边经济行为和恐吓,中国明确反对”。他们补充说,他们将采取“必要措施”来保护他们的利益。
今天,没有人能阻止微软、微软支持的OpenAI、Alphabet的Google DeepMind和Anthropic竞争对手等美国AI巨头在没有政府监管的情况下将其出售给世界上几乎任何人。
政府和私人研究人员担心,美国敌人可能会利用这些模型,这些模型开采大量的文本和图像来总结信息并生成内容,发动侵略性的网络攻击甚至创造有效的生物武器。
其中一位消息人士称,新的出口管制可能主要针对俄罗斯、中国、朝鲜和伊朗。微软在2月份的一份报告中表示,它已经追踪了与中国和朝鲜政府以及俄罗斯军事情报和伊朗革命卫队有关的黑客组织,因为他们试图使用大语言模型来修复他们的黑客攻击运动。
计算能力
为了对AI模型制定出口控制,消息人士称,美国可能会根据培训模型所需的计算能力的数量,利用去年10月发布的AI行政命令中包含的门槛。一旦达到这一水平,开发人员就必须报告其AI模型开发计划,并将试验结果提交给商务部。
计算功率的值可能是确定哪些AI型号将受到出口限制的基础,据两名美国官员和其他提供有关讨论信息的消息人士称。他们拒绝透露姓名,因为细节尚未公布。
如果使用,它可能只会限制未发布型号的出口,因为没有人被认为已经达到了这一门槛,尽管谷歌的双子座Ultra被认为已经接近,根据跟踪AI趋势的研究所EpochAI的说法。
该机构仍远未完成规则提案。但此类举措正在考虑的事实表明,尽管在向快速发展的技术施加强有力的监管制度方面面临严重挑战,但美国政府正试图弥补其阻止北京人工智能雄心壮志的漏洞。
拜登政府关注与中国的竞争和高级人工智能的危害,人工智能模型“绝对是工具之一,这是您应该在这里考虑的潜在的震惊点之一”,前国家安全委员会官员彼得哈雷尔说。“在实践中,你是否真的可以把它变成一个可以控制出口的震撼点,它仍然被看到,”他补充说。
生物感应和网络攻击?
美国的情报界、思想机构和学术界越来越关注外国演员获得先进AI能力所构成的风险。格里蓬科学公司(Gryphon Scientific)和兰德公司(Rand Corporation)的研究人员指出,先进的AI模型可以提供可能有助于制造生物武器的信息。
国内安全部表示,网络参与者可能会在其2024年国内威胁评估中“开发新工具”,以“实现更大,更快,更高效和更难检测的网络攻击”。
“[AI]使用和利用的潜在差异是非常激进的,我们在跟进方面确实很难追随,”国家情报局局长布莱恩·霍姆斯(Brian Holmes)在3月的出口管制会议上表示,他强调了中国的进展是一个特别的担忧。
明確化AI
为了应对这些担忧,美国已采取措施阻止美国的AI芯片和工具的流向,将其制造成中国。
还提出了规则,要求美国云公司在外国客户使用其服务来训练可用于网络攻击的强大AI模型时通知政府。
然而,到目前为止,还没有人处理过AI模型本身。在美国商务部监督美国出口政策的艾伦·埃斯特维兹(Alan Estevez)在12月表示,该机构正在寻求选择来规范开源大语言模型的出口,然后再寻求行业反馈。
总部位于华盛顿特区的CNAS智库的AI政策专家蒂姆·菲斯特(Tim Fist)表示,门槛“是好暂的步骤,直到我们制定更好的方法来衡量新型车的能力和风险”。
白宫前官员兼司法部官员贾米尔·贾弗(Jamil Jaffer)表示,拜登政府不应该使用计算力门槛,而应该根据该模型的有意的能力和使用来选择控制。“将国家安全风险从技术门槛优先考虑是更可持续的步骤,并专注于威胁,”他说。
门槛不等。一位消息人士称,美国商务部可能会获得较低的地板,加上其他因素,例如数据类型或人工智能模型的潜在用途,例如设计可用于制造生物武器的蛋白质的能力。
无论门槛如何,人工智能模型的出口都难以控制。许多模型都是开源的,这意味着它们将保持在正在考虑的出口管制范围之外。
Fist表示,即使对更先进的所有者模型实施控制也将是困难的,因为监管机构可能很难确定确切的标准来确定哪些模型应该完全控制,并指出中国在开发自己的AI软件方面可能距离美国仅约两年。
正在考虑的出口管制将影响对后端软件的访问,后端软件可以推动CATGPT等多种消费者应用,但不限制访问衍生应用本身。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
