OpenAI与五角大楼签订合同，取代Anthropic进入秘密军事AI网络

OpenAI证实，它已与五角大楼签订了一项合同，为其机密军事网络提供人工智能模型。本周，美国政府决定逐步停止在联邦机构使用Anthropic的AI技术。

OpenAI首席执行官萨姆·奥特曼（Sam Altman）为这一决定辩护。他承认，从公众的感知或“光学”的角度来看，这一举措看起来是有争议的。然而，他强调，OpenAI已经准备了一个多层技术安全系统或“安全堆栈”，以防止技术滥用。

人为主义的替代和美国政府政策

此消息是在美国总统唐纳德·特朗普宣布停止在联邦环境中使用Anthropic AI技术后几小时宣布的。据报道，政府与Anthropic发生分歧，因为该公司拒绝删除限制其军事用途的许多限制。

五角大楼随后将Anthropic列为“供应链风险”，这实际上使该公司被列入黑名单，无法继续合作。在联邦机构中停止使用Anthropic技术的过程的目标是在六个月内完成。

除了OpenAI，埃隆·马斯克（Elon Musk）的AI公司xAI也获得了显着作用。据报道，xAI的Grok模型已获得许可，可用于秘密行动。与Anthropic不同，xAI被认为愿意接受政府标准，以用于“所有合法目的”的AI技术。

“所有合法目的”条款的争议

辩论的中心在于“所有合法目的”条款。Anthropic首席执行官Dario Amodei此前曾表示，目前的监管尚不足以预测AI的潜在有害影响。

相反，OpenAI以不同的方式接受了该条款。Sam Altman表示，通过将直接提及美国法律纳入合同，OpenAI认为它比仅仅依赖于一般性的内部使用政策具有更强大的保护。

依靠多层技术安全

为了缓解道德担忧，OpenAI强调，他们不仅依赖于法律协议。该公司将部署工程师来监控AI模型在五角大楼环境中的实施情况。

开发的“安全堆栈”系统包括一个 AI 分类器，旨在检测和拒绝违反特定限制的命令，例如非法国内监视或无人监督的武器使用。Altman 强调，如果模型根据这些规则拒绝命令，则没有手动覆盖机制可以强迫它执行该任务。

这笔交易引发了各种反应。据报道，在呼吁抵制ChatGPT之后，Anthropic的Claude模型在App Store上飙升至榜首。

在OpenAI内部，数十名员工签署了一封公开信，敦促管理层继续将安全原则作为优先事项。一些工作人员甚至称新保护措施只是“橱窗装饰”，并质疑其长期有效性，特别是在大规模军事背景下实施时。

对 AI 行业的影响

Sam Altman将这一举措描述为缓解政府与AI行业之间紧张关系的努力。他认为，关于如何将技术用于国防的决定应该由民选领导人负责，只要宪法保护得到维护。

随着OpenAI和xAI开始在国防部门发挥各自的作用，预计这一发展将成为确定私营AI技术公司未来如何与政府互动的重要先例。