OpenAI证实，它已与五角大楼签订了一项合同，为其机密军事网络提供人工智能模型。本周，美国政府决定逐步停止在联邦机构使用Anthropic的AI技术。
OpenAI首席执行官萨姆·奥特曼（Sam Altman）为这一决定辩护。他承认，从公众的感知或“光学”的角度来看，这一举措看起来是有争议的。然而，他强调，OpenAI已经准备了一个多层技术安全系统或“安全堆栈”，以防止技术滥用。
人为主义的替代和美国政府政策
此消息是在美国总统唐纳德·特朗普宣布停止在联邦环境中使用Anthropic AI技术后几小时宣布的。据报道，政府与Anthropic发生分歧，因为该公司拒绝删除限制其军事用途的许多限制。
五角大楼随后将Anthropic列为“供应链风险”，这实际上使该公司被列入黑名单，无法继续合作。在联邦机构中停止使用Anthropic技术的过程的目标是在六个月内完成。
除了OpenAI，埃隆·马斯克（Elon Musk）的AI公司xAI也获得了显着作用。据报道，xAI的Grok模型已获得许可，可用于秘密行动。与Anthropic不同，xAI被认为愿意接受政府标准，以用于“所有合法目的”的AI技术。
“所有合法目的”条款的争议
辩论的中心在于“所有合法目的”条款。Anthropic首席执行官Dario Amodei此前曾表示，目前的监管尚不足以预测AI的潜在有害影响。
相反，OpenAI以不同的方式接受了该条款。Sam Altman表示，通过将直接提及美国法律纳入合同，OpenAI认为它比仅仅依赖于一般性的内部使用政策具有更强大的保护。
依靠多层技术安全
为了缓解道德担忧，OpenAI强调，他们不仅依赖于法律协议。该公司将部署工程师来监控AI模型在五角大楼环境中的实施情况。
开发的“安全堆栈”系统包括一个 AI 分类器，旨在检测和拒绝违反特定限制的命令，例如非法国内监视或无人监督的武器使用。Altman 强调，如果模型根据这些规则拒绝命令，则没有手动覆盖机制可以强迫它执行该任务。
这笔交易引发了各种反应。据报道，在呼吁抵制ChatGPT之后，Anthropic的Claude模型在App Store上飙升至榜首。
在OpenAI内部，数十名员工签署了一封公开信，敦促管理层继续将安全原则作为优先事项。一些工作人员甚至称新保护措施只是“橱窗装饰”，并质疑其长期有效性，特别是在大规模军事背景下实施时。
对 AI 行业的影响
Sam Altman将这一举措描述为缓解政府与AI行业之间紧张关系的努力。他认为，关于如何将技术用于国防的决定应该由民选领导人负责，只要宪法保护得到维护。
随着OpenAI和xAI开始在国防部门发挥各自的作用，预计这一发展将成为确定私营AI技术公司未来如何与政府互动的重要先例。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
