美国政府停止访问最强大的Anthropic AI，Claude Fable 5和Mythos 5被阻止

据报道，美国政府已命令Anthropic立即停止访问其最先进的两个人工智能（AI）模型，即Claude Fable 5和Claude Mythos 5，理由是担心国家安全。

据TechCrunch 6月13日星期六的报道，Anthropic表示，它已遵守周五东部时间17:21收到的命令。然而，这家AI公司认为政府的决定是不正确的。

该命令要求Anthropic禁用世界各地的所有用户对Fable 5和Mythos 5的访问，而不仅仅是以前是美国出口管制规则目标的外国公民。Anthropic的其他AI模型仍然可以使用。

Mythos 是 Anthropic 开发的最强大的 AI 模型。由于其具有发现软件安全漏洞的高能力，该模型于 4 月份以有限的方式推出。

根据TechCrunch引用的Anthropic的说法，Mythos能够在该公司测试的各种主要操作系统和浏览器中找到漏洞。

由于这种能力被认为非常敏感，Anthropic并没有广泛开放其访问权限。该公司只允许大约50个选定的组织通过名为Project Glasswing的计划使用Mythos，包括亚马逊、苹果、谷歌、微软和CrowdStrike，以促进网络安全防御。

与此同时，Fable 5在几天前刚刚发布，是一个已经配备了护栏的神话版本。该技术旨在防止AI在高风险领域提供答案，如网络安全和生物学。

根据AI性能监测机构Vals AI的测试，Fable 5被认为是可供普通公众使用的最先进的AI模型之一。

在TechCrunch援引的公司的博客中，Anthropic提到政府对Fable 5的越狱指控的担忧。

在AI世界中，越狱是一种技术，可以使AI模型绕过开发人员设定的安全规则或限制。

然而，Anthropic表示，政府迄今为止只口头传达了有限的越狱可能性，并且不适用于所有条件。

Anthropic表示，阅读程序代码并发现软件漏洞的能力实际上也存在于其他可公开访问的AI模型中，包括OpenAI的GPT-5.5。这些能力长期以来一直被网络安全专业人士用于保护数字系统。

Anthropic还解释说，其主要保护系统通过一个独立的分类器（即一个单独的监督系统）工作，该监督系统监控和过滤AI输出。通过这种机制，即使有尝试绕过模型的早期拒绝，对被认为是有害的结果的保护仍然可以运行。

尽管如此，美国政府仍然执行了这一决定。Anthropic表达了他对这一步骤的不满。

“我们不同意，有限的越狱潜力发现应该成为撤回数亿人使用的商业模式的理由。如果整个行业都实施这样的标准，那么来自所有高级AI开发者的新AI模型的推出可能会受到阻碍，“Anthropic写道。

此案也再次突出了AI行业的一场大争论：出于安全原因，应该在多大程度上限制先进的AI能力，以及政府如何监管快速发展的技术。

此前，OpenAI 首席执行官 Sam Altman 批评了 Anthropics 的方式。