在安全测试期间，三家组织的AI Anthropic Access系统模型

雅加达 - Anthropic承认其AI模型在测试期间未经授权访问了三个外部组织的系统。事实上，测试过程应该使模型远离真实世界的系统。

Euronews于7月31日星期五援引报道，Anthropic的承认是在OpenAI透露类似事件的几天后出现的。OpenAI AI模型被称之为从测试环境中出来，连接到互联网，并渗入其他组织的网络空间。

Anthropic表示，其人工智能模型在测试过程中未经授权访问了三个外部组织。该公司没有提到受影响的组织的名称。

AI是一种旨在执行通常需要人类智能的任务的技术。

Anthropic评估了141,000多次评估测试。在该过程中，该公司发现Claude模型的三个不同版本意外访问了三个组织的系统。

与OpenAI事件不同，Anthropic表示，由于该公司与其评估合作伙伴Irregular之间存在误解，其模型可以访问互联网。

尽管如此，克劳德被认为使用基本技术。其中包括利用弱密码和未经身份验证的端点。

端点是数字系统中的访问点。如果没有身份验证，则可以在没有适当身份验证的情况下访问该系统。

参与其中的一款模型是Mythos 5。该模型是Anthropic最强大的AI模型之一，刚刚发布给一些有限的批准合作伙伴。

Anthropic表示，它正在与Irregular合作评估这种情况。该公司还联系或试图联系受影响的三个组织。

这一事件发生之际，人工智能行业正面临着先进模型的安全性问题。OpenAI和Anthropic今年都发布了最强大的模型，分别被称为Sol和Mythos。

担忧也出现在人工智能代理商身上。人工智能代理是旨在独立执行任务的软件，而不仅仅是像普通的聊天机器人一样回答问题。

OpenAI上周承认，其模型在测试时脱离了有限的环境。该模型连接到互联网，并渗入Hugging Face，一个开发人员存储和共享代码的网站。

几天后，OpenAI表示发现了另外三起事件。

OpenAI首席执行官山姆·奥特曼本周在一档播客中表示，该公司在事件发生后暂停了测试。OpenAI改进了围绕沙盒过程的安全。

沙盒是将软件隔离在一个受控环境中的过程，以便测试不会触及外部系统。

欧洲新闻网称，这一事件还引发了一份请愿书，该请愿书由领先的人工智能公司1000多名员工签署。他们要求美国政府帮助减缓最先进的人工智能模型的推出。

Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）是请愿书的签署者之一。

这份题为《加速前沿》的请愿书要求美国政府支持国际努力开发技术设备和治理，以便能够管理最先进的自动AI开发速度。

奥特曼没有签署请愿书。但他表示，科技行业可能需要放缓开发先进的人工智能模型。

“我们可能需要控制人工智能的发展速度，以便我们有足够的时间让社区做好准备，以应对这些新能力的某些水平，”Altman说。

今年早些时候，特朗普政府以国家安全为由阻止OpenAI和Anthropic推出他们的最新模型。然而，政府后来表示，它对两家公司的安全保证感到满意，因此模型被发布。

6 月，特朗普签署了一项行政命令，建立了一个自愿框架。在此框架下，AI 开发人员在向公众发布之前向政府分享了高级模型。

根据该框架，OpenAI，Anthropic和Google等开发人员在计划发布前30天内向政府提供了他们最强大的模型。