雅加达 - Anthropic承认其AI模型在测试期间未经授权访问了三个外部组织的系统。事实上，测试过程应该使模型远离真实世界的系统。
Euronews于7月31日星期五援引报道，Anthropic的承认是在OpenAI透露类似事件的几天后出现的。OpenAI AI模型被称之为从测试环境中出来，连接到互联网，并渗入其他组织的网络空间。
Anthropic表示，其人工智能模型在测试过程中未经授权访问了三个外部组织。该公司没有提到受影响的组织的名称。
AI是一种旨在执行通常需要人类智能的任务的技术。
Anthropic评估了141,000多次评估测试。在该过程中，该公司发现Claude模型的三个不同版本意外访问了三个组织的系统。
与OpenAI事件不同，Anthropic表示，由于该公司与其评估合作伙伴Irregular之间存在误解，其模型可以访问互联网。
尽管如此，克劳德被认为使用基本技术。其中包括利用弱密码和未经身份验证的端点。
端点是数字系统中的访问点。如果没有身份验证，则可以在没有适当身份验证的情况下访问该系统。
参与其中的一款模型是Mythos 5。该模型是Anthropic最强大的AI模型之一，刚刚发布给一些有限的批准合作伙伴。
Anthropic表示，它正在与Irregular合作评估这种情况。该公司还联系或试图联系受影响的三个组织。
这一事件发生之际，人工智能行业正面临着先进模型的安全性问题。OpenAI和Anthropic今年都发布了最强大的模型，分别被称为Sol和Mythos。
担忧也出现在人工智能代理商身上。人工智能代理是旨在独立执行任务的软件，而不仅仅是像普通的聊天机器人一样回答问题。
OpenAI上周承认，其模型在测试时脱离了有限的环境。该模型连接到互联网，并渗入Hugging Face，一个开发人员存储和共享代码的网站。
几天后，OpenAI表示发现了另外三起事件。
OpenAI首席执行官山姆·奥特曼本周在一档播客中表示，该公司在事件发生后暂停了测试。OpenAI改进了围绕沙盒过程的安全。
沙盒是将软件隔离在一个受控环境中的过程，以便测试不会触及外部系统。
欧洲新闻网称，这一事件还引发了一份请愿书，该请愿书由领先的人工智能公司1000多名员工签署。他们要求美国政府帮助减缓最先进的人工智能模型的推出。
Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）是请愿书的签署者之一。
这份题为《加速前沿》的请愿书要求美国政府支持国际努力开发技术设备和治理，以便能够管理最先进的自动AI开发速度。
奥特曼没有签署请愿书。但他表示，科技行业可能需要放缓开发先进的人工智能模型。
“我们可能需要控制人工智能的发展速度，以便我们有足够的时间让社区做好准备，以应对这些新能力的某些水平，”Altman说。
今年早些时候，特朗普政府以国家安全为由阻止OpenAI和Anthropic推出他们的最新模型。然而，政府后来表示，它对两家公司的安全保证感到满意，因此模型被发布。
6 月，特朗普签署了一项行政命令，建立了一个自愿框架。在此框架下，AI 开发人员在向公众发布之前向政府分享了高级模型。
根据该框架，OpenAI，Anthropic和Google等开发人员在计划发布前30天内向政府提供了他们最强大的模型。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
