Anthropic呼吁暂停先进的人工智能开发

雅加达 - Anthropic警告世界需要有选择地减缓甚至暂时停止先进的人工智能的发展。原因是人工智能的速度越来越快，而人类不一定能够跟上。

来自安纳多卢通讯社的报道，6月7日星期日，这家总部位于加利福尼亚州的人工智能公司呼吁全球协调，以开辟领先的人工智能开发停顿的机会。根据Anthropic的说法，只有当其他大型AI开发人员参与并可以检查其合规性时才能采取这一步骤。

“我们相信，世界将有选择地放缓或暂时停止领先的人工智能开发，以便社会结构和研究协调能够跟上技术的发展，”Anthropic在其报告中写道。

前沿人工智能是处于技术开发前沿的最先进的AI系统。而AI协调意味着确保AI继续按照人类想要的目标和价值观工作。

Anthropic认为，开发的停顿不能单独进行。一些国家必须有许多大型实验室同意在相同的条件下停止。他们还必须能够确保其他参与者实际上是停止的，而不是继续秘密开发。

该公司表示，人工智能开发中的人类作用正在缩小。人工智能现在越来越多地执行工程师和研究人员以前执行的任务。

“证据表明，在人工智能开发过程的每个阶段，人类的作用都在缩小，”报告写道。

Anthropic还预测，当人工智能代码与人类代码相等时，人类可以停止编写代码，只扮演审查者的角色。

根据Anadolu Agency的报道，进入Anthropic生产代码库的代码中有80%以上是由该公司的AI助手Claude编写的。Anthropic工程师还表示，每季度产生的代码平均比2021年至2025年期间多八倍。

Anthropic警告说，人类监督可能成为一个新的弱点。因为人类不一定能够像AI一样快速检查代码。

“简单地说：做某事的工作 - 即编写代码，运行实验，产生结果 - 现在几乎不需要人类时间，”该公司表示。

Anthropic认为，这一趋势可能导致递归自我改进。这个术语意味着当AI能够设计和开发自己的后续版本时，这种情况就会出现。

一方面，这种能力可以加速科学和技术的进步。但另一方面，Anthropic警告说，风险更严重。即人类可以失去对AI系统的控制。

“现在，调查这些问题的窗口是开放的，”Anthropic说。该公司敦促决策者、研究人员和民间社会团体参与AI治理的讨论。