雅加达 - Anthropic警告世界需要有选择地减缓甚至暂时停止先进的人工智能的发展。原因是人工智能的速度越来越快，而人类不一定能够跟上。
来自安纳多卢通讯社的报道，6月7日星期日，这家总部位于加利福尼亚州的人工智能公司呼吁全球协调，以开辟领先的人工智能开发停顿的机会。根据Anthropic的说法，只有当其他大型AI开发人员参与并可以检查其合规性时才能采取这一步骤。
“我们相信，世界将有选择地放缓或暂时停止领先的人工智能开发，以便社会结构和研究协调能够跟上技术的发展，”Anthropic在其报告中写道。
前沿人工智能是处于技术开发前沿的最先进的AI系统。而AI协调意味着确保AI继续按照人类想要的目标和价值观工作。
Anthropic认为，开发的停顿不能单独进行。一些国家必须有许多大型实验室同意在相同的条件下停止。他们还必须能够确保其他参与者实际上是停止的，而不是继续秘密开发。
该公司表示，人工智能开发中的人类作用正在缩小。人工智能现在越来越多地执行工程师和研究人员以前执行的任务。
“证据表明，在人工智能开发过程的每个阶段，人类的作用都在缩小，”报告写道。
Anthropic还预测，当人工智能代码与人类代码相等时，人类可以停止编写代码，只扮演审查者的角色。
根据Anadolu Agency的报道，进入Anthropic生产代码库的代码中有80%以上是由该公司的AI助手Claude编写的。Anthropic工程师还表示，每季度产生的代码平均比2021年至2025年期间多八倍。
Anthropic警告说，人类监督可能成为一个新的弱点。因为人类不一定能够像AI一样快速检查代码。
“简单地说：做某事的工作 - 即编写代码，运行实验，产生结果 - 现在几乎不需要人类时间，”该公司表示。
Anthropic认为，这一趋势可能导致递归自我改进。这个术语意味着当AI能够设计和开发自己的后续版本时，这种情况就会出现。
一方面，这种能力可以加速科学和技术的进步。但另一方面，Anthropic警告说，风险更严重。即人类可以失去对AI系统的控制。
“现在，调查这些问题的窗口是开放的，”Anthropic说。该公司敦促决策者、研究人员和民间社会团体参与AI治理的讨论。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
