克服AI自治,IMD和TONOMUS的危害 开发AI安全钟

雅加达 - 管理发展研究所(IMD)和TONOMUS意识到人工智能(AI)的发展正在进入一个令人担忧的阶段。原因是,一些人工智能可以自动工作。

这种技术被称为一般人工智能(AGI)。根据IMD和TONOMUS的说法,独立运作且不需要人为监视的人工智能有可能危及未来,因此迫切需要合适的工具。

因此,IMD和TONOMUS推出了AI安全时钟,以应对AI的不利影响。此指标时钟形式的解决方案可以解读AGI发展的风险程度。如果AGI失控,AI安全时钟可以发出警告。

该解决方案旨在提高人工智能安全领域的公众、政策制定者和商业领袖的认识和讨论。根据IMD和TONOMUS的说法,AI安全时钟可以支持人工智能安全实践。

IMD数字商业转型全球中心主任Michael Wade表示,AGI有四个不受控制的风险阶段,即低,中,高和关键风险。如果你读到人工智能的当前形势,世界正进入高危险阶段。

「我们目前的AGI的发展正在从中等风险阶段过渡到高风险阶段。当AGI机构变得危重和无法控制时,它将对人类造成灾难。风险是严重的,但行动还为时已晚,“韦德在VOI收到的一份声明中解释说。

与此相一致,韦德解释说,对人工智能,特别是AGI的监管,是非常必要的。通过制定适当的法规,可以预防AGI的不良风险,并克服技术对人类的威胁。

「有效和综合的监管可以限制这项技术发展的最坏风险,而不会降低收益。出于这个原因,我们呼吁国际参与者和科技巨头进行预防,“韦德说。