美国、英国和其他18个国家同意第一个国际人工智能安全准则

美国网络和基础设施安全局局长Jen Easterly(照片:x @CISAJen)

雅加达 - 美国,英国和其他十几个国家于11月26日星期日宣布了美国高级官员所解释的第一个详细的国际协议,关于如何保护人工智能免受流氓行为者的侵害。此外,它还鼓励公司创建一个“设计安全”的人工智能系统。

周日宣布的一份20页文件中,18个国家同意,设计和使用人工智能的公司需要以保持客户和公众安全免受虐待的方式开发和实施。

本协议具有非约束力,并且主要提出一般建议,例如监控人工智能系统滥用,保护数据免受伪造,以及检查软件提供商。

然而,美国网络和基础设施安全局局长Jen Easterly表示,重要的是,许多国家同意人工智能系统应该将安全放在首位的想法。

“这是我们第一次看到这一肯定,这种能力不仅关乎酷派功能,以及我们可以迅速将它们带到市场上,或者我们如何竞争降低成本,”VOI援引路透社的话说。他说,该指南代表了“一项协议,即在设计阶段需要做的最重要事情是安全性。

该条约是世界各地政府为形成人工智能的发展而做出的一系列努力(其中一小部分具有约束力)中的最新一项,这些努力在工业界和社会中越来越受到影响。

除美国和英国外,签署新指南的18个国家包括德国、意大利、捷克共和国、爱沙尼亚、波兰、澳大利亚、智利、以色列、尼日利亚和新加坡。

本框架讨论了如何防止人工智能技术被黑客接管的问题,并涵盖了建议,例如仅在适当的安全测试后发布模型。

它没有处理人工智能的适当使用或如何收集填写此模型的数据的困难性问题。

人工智能的出现引起了一些担忧,包括担心它可能被用来干扰民主进程,加剧欺诈或造成巨大失业,以及其他损失。

欧洲在人工智能监管方面领先于美国,那里的立法者起草了人工智能规则。法国、德国和意大利最近还就如何规范人工智能达成协议,支持人工智能基本模式的“道德准则强制性自我安排”,旨在产生各种输出。

乔·拜登(Joe Biden)总统的政府促使立法者规范人工智能,但两极分化的美国国会在通过有效法规方面进展甚微。

白宫正试图减少消费者、工人和少数民族群体的人工智能的风险,同时在10月通过一项新的行政命令来加强国家安全。