美国和英国在人工智能安全方面建立了新的合作伙伴关系

雅加达 - 美国和英国于4月1日星期一宣布了人工智能(AI)安全科学的新伙伴关系,因为对下一代版本的担忧日益加剧。

美国商务大臣吉娜·雷蒙多(Gina Raimondo)和英国科技大臣米歇尔·多尼兰(Michelle Donelan)在11月在布莱奇利公园举行的AI安全峰会上宣布承诺后,在华盛顿签署了一份谅解备忘录,共同开发高级AI模型测试。

雷蒙多说:“我们都知道人工智能是我们这一代的决定性技术。雷蒙多说:“这种伙伴关系将加速我们机构在整个光谱上的努力,以应对我们国家安全担忧和我们社会更广泛担忧的风险。

英国和美国是建立政府领导的AI安全研究所的国家之一。英国在10月表示,其研究所将检查和测试新类型的人工智能,而美国在11月表示,它已经启动了自己的安全研究所来评估边境AI模型的风险,现在正在与200家公司和实体合作。

在正式的合作伙伴关系中,英国和美国计划至少对公众可以访问的模型进行一次联合测试演习,并考虑探索研究所之间的人员交流。两国努力与其他国建立类似的伙伴关系,以促进人工智能安全。

「这是世界上任何地方都有第一批同类的协议,”多尼兰说。“人工智能已成为我们社会利益的巨大力量,并有很大的潜力克服一些世界上最大的挑战,但只有当我们能够克服这些风险时。

生成人工智能 - 可以创建文本、照片和视频以响应公开线索 - 引发了人们的喜悦和恐惧,即它可能会使一些工作过时,干扰选举,并有可能控制人类和灾难影响。

雷蒙多和多尼兰敦促采取必要的联合行动来应对人工智能的风险。“时间非常重要,因为下一套车型即将发布,这将更加有能力,”多尼兰说。“我们专注于我们划分和击败的领域,并且非常专业。

雷蒙多表示,他将于4月4日(星期四)在比利时举行的美国-欧盟贸易理事会会议上讨论人工智能问题。乔·拜登(Joe Biden)总统的政府计划很快宣布增加他的AI团队。“我们正在吸引美国政府的全部资源,”雷蒙多说。

两国计划分享有关人工智能模型和系统相关能力和风险的关键信息,以及关于人工智能安全与安全的技术研究。10月,拜登签署了一项行政命令,旨在降低人工智能的风险。

1月,美国商务部表示,它提议要求美国云公司确定外国实体是否访问美国数据中心以培训人工智能模型。

英国在二月份表示,它将花费超过1亿英镑(2万亿印尼盾)来启动九个新的研究中心,并在该技术上训练AI监管机构。雷蒙多说,他非常担心生物恐怖主义或核战争模拟中应用的AI威胁。

“这些事情的后果可能是一场灾难性的,所以我们真的必须对一些用于这些能力的模式有零容忍度,”他说。