卡马拉·哈里斯(Kamala Harris)在伦敦举行的一次会议上提议《人工智能安全倡议》和《生存威胁警告》

雅加达 - 美国副总统卡马拉·哈里斯(Kamala Harris)于11月1日星期三提议采取紧急行动,保护社会和民主免受人工智能(AI)造成的危害。他还提出了一系列举措,以解决与技术相关的安全担忧。

哈里斯在美国驻伦敦大使馆发表讲话时谈到了人工智能可能对西方个人和政治制度构成的危害。

“这项技术有可能以我们以前从未见过的规模造成网络攻击”或“人工智能制定的生物武器,可能威胁到数百万人的生命,”他说。

“这些威胁通常被称为'人工智能的存在威胁',因为它们可能威胁人类本身的存在,”哈里斯补充说。

美国周三宣布计划建立一个新的AI安全研究所,该研究所将评估潜在风险。英国上周也宣布了类似的举措。

演讲时间受到一些英国高管和立法者的质疑,他们提议华盛顿正试图超越首相里希·苏纳克(Rishi Sunak)的AI安全峰会,该峰会于周三和周四举行。

哈里斯周三在伦敦大使馆举行的一次闭门活动中邀请了一些研究小组加入他,据两位消息人士称,一些参与者可能不得不提前在布莱奇利公园离开会议。

“这是一个大问题,它干扰了这里的核心焦点,”总部位于伦敦的AI Builder.ai 公司创始人Sachin Dev Duggal说。

哈里斯的演讲只提到了英国的事件,他将于周四参加。

英国官员否认有任何担忧,然而,他们表示希望在这场辩论中有更多的言论。

“如果美国与这次会议同时宣布政策,那也没什么坏事,”英国科技部的一位消息人士告诉路透社。“当然,如果客人不必早点离开,我们更喜欢。

民主的威胁

哈里斯在演讲中敦促以更广泛的范围来定义人工智能安全,包括威胁的“全范围”,包括偏见、歧视和虚假信息的传播。

他提供的例子包括因错误的人工智能算法而被拒绝医疗保健的父母或女性受到滥用假照片的夫妇的威胁。

「当世界各地的人们由于人工智能激发的神话和虚假信息的洪水而无法将事实与虚构区分开来时,我问,这对民主来说不是存在的吗?”他说。

哈里斯的演讲是在美国总统乔·拜登(Joe Biden)周一签署一项行政命令之后发表的,该行政命令旨在为国家安全、经济、公共卫生或安全构成风险的AI系统提供更大监督。

新成立的美国人工智能安全研究所将与国际层面的机构分享信息并在研究中进行合作,包括英国计划的人工智能安全研究所。

哈里斯还表示,30个国家已同意签署美国赞助的关于国家军队使用人工智能的政治声明。