中国同意与美国和欧盟合作,在布莱奇利公园管理人工智能风险

中国同意与美国、欧盟和其他国家合作,在英国举行的一次会议上,共同管理人工智能的风险,旨在为快速增长的技术设定安全方向。

一些科技高管和政治领导人警告说,如果人工智能失控,它将对世界构成生存威胁,引发国际政府和机构争夺保护和监管。

作为西方管理安全AI发展的第一步,一名中国副部长加入了美国和欧盟领导人以及来自英国第二次世界大战破坏者所在地布莱奇利公园的ChatGPT的科技老板埃隆·马斯克(Elon Musk)和山姆·阿尔特曼(Sam Altman)。

包括美国、中国、欧盟在内的25多个国家签署了《布莱奇利宣言》,其中一项声明指出,各国需要共同努力,共同制定监督方法。

该宣言制定了一项双边议程,重点是确定共同关心的风险并建立对这些风险的科学理解,同时制定跨国政策以减少这些风险。

中国科学技术副部长吴子贤在为期两天的会议开幕式上表示,北京准备加强在人工智能安全方面的合作,以帮助建立国际“治理框架”。

「无论其大小和规模如何,各国都有同样的发展和使用人工智能权利,”吴说。

AI对经济和社会的影响的担忧在去年11月飙升,当时微软支持的OpenAI使ChatGPT向公众开放。

使用自然语言处理工具创建类似于人类的对话,它引起了恐惧,包括在一些人工智能先驱者中,即有一天机器可以达到比人类更大的智力,导致无限和意外的后果。

政府和官员现在正试图与AI公司一起确定如何向前发展,这些公司担心在技术达到其全部潜力之前受到监管的负担。

「我不知道有哪些公平的规则,但你必须在进行监视之前首先见解,”马斯克告诉记者。他补充说,“第三方裁判”可以用来在出现风险时发出警告。

虽然欧盟一直专注于对数据隐私和监控及其对人权的潜在影响的审查,但在英国举行的会议强调了通用AI模型的“边境AI”的“异常”风险。

谷歌Deepmind的创始人之一Mustafa Suleyman告诉记者,他认为目前的边境AI模型不会造成“重大灾害损害”,但表示,随着行业正在训练越来越大的模型,计划未来是合理的。

此次活动是英国首相里希·苏纳克(Rishi Sunak)的想法,他希望在英国退欧后为他的国家担任美国、中国和欧盟经济集团之间的中间人。

英国数字大臣米歇尔·多尼兰(Michelle Donelan)表示,在一个房间里获得如此多的关键玩家的成就是一项重大成就。她宣布,将再举行两次AI安全峰会,一次将在六个月内在韩国举行,另一次将在法国举行六个月后。

“这是我们第一次,现在我们有国家同意,我们不仅需要独立地看待,而且需要集体地看待人工智能边界周围的风险,”唐尼兰告诉记者。

就像科技公司争夺人工智能的主导地位一样,政府正在相互争夺监管的领先地位。

中国是这次会议的主要参与者,鉴于中国在开发人工智能方面的作用。但一些英国立法者质疑,鉴于北京、华盛顿和许多欧洲首都之间中国对技术的参与,中国是否应该在场。

美国在会前夕明确确认,对北京的邀请确实来自英国,其驻伦敦大使简·哈特利(Jane Hartley)告诉路透社:“这是英国的邀请,而不是来自美国的邀请。

美国副总统卡马拉·哈里斯(Kamala Harris)周三决定在伦敦就其政府对人工智能的反应发表演讲,并在会外与与会者举行几次会晤,也提出了许多问题。

总部位于伦敦的AI公司Builder.ai 的创始人Sachin Dev Duggal表示,这有可能损害事件的核心焦点,而支持苏纳克的保守党的一些立法者则表示,华盛顿正试图超越苏纳克的会议。

英国官员否认了这一点,称他们希望尽可能多的选票。

就在美国总统乔·拜登(Joe Biden)签署人工智能执行令几天后,他的政府利用英国的一次会议宣布将启动美国人工智能安全研究所。

哈里斯将于周三与苏纳克会面,包括共进晚餐,并于11月2日星期四参加会议的第二天。