教皇利奥对科技巨头表示：人工智能绝不能控制人类

雅加达 - 教皇利奥警告说，人工智能的发展不应该被允许只遵循权力，商业和技术竞赛的野心。他要求人工智能服从严格的道德规范，特别是在它开始进入工作世界，数据和战争时。

据《卫报》5月26日星期二报道，教皇利奥在关于保护人类的第一次通谕《宏伟的人性》中提出了这一警告。

教皇通谕是包含教皇教义的重要文件，通常表明教皇在看待世界问题方面的领导方向。

在这份文件中，教皇利奥谴责了“权力文化”，该文化促进了人工智能的迅速发展。他认为，这项技术必须受到控制，以免贬低人的尊严。

“人工智能在战争中的开发和使用必须受到最严格的道德限制，”教皇利奥写道。

他还呼吁“剥夺”AI。他的意思是，不是拒绝技术，而是将AI从使其成为军备竞赛工具的思维方式中解放出来。

“嘲笑并不意味着拒绝技术，而是防止技术控制人类，”他写道。

教皇利奥强调了人工智能在战争中的使用。据他介绍，一些自主武器系统现在几乎不在人类的控制范围内。他警告说，人工智能可以使战争看起来更像国际政治工具的正常化。

教皇还提到了科技巨头的巨大权力。他表示，对数字系统、基础设施和数据的控制不仅掌握在国家手中，而且掌握在大型经济和技术行为者手中。

教皇说，如果权力集中在少数人手中，不平等、操纵、新依赖和社会排斥的风险就会扩大。

这项声明被解读为对硅谷的强烈信息，硅谷是美国技术行业的中心。在梵蒂冈举行的活动中，美国AI公司Anthropic的联合创始人之一克里斯托弗·奥拉（Christopher Olah）也出席了会议。

Olah说，人工智能的发展不能仅仅交给科技公司。据他介绍，宗教领袖，政府和民间社会也需要监督。

他提醒说，人工智能取代人类劳动力“非常真实”的可能性。如果发生这种情况，帮助被取代的工人将是一项巨大的道德义务。

除了人工智能，教皇利奥还为天主教会对奴隶制的缓慢谴责道歉。他称奴隶制是“基督教记忆中的伤口”。

“我代表教会真诚地请求宽恕，”教皇利奥写道。

卫报指出，一些教皇以前曾为基督徒参与跨大西洋奴隶贸易道歉。然而，教皇利奥被认为走得更远，因为他指责教皇自己授权欧洲统治者征服和奴役“异教徒”。

近年来，梵蒂冈一直积极与包括微软和谷歌在内的主要科技公司讨论人工智能。教皇利奥说，天主教会希望与人工智能开发人员进行对话，以便正确使用该技术。

《教皇利奥十四：秘密会议和新教皇的黎明》一书的作者克里斯托弗·怀特认为，教皇利奥希望将教会置于与科技巨头的严肃对话中。

怀特说，教皇并没有声称教会对AI监管拥有所有答案。然而，他强调，人工智能的发展不应该像一个不受监管的荒野一样被允许。

基督教援助机构Cafod的首席执行官克里斯汀·艾伦说，教皇的信息强调了人的尊严。据他介绍，人类不仅仅是生产工具，而是具有道德指南针的生命体。

教皇利奥强调，人工智能必须保持在人类的控制之下，开放予以监督，不能用于放大不平等、操纵或痛苦。