专家提醒说,代化人工智能和Deepfake威胁到民主和人类的存在

雅加达 - 人工智能(AI)的发展加速可能扰乱了选举等民主进程。它甚至可能威胁人类的生存。这些警告来自人工智能专家,发表在纽约的路透社NEXT会议上。

生成人工智能的发展的爆炸式增长,可以创建文本、照片和视频作为响应公开指示,最近几个月引起了人们对其潜力的兴奋,以及人们担心这些AI可能会使某些作品无关紧要,破坏选举,甚至可能超越人类。

「目前最大的风险是对民主的威胁......到2024年,世界各地将有许多选举,其中任何一方都不会受到深度假冒等影响的可能性几乎为零,“纽约大学教授加里·马库斯(Gary Marcus)于11月8日星期三在纽约举行的路透社NEXT会议上在小组中说。

主要的担忧之一是,生成人工智能加速了deepfakes的发展 - 由人工智能算法创建的逼真的但虚假的视频,经过大量在线镜头的培训 - 出现在社交媒体上,模糊了政治事实与虚构之间的界限。

“尽管这种合成媒体已经存在了几年,但曾经达到数百万美元的成本现在可能达到300美元,”马库斯说。

会议上的专家表示,该公司正在越来越多地使用人工智能进行决策,包括价格定价,这可能会导致歧视性结果。

非营利组织消费者报告(Consumer Reports)首席执行官玛尔塔·泰拉多(Marta Tellado)表示,她的调查结果表明,居住在人口占多数的黑人或棕色地区的汽车所有者,并且接近居住在白人人口中的环境,他们支付的汽车保险费率高出30%。

“对于消费者来说,没有丝毫的透明度,”他在面板采访中说。

生命之未来研究所(Future of Life Institute)创始人兼执行董事安东尼·阿奎雷(Anthony Aguirre)认为,政策制定者和技术领导者可能出现并应予以注意的另一个威胁是,人工智能可能变得如此强大,以至于成为对人类的威胁。

“我们不应该低估这些模型现在有多强大,它们会变得更强大,”他说。

未来生活研究所(Future of Life Institute)是一家非营利组织,旨在从高级人工智能的发展中降低灾害风险,在三月份发布一封公开信时,在新闻中出现,呼吁暂停六个月,以便对OpenAI的GPT-4更强大的AI系统进行训练。

他们警告说,人工智能实验室正在卷入一场“不受控制的竞赛”,以开发“强大的数字思维,任何人都不可能理解,预测或控制 - 即使是他们自己的创造者”。

越来越强大的人工智能的发展也有可能将失业的风险,直到人类不可能学习新技能并进入其他行业。

“在那之后,我担心回到人工智能作为一种工具,回到人工智能作为一种赋予人们权力的东西不会那么容易。它将更多地取代人们,“Aguirre说。