雅加达 - 人工智能(AI)的发展加速可能扰乱了选举等民主进程。它甚至可能威胁人类的生存。这些警告来自人工智能专家,发表在纽约的路透社NEXT会议上。
生成人工智能的发展的爆炸式增长,可以创建文本、照片和视频作为响应公开指示,最近几个月引起了人们对其潜力的兴奋,以及人们担心这些AI可能会使某些作品无关紧要,破坏选举,甚至可能超越人类。
「目前最大的风险是对民主的威胁......到2024年,世界各地将有许多选举,其中任何一方都不会受到深度假冒等影响的可能性几乎为零,“纽约大学教授加里·马库斯(Gary Marcus)于11月8日星期三在纽约举行的路透社NEXT会议上在小组中说。
主要的担忧之一是,生成人工智能加速了deepfakes的发展 - 由人工智能算法创建的逼真的但虚假的视频,经过大量在线镜头的培训 - 出现在社交媒体上,模糊了政治事实与虚构之间的界限。
“尽管这种合成媒体已经存在了几年,但曾经达到数百万美元的成本现在可能达到300美元,”马库斯说。
会议上的专家表示,该公司正在越来越多地使用人工智能进行决策,包括价格定价,这可能会导致歧视性结果。
非营利组织消费者报告(Consumer Reports)首席执行官玛尔塔·泰拉多(Marta Tellado)表示,她的调查结果表明,居住在人口占多数的黑人或棕色地区的汽车所有者,并且接近居住在白人人口中的环境,他们支付的汽车保险费率高出30%。
“对于消费者来说,没有丝毫的透明度,”他在面板采访中说。
生命之未来研究所(Future of Life Institute)创始人兼执行董事安东尼·阿奎雷(Anthony Aguirre)认为,政策制定者和技术领导者可能出现并应予以注意的另一个威胁是,人工智能可能变得如此强大,以至于成为对人类的威胁。
“我们不应该低估这些模型现在有多强大,它们会变得更强大,”他说。
未来生活研究所(Future of Life Institute)是一家非营利组织,旨在从高级人工智能的发展中降低灾害风险,在三月份发布一封公开信时,在新闻中出现,呼吁暂停六个月,以便对OpenAI的GPT-4更强大的AI系统进行训练。
他们警告说,人工智能实验室正在卷入一场“不受控制的竞赛”,以开发“强大的数字思维,任何人都不可能理解,预测或控制 - 即使是他们自己的创造者”。
越来越强大的人工智能的发展也有可能将失业的风险,直到人类不可能学习新技能并进入其他行业。
“在那之后,我担心回到人工智能作为一种工具,回到人工智能作为一种赋予人们权力的东西不会那么容易。它将更多地取代人们,“Aguirre说。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
