美国官员:科学仍在发展时,难以反击的AI滥用

雅加达 - 政策制定者努力建议人工智能(AI)采取安全措施,以应对一个巨大的挑战:不断增长的科学。

美国人工智能安全研究所所长伊丽莎白·凯利(Elizabeth Kelly)表示,人工智能开发者本身仍在寻找防止滥用新系统的方法。这使得政府难以建立有效的安全措施。

凯利于12月10日星期二在纽约举行的路透社NEXT会议上发表讲话,强调了网络安全领域的担忧。他解释说,克服AI实验室实施的安全限制(称为“故障”)的方法可以很容易地完成。

凯利说:“政策制定者很难在安全性方面推荐最佳实践,而我们自己也不知道哪些是有效的,哪些是不有效的。

技术专家正在努力在各个方面测试和保护人工智能。其中一个问题是合成内容,其中操作显示AI生成图像的数字水标仍然过于容易。这使得当局难以为行业提供适当的指导。

美国人工智能安全研究所是拜登政府下成立的,旨在通过与学术界、工业界和民间社会的合作来克服这一挑战,以支持其技术评估。凯利强调,人工智能的安全是一个“根本性的两党问题”,当被问及唐纳德·特朗普领导下的该机构的未来时,该机构将于1月开始任职。

作为该机构的第一任主任,凯利最近主持了上个月在旧金山举行的世界各地的人工智能安全机构首次会议。

凯利透露,会议的10个成员国正在技术专家的协助下,在全球范围内开发可操作的安全测试。

凯利说:“这次会议确实召集了技术专家,描述了比典型的外交会议更具技术性的合作氛围。

通过这种协作方法,人工智能安全机构旨在制定更强大的全球标准,以应对不断增长的科技时代的安全挑战。