可靠性在AI采用不断增加的情况下突出显示严重安全风险

雅加达 - Tenable的最新研究题为“Tenable的云AI风险报告2025”,发现人工智能(AI)的采用率远远超过了公司的安全准备。

人工智能使用的激增是不可否认的。麦肯锡全球调查发现,到2024年初,全球72%的组织已将人工智能集成到至少的一项业务职能中。

但另一方面,Tenable的研究强调了在保护开源包、图书馆和广泛管理的服务生态系统以支持人工智能工作量方面日益复杂和危险。

“这些组织迅速采用开源AI框架和云服务来加速创新,但很少有人停下来评估其安全性影响,”Tenable APJ高级副总裁Nigel Ng说。

根据Tenable的说法,人工智能开发环境在很大程度上依赖于开源,其中许多是快速下载和集成的,通常没有足够的安全审查或检查。

虽然这些框架加速了机器学习的发展,但它们还引入了隐藏的脆弱性,因为它们的开源性质及其依赖链。

“使这些工具强大的开放性和灵活性也为攻击者创造了道路,”他继续说道。

Nigel补充说,如果没有适当的监督,这种隐藏的曝光可能会削弱对人工智能推动的结果的信心,并牺牲企业追求的竞争优势。

加剧了这种风险的原因是,人工智能在Unix基于系统上运行了大量的工作量,该系统以广泛使用开源图书馆而闻名。

然后,这增加了在攻击者可以利用它访问敏感数据或操纵模型的环境中保持未修补的漏洞的可能性。

因此,Nigel建议组织在实施或将AI集成到其业务系统时要更加小心。