Shadow AI 监视公司，安全团队恰恰是主要参与者

雅加达 - “影子人工智能”现象现在对全球公司构成了新的威胁，具有讽刺意味的是，主要肇事者实际上来自网络安全团队本身。

术语“影子AI”是指在未经组织正式批准的情况下使用人工智能工具。随着对工作效率的需求不断增长，这种做法正在迅速发展，但会给数据安全、合规性和公司声誉带来严重风险。

UpGuard的最新报告显示，近90%的安全专业人士使用未经办公室批准的人工智能工具。这一事实表明，即使是负责维护系统的部门也开始为了提高生产力而采取捷径。

一眼看去，使用人工智能来加速任务似乎是一个合乎逻辑的决定。一个三小时的工作可以在几分钟内完成。然而，人工智能不仅仅是一个数据存储工具，就像普通的云服务一样。该系统处理，学习，在某些情况下存储用户输入的数据。

这就是危险所在。如果员工将内部文件、源代码或敏感信息输入到无人值守的人工智能平台，这些数据可能会暴露给第三方。

它的财务风险也很大。Netwrix的研究表明，使用影子AI的企业承担的数据泄露成本超过60万美元，而只使用官方设备的组织则少。

问题不仅仅是数据泄露。AI还可以产生错误的信息或“幻觉”，然后进入行政报告，业务分析，甚至生产代码。当AI结果被直接信任而没有人类验证时，一个小错误可以变成一个巨大的损失。

阴影人工智能的风险现在通过所谓的“代理人工智能”进入到下一个层次。与普通的聊天机器人不同，代理人工智能能够直接采取行动 - 阅读电子邮件，移动文件，甚至代表用户执行代码。

一个广为人知的例子是OpenClaw。这种平台提供极高的生产力，但也开辟了新的攻击面。

安全研究人员最近发现了一个社区扩展的OpenClaw，它被证明是一种隐藏的恶意软件，它会悄悄地将数据发送到一个未知的服务器。由于系统使用用户的原始权限运行，可疑活动通常会逃脱传统安全设备的检测。

简而言之：AI现在可以成为一个“数字内部人士”，很难与真正的员工区分开来。

禁止在工作场所使用人工智能的努力被证明是无效的。几乎一半的员工承认，即使公司明确禁止使用，他们仍然会使用他们最喜欢的人工智能工具。禁令只会推动这种做法进入地下 - 更难监控，更危险。

更加现实的方法是提供安全且适合工作需求的官方AI替代品。一个医疗保健系统成功地将未经授权的AI使用率降低到近90%，此前它提供了一个经过批准的内部平台。

关注VOI Whatsapp频道