雅加达 - “影子人工智能”现象现在对全球公司构成了新的威胁，具有讽刺意味的是，主要肇事者实际上来自网络安全团队本身。
术语“影子AI”是指在未经组织正式批准的情况下使用人工智能工具。随着对工作效率的需求不断增长，这种做法正在迅速发展，但会给数据安全、合规性和公司声誉带来严重风险。
UpGuard的最新报告显示，近90%的安全专业人士使用未经办公室批准的人工智能工具。这一事实表明，即使是负责维护系统的部门也开始为了提高生产力而采取捷径。
从快速解决方案到重大风险一眼看去，使用人工智能来加速任务似乎是一个合乎逻辑的决定。一个三小时的工作可以在几分钟内完成。然而，人工智能不仅仅是一个数据存储工具，就像普通的云服务一样。该系统处理，学习，在某些情况下存储用户输入的数据。
这就是危险所在。如果员工将内部文件、源代码或敏感信息输入到无人值守的人工智能平台，这些数据可能会暴露给第三方。
它的财务风险也很大。Netwrix的研究表明，使用影子AI的企业承担的数据泄露成本超过60万美元，而只使用官方设备的组织则少。
问题不仅仅是数据泄露。AI还可以产生错误的信息或“幻觉”，然后进入行政报告，业务分析，甚至生产代码。当AI结果被直接信任而没有人类验证时，一个小错误可以变成一个巨大的损失。
新的威胁：代理人 AI阴影人工智能的风险现在通过所谓的“代理人工智能”进入到下一个层次。与普通的聊天机器人不同，代理人工智能能够直接采取行动 - 阅读电子邮件，移动文件，甚至代表用户执行代码。
一个广为人知的例子是OpenClaw。这种平台提供极高的生产力，但也开辟了新的攻击面。
安全研究人员最近发现了一个社区扩展的OpenClaw，它被证明是一种隐藏的恶意软件，它会悄悄地将数据发送到一个未知的服务器。由于系统使用用户的原始权限运行，可疑活动通常会逃脱传统安全设备的检测。
简而言之：AI现在可以成为一个“数字内部人士”，很难与真正的员工区分开来。
全面禁令不是解决方案禁止在工作场所使用人工智能的努力被证明是无效的。几乎一半的员工承认，即使公司明确禁止使用，他们仍然会使用他们最喜欢的人工智能工具。禁令只会推动这种做法进入地下 - 更难监控，更危险。
更加现实的方法是提供安全且适合工作需求的官方AI替代品。一个医疗保健系统成功地将未经授权的AI使用率降低到近90%，此前它提供了一个经过批准的内部平台。
关注VOI Whatsapp频道
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
