卡巴斯基分享了保护组织免受自主AI代理风险的提示

图片:卡巴斯基

雅加达 - 越来越自主的人工智能代理（AI代理）的使用被认为对组织带来了严重的安全性风险，从客户服务中断到潜在的企业数据库删除。

鉴于此，卡巴斯基认为，这种情况为信息技术领导者，特别是首席信息官（CIO）和首席信息安全官（CISO）带来了新的治理挑战。

“这些代理人做出决策，使用工具并处理敏感数据，而没有人类的干预。因此，事实证明，我们许多标准IT和安全工具无法控制AI，”该公司表示，引用2月1日星期日。

因此，卡巴斯基建议公司通过严格限定的任务来限制对AI代理的访问。

卡巴斯基还建议使用短期的凭据，例如有限范围的临时令牌和API密钥，以防止AI代理在被破坏后被滥用。

此外，在高风险操作中，如金融交易授权或大量数据删除，仍然需要人类参与。

从技术角度来看，AI代理的执行需要在容器或沙箱等安全环境中隔离，并伴随严格的网络流量控制。在执行之前，还必须通过政策执行机制首先检查代理的每个计划和行动。

所有AI代理的活动也需要持续记录在不可更改的日志中，以备审计和法医调查之用。

卡巴斯基强调，自动监控代理行为以检测异常（例如API调用激增，自我复制尝试或偏离初始目标）非常重要。

其他补充措施包括通过加密和身份验证保护代理之间的通信，使用可视化界面来帮助人类衡量对AI的信任程度，以及持续的员工培训。

最后，鉴于技术的快速发展，卡巴斯基认为，组织需要每年培训几次，以便用户了解他们使用的AI系统的实际风险。