OpenAI警告说，新的网络安全风险模型需要多层防御系统 Chinese: OpenAI警告说，新的网络安全风险模型需要多层防御系统

雅加达 - OpenAI警告说，其最新一代人工智能模型可能会对网络安全造成重大风险，因为人工智能的能力越来越快和复杂。

在12月10日星期三的一篇博客文章中，这家微软支持的公司表示，它担心即将推出的模型可能会开发出能够突破高防御系统的零日漏洞，或帮助企业级黑客行动，对物理世界产生实际影响。

这一警告是在全球讨论如何让AI被恶意行为者用于进攻中提出的。OpenAI认为，其能力的发展已经超越了实验室试验的场景，并开始接近“现实世界的能力”，如果使用不当，可能会产生严重的后果。

OpenAI表示，它正在投资加强网络防御任务的模型，包括使开发人员和安全团队能够更轻松地审计代码并修复漏洞的工具。其缓解策略包括访问控制、基础设施强化、数据输出限制和更严格地监控模型活动。

该公司还宣布计划推出一个新计划，为符合资格的组织或用户提供分层访问权限，并专注于网络防御。这种访问将包括被认为对一般使用过于敏感的先进功能。

为了监督人工智能前沿风险缓解工作，OpenAI将成立前沿风险委员会，这是一个由经验丰富的网络安全从业者组成的顾问小组。该委员会将直接与OpenAI的内部团队合作，在扩展到其他前沿能力领域之前，在早期阶段将侧重于网络安全风险。

OpenAI的公开警告增加了关于如何保持AI创新与安全之间的平衡的讨论的紧迫性，因为这项技术比许多国家的监管框架移动得更快。随着行业开始面对生成人工智能的黑暗面，与AI风险控制，透明度和治理相关的对话预计将在不久的将来变得更加突出。