OpenAI 准备加强其日益复杂的 AI 风险评估和缓解框架

开放AI公司正在招聘准备主管，负责安全和负责任地开发和部署最先进的人工智能模型。

该职位位于安全系统团队之下，将位于旧金山，并直接负责制定和执行 OpenAI 最新 AI 模型准备框架。

“我们正在建立一个评估，安全和安全框架，帮助我们的模型在现实世界环境中按预期行为，”该公司在其官方声明中写道。

该框架是OpenAI跟踪、评估和缓解随着AI前沿模型能力的提高而出现的新风险的基础。

OpenAI表示，它在AI模型的几代准备工作中投入了大量资金，包括开发能力评估、威胁建模和跨职能缓解。

随着系统和实施的保护的复杂性增加，这一作用被认为越来越关键，以扩大，加强和指导公司AI模型的安全标准。

之后，准备负责人将领导开发前沿能力评估，以保持其在快速产品开发周期中的准确性，强大性和可扩展性。

此外，该职位还监督了在网络安全和生物安全等关键风险领域的设计缓解，并确保评估结果直接影响产品发布决策和内部政策。

在其他科技巨头推出先进的人工智能模型的冲击下，OpenAI强调了其作为一家以安全为导向的人工智能研究和应用公司，以及对人类的广泛利益的承诺。