OpenAI成立了一个新的安全委员会,以培训最新的AI模型

雅加达 - OpenAI成立了一个安全与安全委员会,由董事会成员领导,包括首席执行官山姆·阿尔特曼(Sam Altman),以配合最新的人工智能(AI)模型的培训开始。这家AI初创公司于5月28日星期二宣布了这一消息。

Bret Taylor,Adam D'Angelo和Nicole Seligman的董事也将率领该委员会,根据OpenAI公司的博客。微软支持的OpenAI聊天机器人具有生成AI功能,例如像人一样的对话互动和基于文本命令的图像创建,随着这种AI模型的增强,它引起了对安全性的担忧。

前首席科学家Ilya Sutskever和Jan Leike此前曾率领OpenAI超级附加团队,该团队确保人工智能保持符合预期目的,本月早些时候离开了该公司。OpenAI在5月初解散了超级附加团队,不到该团队成立一年后,其中一些团队成员被转移到另一个群体。

新委员会将负责就OpenAI项目和运营的安全和安全决策向理事会提出建议。该委员会的第一个任务是在未来90天内评估和进一步开发OpenAI安全实践,之后他们将向理事会分发建议。

该公司表示,在理事会审查后,OpenAI将公开分享与收到的建议相关的更新。该委员会的其他成员包括新任命的科学家首席科学家Jakub Pachocki和安全主管Matt Knight。该公司还将咨询其他专家,包括美国国家安全局前网络安全局局长罗伯·乔伊斯(Rob Joyce)和司法部前官员约翰·卡林(John Carlin)。

OpenAI没有提供有关正在训练的新“前沿”模型的进一步细节,除非该模型将使其系统达到“前往AGI的下一个能力水平”。5月初,OpenAI宣布了一款能够进行逼真的语音对话和文本和图像交互的新型AI。