雅加达 - OpenAI成立了一个安全与安全委员会,由董事会成员领导,包括首席执行官山姆·阿尔特曼(Sam Altman),以配合最新的人工智能(AI)模型的培训开始。这家AI初创公司于5月28日星期二宣布了这一消息。
Bret Taylor,Adam D'Angelo和Nicole Seligman的董事也将率领该委员会,根据OpenAI公司的博客。微软支持的OpenAI聊天机器人具有生成AI功能,例如像人一样的对话互动和基于文本命令的图像创建,随着这种AI模型的增强,它引起了对安全性的担忧。
前首席科学家Ilya Sutskever和Jan Leike此前曾率领OpenAI超级附加团队,该团队确保人工智能保持符合预期目的,本月早些时候离开了该公司。OpenAI在5月初解散了超级附加团队,不到该团队成立一年后,其中一些团队成员被转移到另一个群体。
新委员会将负责就OpenAI项目和运营的安全和安全决策向理事会提出建议。该委员会的第一个任务是在未来90天内评估和进一步开发OpenAI安全实践,之后他们将向理事会分发建议。
该公司表示,在理事会审查后,OpenAI将公开分享与收到的建议相关的更新。该委员会的其他成员包括新任命的科学家首席科学家Jakub Pachocki和安全主管Matt Knight。该公司还将咨询其他专家,包括美国国家安全局前网络安全局局长罗伯·乔伊斯(Rob Joyce)和司法部前官员约翰·卡林(John Carlin)。
OpenAI没有提供有关正在训练的新“前沿”模型的进一步细节,除非该模型将使其系统达到“前往AGI的下一个能力水平”。5月初,OpenAI宣布了一款能够进行逼真的语音对话和文本和图像交互的新型AI。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
