OpenAI 发布了最新人工智能 模型的安全计划

雅加达 - 人工智能公司OpenAI在微软的支持下,详细说明了其最先进模式中解决安全问题的框架。这包括授权理事会推翻安全决定,这是在12月18日星期一在其网站上发布的计划中规定的。

OpenAI只有在网络安全和核威胁等特定领域被认为安全的情况下,才会应用其最新技术。该公司还成立了一个咨询小组,审查安全报告,并将其提交给公司行政长官和董事会。虽然行政长官会做出决定,但董事会有权推翻该决定。

一年前CatGPT推出以来,人工智能的潜在危害一直是人工智能研究人员和公众的主要关注点。生成人工智能技术使用户惊叹其写诗和埃塞的能力,但也引发了对安全的担忧,其潜力是传播虚假信息和操纵人类。

4月,一组人工智能行业领导人和专家签署了一封公开信,呼吁推迟六个月,开发OpenAIGPT-4比GPT-4更强大的系统,指的是潜在的对社区风险。

路透社/伊普索斯5月份的一项民意调查发现,超过三分之二的美国人担心人工智能可能产生的负面影响,61%的人认为它可能威胁文明。