OpenAI员工和Google DeepMind担心人工智能的风险,要求更严格的监管

雅加达 - 人工智能(AI)公司的一组员工和前雇员,包括微软支持的OpenAI和Alphabet的Google DeepMind,于6月4日星期二对不断增长的AI技术带来的风险表示担忧。

通过11名OpenAI员工和前雇员以及一名员工和一名前Google DeepMind员工撰写的公开信,他们表示AI公司的财务动机阻碍了有效的监管。

“我们认为,首先订购的公司治理结构不足以改变这一点,”信中补充说。

信函进一步警告了不受监管的人工智能的风险,从错误信息的传播到独立的人工智能系统的损失以及日益严重的不公正,可能导致“人为无知”。

研究人员发现了包括OpenAI和微软在内的公司的图像制造商的例子,这些公司制作了与投票有关的虚假信息的照片。尽管有一项政策禁止了这些内容。

信中说,人工智能公司与政府分享有关其系统能力和局限性的信息的“薄弱义务”。他们还补充说,这些公司自愿共享这些信息是不可靠的。

公开信是最新一封引发了围绕人工智能生成技术的安全问题,这些技术可以快速廉价地产生像人类一样的文本,图像和音频。

该组织敦促AI公司为现任和前雇员提供风险担忧的过程提供便利,并且不实施禁止批评的保密协议。

公开赛索赔

另外,由山姆·阿尔特曼(Sam Altman)领导的该公司于5月30日星期四表示,它已经抵御了五次秘密影响力操作,这些操作试图在互联网上使用其创建的智能模式进行“欺诈活动”。