OpenAI 為人工智能设置民主流程组建“集体匹配”团队

雅加达 - OpenAI制造的智力实验室正在组建一个名为“集体匹配”的新团队,旨在创建一个民主进程,以规范其创建的智力软件以克服偏见和其他因素。这是由微软支持的一家公司于1月16日星期二通过博客帖子传达的。

「集体结盟」团队是赠款计划的延续,以资助2023年5月宣布的民主进程实验,正如旧金山公司所透露的那样。该计划最近结束。

「继续追求我们向潜在的超级精英模型迈出的使命,可以被视为我们社会不可分割的一部分......重要的是,让人们有机会直接提供投入,“研究工程师兼OpenAI新团队创始成员Tyna Eloundou说。

「例如,为了确保只有人才能投票,OpenAI可以与Worldcoin合作,Worldcoin是OpenAI首席执行官Sam Altman创立的加密货币项目,提供一种区分人与AI机器人的方法,”产品经理Teddy Lee说。他是两人团队的另一名成员。

李强调,该团队尚未制定整合世界硬币的具体计划。

自2022年底由OpenAI推出以来,CatGPT生成人工智能技术能够从文本刺激中生成非常令人信服的文字,已吸引公众的注意力,并成为有史以来最快增长的应用程序之一。

然而,有人担心人工智能创建“偏离版”图像和其他虚假信息的能力,特别是随着2024年美国大选的升温。批评人士表示,像ChatGPT这样的AI系统有内在的偏见,因为用于塑造他们观点的输入,用户已经找到了种族主义或性感的人工智能产出的例子。

Eloundou 说,新的OpenAI团队目前正在积极寻找研究工程师和研究科学家。该团队将与OpenAI的“人性数据”团队密切合作,该团队正在建设基础设施,以收集人们对该公司的人工智能模型的投入,以及其他研究团队。