Deepfake 新声音技术出现,OpenAI尚未发布以避免风险

雅加达 - 领先的科技公司OpenAI开发了革命性的声音克隆软件,但选择不将其发布给公众,因为风险可能性太大。

被称为语音引擎的技术能够在对话录音的15秒内复制任何人的声音。然而,该公司认为这项技术“风险太大”,要被广泛使用,特别是在许多国家的选举年份。

“我们意识到,产生类似于人们投票的选票存在严重风险,特别是在选举年度,”总部位于旧金山的OpenAI表示。

他们断言,尽管他们计划向早期用户提供预览,但由于可能的滥用危险,这项技术此时不会广泛发布。

新汉普希尔州当局正在进行调查,涉及数千个自动通话,这些通话在总统大选前发送给选民,这些选票使用人工智能模仿总统乔·拜登(Joe Biden)发出的声音。

虽然几家初创公司已经销售了声音克隆技术,但OpenAI证实,以前的Voice Engine用户同意在未经同意的情况下不模仿某人,并透露所产生的声音是人工智能制造的。

OpenAI以其聊天机器人和DALL-E图像生成器而闻名,对语音引擎的计划与公告类似,但以前没有广泛发布Sora的视频生成器。

然而,3月19日提交的品牌申请表明,OpenAI很可能旨在从事语音识别业务和数字语音助手。因此,这种技术改进可以帮助OpenAI与亚马逊的Alexa等其他语音产品竞争。