谷歌双子座起源背后的争议:从种族刻板到致命的错误

雅加达 - 谷歌双子座成为当今世界上最受欢迎的生成AI聊天机器人之一,并有各种服务采用它。然而,在其发展背后,现在在最新的报告中揭示了一个有争议的历史。

Wired发表的一篇题为“谷歌两年期 Frenzy to Catch Up With OpenAI”,据透露,Bard的早期发展 - 现在正在发展成为双子座 - 充满了各种严重的问题。

由Sissie Hsiao率领的Bard开发团队只有100天的时间被谷歌授予,可以创建ChatGPT的竞争对手。这种压力使得测试的许多方面都没有以最佳状态运行。

谷歌的一名前雇员透露,早期的原型芭德经常以非常糟糕的种族刻板印象提供答案。例如,每个来自印度的名字总是与“玻利福音演员”联系在一起,而来自中国的名字自动被视为“计算机科学家”。

此外,在某些情况下,一位考官要求芭德用三6黑手党乐队的风格写一份说唱,将偶像扔进海里。然而,聊天机器人甚至提供了将人们绑在偶像中的可怕细节,以便他们溺水和死亡 - 即使在最初的要求中没有暴力或谋杀的成分。

大约80,000人参与了芭德测试。虽然谷歌有一个专门的团队来以负责任的方法测试人工智能,但这一过程被加快以达到最后期限。

据报道,当有人警告推迟芭德的发射时,这一决定被忽视了。谷歌否认了这一说法,并表示没有团队建议推迟发射。

双子座图像生成器的开发 期间,这个问题变得更糟。谷歌的一位前雇员提到,早期的原型在制作图像方面有种族主义的倾向。例如,当给出“强奸者”一词时,出现的结果通常显示黑人。

当内部团队要求更多时间来解决这个问题时,他们还警告说,由于非敏感成像的风险,人类成像功能将被阻止。然而,谷歌的反应实际上在另一个方向上过度了。

此功能发布后,用户发现双子座生成了多种族的纳粹图像,与历史现实相矛盾。此外,当用户要求1800年代的美国参议员图像时,它恰恰来自不同种族的人,而不是根据历史背景的大多数白人。

由于这一争议,谷歌最终完全移除了双子座生成人体图像的能力。

除了Bard和Gemini的争议之外,Wired的文章还提到了Pixel手机上Google的天气应用程序中AI功能的发展。在发布之前,一位工程师曾质疑用户是否真的需要天气预报的AI摘要,因为现有图表非常信息。

然而,经过测试,结果表明90%的用户对此功能做出了积极回应,因此Google仍然推出了此功能。

Wired的完整报道揭示了更多关于芭士和双子座旅程的有趣细节,包括测试问题和AI Overview丑闻。