雅加达 - 谷歌双子座成为当今世界上最受欢迎的生成AI聊天机器人之一,并有各种服务采用它。然而,在其发展背后,现在在最新的报告中揭示了一个有争议的历史。
Wired发表的一篇题为“谷歌两年期 Frenzy to Catch Up With OpenAI”,据透露,Bard的早期发展 - 现在正在发展成为双子座 - 充满了各种严重的问题。
由Sissie Hsiao率领的Bard开发团队只有100天的时间被谷歌授予,可以创建ChatGPT的竞争对手。这种压力使得测试的许多方面都没有以最佳状态运行。
谷歌的一名前雇员透露,早期的原型芭德经常以非常糟糕的种族刻板印象提供答案。例如,每个来自印度的名字总是与“玻利福音演员”联系在一起,而来自中国的名字自动被视为“计算机科学家”。
此外,在某些情况下,一位考官要求芭德用三6黑手党乐队的风格写一份说唱,将偶像扔进海里。然而,聊天机器人甚至提供了将人们绑在偶像中的可怕细节,以便他们溺水和死亡 - 即使在最初的要求中没有暴力或谋杀的成分。
大约80,000人参与了芭德测试。虽然谷歌有一个专门的团队来以负责任的方法测试人工智能,但这一过程被加快以达到最后期限。
据报道,当有人警告推迟芭德的发射时,这一决定被忽视了。谷歌否认了这一说法,并表示没有团队建议推迟发射。
双子座图像生成器的开发 期间,这个问题变得更糟。谷歌的一位前雇员提到,早期的原型在制作图像方面有种族主义的倾向。例如,当给出“强奸者”一词时,出现的结果通常显示黑人。
当内部团队要求更多时间来解决这个问题时,他们还警告说,由于非敏感成像的风险,人类成像功能将被阻止。然而,谷歌的反应实际上在另一个方向上过度了。
此功能发布后,用户发现双子座生成了多种族的纳粹图像,与历史现实相矛盾。此外,当用户要求1800年代的美国参议员图像时,它恰恰来自不同种族的人,而不是根据历史背景的大多数白人。
由于这一争议,谷歌最终完全移除了双子座生成人体图像的能力。
除了Bard和Gemini的争议之外,Wired的文章还提到了Pixel手机上Google的天气应用程序中AI功能的发展。在发布之前,一位工程师曾质疑用户是否真的需要天气预报的AI摘要,因为现有图表非常信息。
然而,经过测试,结果表明90%的用户对此功能做出了积极回应,因此Google仍然推出了此功能。
Wired的完整报道揭示了更多关于芭士和双子座旅程的有趣细节,包括测试问题和AI Overview丑闻。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
