纽约市市长,为错误提供信息的人工智能聊天机器人辩护

纽约市市长埃里克·亚当斯(Eric Adams)尽管做出了错误的答案,但仍保留使用人工智能(AI)聊天机器人。(照片:x @NYCMayor)

雅加达 - 纽约市市长埃里克·亚当斯(Eric Adams)保留使用一个新的人工智能(AI)聊天机器人,该城市最近被困在给出错误的答案或提供违反法律的建议方面。

MyCity 聊天机器人 于 2023 年 10 月作为试行推出,被推广为全市首次使用 AI 技术,这将为企业主提供“可以采取行动和值得信赖的信息”,以回应在线门户键入的问题。

这一点并不总是可以肯定:Markup调查媒体的记者上周首次报道说,聊天机器人提供了错误的信息。Chabot错误地建议雇主可以参与其员工的提示,并且没有法规要求老板通知员工时间表的变化。

“有一些事情是错误的,我们必须纠正它们,”民主党政客亚当斯在4月2日星期二告诉记者。他强调这是一个试验计划。“每当你使用技术时,你都需要将其放入一个真实的环境来解决问题,”他补充说。

亚当斯一直是利用城市中未经测试的技术的热情支持者,持乐观情绪,并不总是被证明是正确的。去年,他在泰晤士广场地铁站放置了一台重达400磅的微妙果实形状的机器人,希望它能帮助警方防止犯罪。大约五个月后,这台机器人退休,路人注意到,机器人从未被看到做任何事情。机器人也无法使用楼梯。

与此同时,迄今为止投诉的Chatbot仍然在线。上周四,它仍然有时给出错误的答案。他还表示,店主可以自由地不接受现金支付,似乎没有意识到2020年城市法,禁止商店拒绝接受现金支付。Chatbot还认为该市的最低工资为每小时15美元,尽管从2024年开始将其增加到16美元。

依赖于Microsoft Azure AI服务的聊天机器人似乎被一种常见的问题所困扰,该平台称为ChatGPT,有时可以制作不正确的东西或说谎。微软和市政厅都没有回答有关何故故障以及如何纠正它们的问题。

MyCity 聊天机器人网站上更新了警告,指出“回应有时可能不准确或不完整”,并告知企业“不要将其回应用作法律或专业建议”。

安德鲁·里吉(Andrew Rigie)曾为数千名餐馆老板担任纽约市酒店联盟(NYC Hospitality Alliance)董事,他曾听到企业主对聊天机器人的反应感到困惑。“我感谢该市利用人工智能来帮助企业的努力,但它必须起作用,”他说。

Rigie还警告说,遵循一些聊天机器人的指南可能会带来严重的法律后果。“如果当我问的时候,然后我不得不回到我的律师那里,找出答案是否正确,那就打败了目标,”他说。