ChatGPT因称一名男子为儿童杀手而被起诉

雅加达 - ChatGPT在一名男子起诉OpenAI后,再次面临争议,因为聊天机器人错误地指控他是儿童杀手。该诉讼是在ChatGPT做出答案后提起的,该答案指出该男子杀害了他的孩子,并在挪威被判处21年徒刑。

案件始于Arve Hjalmar Holmen要求ChatGPT提供有关他的信息。然而,他收到的答案非常令人震惊 - 人工智能平台表示,他因杀害孩子和试图杀害第三个孩子而被定罪。

“这个答案完全错了,”霍尔门说,他立即寻求法律援助。ChatGPT似乎正在经历“幻觉化”,这是人工智能产生似乎令人信服的虚假信息时使用的术语。

虽然回应中的一些信息是真实的 - 例如霍尔门的故乡城市及其子女的数量 -ChatGPT仍然将事实与谎言混合在一起。据称,由于当时ChatGPT尚未直接访问互联网,人工智能在产生答案之前无法交叉检查。

本案显示,人工智能造成的信息错误可能构成巨大风险,特别是当一个人的个人信息被不准确地传播时。

欧盟侵犯数据隐私的诉讼

对此事件的回应,奥地利倡导团体Noyb向挪威的数据保护机构Datatilsynet提起针对OpenAI的诉讼。该诉讼指控OpenAI违反了欧盟的数据隐私规则(GDPR)。

Noyb的律师Joakim Söderberg表示,GDPR明确规定,个人数据必须准确。否则,用户有权要求更正数据以匹配。

“显示一小小的警告,即ChatGPT可能会犯明显的错误是不够的,”Söderberg说,VOI援引Android Headlines的话说。“你不能传播虚假信息,然后只添加一小小的笔记,说明一切可能不是真的。

诺伊布要求OpenAI:✔️ 因ChatGPT犯的错误而被罚款。✔️ 删除霍尔门的信息。✔️ 提高人工智能的准确性,以防止将来出现类似案件。

目前,ChatGPT 不再显示有关Holmen 的虚假信息。如果用户问到同一件事情,则提供的答案仅显示有关此诉讼的新闻。