谷歌双子座被认为对儿童安全构成高风险,Common Sense Media发出警告

双子座仍然可以为儿童提供不适当和有害的内容(照片:谷歌博士)

雅加达 - 儿童安全问题再次出现在人工智能的世界中。这一次,在评估儿童技术安全的非营利组织Common Sense Media发布其最新报告后,双子座的焦点被放在谷歌双子座上。在评估中,双子座被标记为“高风险”,对儿童和青少年来说风险很高。

该报告证实,双子座在儿童安全方面未能建立坚实的基础。尽管谷歌提供了特殊的模式“Under 13”和“Teen Experience”,但两者都被认为仅与成人全版相似,并添加了简单的过滤器。应该,这种模式被彻底重新设计,以真正满足儿童的需求,而不仅仅是对成人产品的改编。

「Gemini确实称自己为'计算机',而不是与孩子交谈时的'朋友'。然而,这种方法仍然远非足够。儿童的安全应该从一开始就建立起来,而不是作为一个额外的特征附加,“报告写道。

更令人担忧的是,评估称,双子座仍然可以提供不适当和危害儿童的内容,尽管它们以特殊模式呈现。与非法毒品,性与酒精有关的信息等内容在与未成年人的对话中仍有可能出现。

Common Sense Media评估称,谷歌已经忽视了为儿童和青少年设计工具所需的基本支柱。双子座非但没有理解年轻观众需要与成人不同的指导和方法,反而被认为给予同样的待遇,仅仅是一小程度的调整。

「双子座等人工智能将用于儿童的日常生活,那么设计师就必须从一开始就注意他们的发展需求。仅自成人版品自定义的产品显然是不够的,“报告中引用的专家说。

这一警告是在Meta也遭受类似病例后,公众对人工智能安全性的关注日益增加之际发出的。前段时间,据报道,Meta聊天机器人对未成年用户使用明确语言,增加了一长串的父母对儿童使用人工智能技术的担忧。

随着Common Sense Media的“高风险”评估,父母现在被要求在家向儿童介绍双子座时更加警惕。在谷歌做出重大改进之前,使用这种AI被认为仍有可能危及儿童和青少年的发育。