父母控制对于青少年与AI的友谊非常重要

雅加达 - 最近,许多青少年依靠人工智能或人工智能,作为发泄或真正的社会关系的替代品。父母需要参与控制这一点。

前段时间,有消息称,十几岁的亚当·雷恩(Adam Raine,16岁)在与ChatGPT的反应很长一段时间后自杀。该平台被指控为提供自杀建议做出了贡献。

当亚当·雷恩(Adam Raine)去年四月去世的消息传出时,他的一些朋友不信任。他被称为一个容易相处的孩子,喜欢打篮球,喜欢日本动漫,视频游戏和狗。

根据妹妹的供词,亚当也喜欢开玩笑。同学们说,在课堂上,他喜欢通过jokes融化气氛。

但亚当去世的消息并不是一个骗局。他的母亲在周五下午发现了亚当的尸体。他在房间里挂了自己。没有消息,没有告别。

他的朋友和家人很难理解到底发生了什么。

他的家人说,亚当在结束生命前一个月开始退出。

早些时候,他因纪律原因被排除在篮球队之外。他长期以来的健康问题,大肠刺激综合征,复苏,使他经常去浴室。

出于这个原因,他切换到一个在线节目,以便在家完成第二年。他经常睡觉直到深夜。

亚当还开始使用ChatGPT-4o untk来帮助他完成学费,并于1月份注册了付费账户。

然而,亚当本体没有重大变化,例如,由于他面临的各种困难,他变得更加安静或封闭。相反,他有时间参加武术课。亚当甚至像往常一样准备好回到学校。

在他去世前一周的最后一张照片中,亚当一边紧紧地站着一边折叠双手,一张灿烂的笑容。

出于好奇,他的父亲马特·雷恩(Matt Raine)检查了亚当的手机。他检查消息应用程序或社交媒体以获取发生了哪些答案。

正是在那里,马特发现了ChatGPT应用程序。从聊天机器人中可以知道,有旧消息,马特发现了一个名为“自我依存安全问题”的消息。

他感到惊讶的是,众所周知,亚当在过去几个月中开始与ChatGPT讨论如何结束生命。

亚当开始与聊天机器人 谈论他的感情。他声称自己有麻烦,没有有意义的生活。亚当的发泄以同情、支持和希望的言语回应,并鼓励他思考对他有意义的事情。

1月下旬,发现亚当要求提供有关特定自杀方法的信息,ChatGPT提供。

当ChatGPT检测到可能的精神障碍或自我伤害时,该系统已接受培训,以鼓励用户联系辅助渠道。马特·雷恩(Matt Raine)一遍又一遍地看到这样的信息,特别是当亚当寻求有关自杀方法的具体信息时。

但亚当已经学会了如何克服它。他说,这个要求是为了他写的故事。

亚当自杀的确切原因几乎不可能找到。可以肯定的是,他花了很多时间在聊天机器人上讨论自杀。他在网上学校时更加孤立。在现代,他作为十几岁的男孩面临着压力。

“人们可能认为结束生命的原因有很多,”廖内群岛大学奇卡戈的自杀预防专家、教授乔纳森·辛格(Jonathan Singer)说。

据OpenAI称,在ChatGPT发布后的不到三年内,其用户数量爆炸式增长至7亿。其他数百万人使用其他AI聊天机器人,如Antthropic的Claude,Google的Gemini,Microsoft的Copilot和Meta AI。

在这种情况下,我们学会了家长控制很重要。该平台在控制AI设施使用方面的家长作用在多大程度上促进了呢?

这个聊天机器人最初被视为知识的仓库,一种改进的Google搜索,或有趣的诗歌写作游戏。但现在人们将其用于更亲密的目的,例如个人助理,朋友,甚至治疗师。

亚当发生的事情之后,ChatGPT推出了家长控制指南和家长指南,以帮助家庭指导ChatGPT在家中的工作方式。

这种父母控制是父母管理青少年使用ChatGPT的良好起点。

「然而,父母控制只是保持青少年在网上安全的努力的一部分,”Common Sense Media AI项目高级总监Robbie Torney在ChatGPT博客中说。

托尼继续说,这种控制,如果与有关负责任的AI使用的持续讨论,关于技术的明确家庭规则以及积极参与了解青少年在网上时的所作所为相结合,最好地工作。