卡巴斯基强调将AI聊天机器人用于儿童的风险

雅加达 - 今天,不可否认的是,人工智能(AI)技术已成为人类生活不可分割的一部分,并逐渐取代了许多曾经被认为是创新的工具。

ChatGPT的存在也让全世界的人们热情地欢迎各种可能性。但是,在技术的兴奋中,有一件重要的部分是未考虑的,那就是儿童。

卡巴斯基网站内容分析师Noura Afaneh表示,所有年龄段的儿童可以在不需要同意的情况下轻松访问AI工具。

“虽然各种可用工具有很多巨大的好处,但如果人工智能聊天机器人对儿童的风险被超越;我们可能面临巨大的风险,涉及数据隐私的损失,网络威胁和不当内容,“Afaneh在10月16日星期一收到的一份声明中说。

Afaneh解释说,最受欢迎的AI聊天机器人之一,ChatGPT没有适当的年龄验证,因此对儿童的数据隐私构成风险。ChatGPT还经常以令人信服的方式提供不准确和错误的信息。

此外,Snapchat的“MyAI”聊天机器人允许13岁用户在不需要父母许可的情况下使用它们。Afaneh解释说,这种AI“朋友”的风险是,孩子们通常真的相信他们是真正的朋友,并根据他们的建议行事。

这是非常危险的,因为青少年可能比可以帮助他们的父母更愿意与聊天机器人分享个人信息和个人生活细节。

“在不恰当的一面上,有许多AI聊天机器人专门设计为提供'性感'体验。例如,MyAnima是我测试的聊天之一,我几乎不需要任何努力来提供性答案,而不需要年龄验证,“她说。

此外,还有Botfriend,这是一个专门为明确的性角色扮演游戏设计的成人AI工具,您需要开始使用它只是电子邮件。

Afaneh总结道:“这总是提醒人们认识到儿童如何使用互联网以及他们是否面临数据隐私和信息滥用风险是多么重要。