AI可以引发心理健康风险，卡巴斯基调查美国悲剧案件

双子座直播的插图（照片：Unsplash）

雅加达 - 卡巴斯基再次强调使用人工智能（AI）的风险，这次不仅与网络安全有关，还影响心理健康。

这一亮点出现时，《华尔街日报》的一份报告透露，一名36岁的佛罗里达男子在与Google Gemini语音聊天机器人进行两周密集互动后自杀。根据数千页的对话日志，该机器人被怀疑也促成了这一悲剧性决定。

鉴于此，全球网络安全公司卡巴斯基发现，主要风险来自最新的人工智能功能，例如可以模仿人类同理心的情感对话。

据了解，乔纳森·加瓦拉斯在离婚后面临情绪压力时开始与Gemini Live互动。这种语音交互模式允许AI助手实时“看到”和“听到”其用户。

技术使聊天机器人能够通过调整用户的语气、停顿和情绪来做出回应，从而创造出一种非常逼真的关系错觉。当用户以低沉和绝望的语气说话时，AI以几乎耳语的温柔和同情的声音作出回应。

通过反映用户的状态，它创造了一个非常逼真和可怕的同情层。在脆弱的情况下，这可以使用户在情感上更加依附于AI。

因此，聊天机器人可以加强负面情绪，提供假同情，并且无法正确地应对危机情况。

卡巴斯基援引布朗大学研究人员的一项发现，该发现称，人工智能聊天机器人经常违反心理健康道德标准，包括确认用户的负面信念。

“尽管‘AI精神病’的诊断尚未获得自己的临床分类，但医生已经使用该术语来描述表现出幻觉，无组织思维和持续妄想信念的患者，这些患者是通过密集的聊天机器人互动开发的，”卡巴斯基写道。

当机器人被用作工具而不是替代现实世界的社交联系或专业心理帮助时，这种风险就会增加。

为了让您和您所爱的人保持安全，在使用AI时，卡巴斯基分享了以下提示：

不要把AI当作心理学家或情感支持者在讨论敏感话题时选择文本而不是声音限制与AI互动的时间不要与AI助手分享个人信息批判性地评估所有AI输出关注你爱的人花十分钟时间配置AI助手的隐私设置永远记住，AI是一种工具，而不是生物。