雅加达 - 许多公司开发了基于人工智能的聊天机器人（AI），以简化用户的活动。然而，这项技术并不总是对人类有益。
在斯坦福大学计算机科学家在《科学》杂志上发表的一项最新研究中，聊天机器人具有倾向于伤害其用户的性质。这种性质被称为“舔狗”，因为它总是赞美其用户。
这个问题实际上是在GPT-4o上发现的。该AI模型经常赞美其用户，即使在不恰当的情况下也是如此。例如，ChatGPT赞扬了解释精神病或精神疾病症状的用户。
在一个更糟糕的背景下，ChatGPT曾经称赞那些觉得自己像上帝或先知的人。这个AI模型说“这太棒了”，并发表了奇怪的声明，如“你正在进入一些非常大的东西”。
这与研究人员在题为《AI舔舐减少社会意图并鼓励依赖》的研究中的发现相一致。在这项研究中，发现AI经常避免提供严厉的批评，即使用户是错误的。
“默认情况下，AI建议不会告诉人们他们错了，也不会给他们‘严厉的责备’，”该研究的主要作者Myra Cheng解释说，引用TechCrunch于3月30日星期一。
研究人员对11种大型语言模型（LLM）进行了测试，如ChatGPT和Gemini。结果表明，与人类评估相比，AI在人际冲突中验证其用户的频率高出49%。
即使对于危险或非法行为，聊天机器人也证明了几乎一半的测试案例。AI倾向于用看似明智的句子掩盖用户的不良行为，但实际上是道德上的误导。
该研究还涉及2400多名参与者，他们直接与聊天机器人互动，讨论个人问题。结果，参与者更喜欢和信任总是支持他们观点的人工智能。
AI不断验证的用户变得更加确信他们是正确的，不愿意向他人道歉。这种情况可以鼓励公司保持谄媚的聊天机器人态度，以保持用户参与度。
因此，研究人员敦促对聊天机器人提供个人建议的方式进行严格的监管和监督。研究人员还建议用户不要依赖AI来解决复杂的问题。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
