不要向AI Chatbot 询问短答,这就是将要发生的事情

雅加达 - 如果您经常以Web 或应用程序的形式使用人工智能 (AI) 驱动的聊天机器人,那么您一定意识到这项技术往往会提供长期响应。

这确实是由所用AI模型的系统管理的。AI模型越复杂,答案就越详细。事实上,如果聊天机器人给出一个简要的答案,这可能是一个问题。

用户不应该向聊天机器人寻求简要的答案。根据巴黎人工智能测试公司Giskard的一项新研究,简要的答案请求将对他们使用的AI能力产生负面影响。

更糟糕的是,这将导致幻觉化。聊天机器人何时何地被分析,提供的反应就越糟。也就是说,这项技术的性能下降。

“我们的数据表明,系统指示的简单变化极大地影响了模型被清除的趋势,”研究人员继续说道。

幻觉是此模型的主要问题,因为很难克服。事实上,OpenAI和Meta制造的先进模型仍然可以幻觉化,尽管许多人已经使用了他们的聊天机器人。

当模型经历幻觉时,该技术将编故事。根据Giskard研究人员的解释,对简要答案的请求可能会使系统感到困惑,因为它通常与问题相冲突。

例如,当用户要求对第二次世界大战历史作出解释时,他们会寻求简要的答案。这两件事是非常矛盾的,因为历史通常需要很长的解释。

Giskard 用简短的答案命令测试了几种AI 模型。其中一些型号是来自OpenAI的GPT-4o,来自Anthropic的Claude 3.5 Sonnet,Deepsek V3,来自Meta的Llama 4和Grok 2。所有这些AI 型号在被要求简要回答后,都经历了准确性下降。