雅加达 - 如果您经常以Web 或应用程序的形式使用人工智能 (AI) 驱动的聊天机器人,那么您一定意识到这项技术往往会提供长期响应。
这确实是由所用AI模型的系统管理的。AI模型越复杂,答案就越详细。事实上,如果聊天机器人给出一个简要的答案,这可能是一个问题。
用户不应该向聊天机器人寻求简要的答案。根据巴黎人工智能测试公司Giskard的一项新研究,简要的答案请求将对他们使用的AI能力产生负面影响。
更糟糕的是,这将导致幻觉化。聊天机器人何时何地被分析,提供的反应就越糟。也就是说,这项技术的性能下降。
“我们的数据表明,系统指示的简单变化极大地影响了模型被清除的趋势,”研究人员继续说道。
幻觉是此模型的主要问题,因为很难克服。事实上,OpenAI和Meta制造的先进模型仍然可以幻觉化,尽管许多人已经使用了他们的聊天机器人。
当模型经历幻觉时,该技术将编故事。根据Giskard研究人员的解释,对简要答案的请求可能会使系统感到困惑,因为它通常与问题相冲突。
例如,当用户要求对第二次世界大战历史作出解释时,他们会寻求简要的答案。这两件事是非常矛盾的,因为历史通常需要很长的解释。
Giskard 用简短的答案命令测试了几种AI 模型。其中一些型号是来自OpenAI的GPT-4o,来自Anthropic的Claude 3.5 Sonnet,Deepsek V3,来自Meta的Llama 4和Grok 2。所有这些AI 型号在被要求简要回答后,都经历了准确性下降。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
