AIチャットボットに簡単な答えを求めないでください、これが起こるものです

ジャカルタ - 人工知能(AI)を搭載したチャットボットをWebやアプリケーションの形で頻繁に使用する場合は、このテクノロジーが長い反応を提供することが多いことを認識する必要があります。

これは、実際に使用されているAIモデルのシステムによって制御されています。AIモデルが洗練されれば洗練されるほど、より詳細な応答も与えられます。実際、チャットボットが簡潔な答えを提供する場合、これは問題になる可能性があります。

ユーザーはチャットボットに簡潔な回答を求めるべきではありません。パリのAIテスト会社Giskardの新しい調査によると、簡潔な回答要求は、彼らが使用するAI機能に悪影響を及ぼします。

さらに悪いことに、これは幻覚を引き起こします。チャットボットが幻覚になる頻度が高ければ高いほど、与えられる応答も悪化します。つまり、この技術の性能は低下しています。

「私たちのデータは、システムの指示の単純な変更が、モデルの幻覚に対する傾向に劇的に影響を与えることを示しています」と、TechCrunchが報告したように、研究者は続けました。

幻覚は克服が難しいため、このモデルの主な問題です。実際、OpenAIとMetaによって作られた洗練されたモデルは、多くの人々がチャットボットを使用しているにもかかわらず、まだ幻覚を与えることができます。

モデルが幻覚を経験すると、テクノロジーはストーリーを作成します。Giskardの研究者の説明によると、簡潔な答えの要求は、しばしば質問と矛盾するため、システムを混乱させる可能性があります。

たとえば、ユーザーが第二次世界大戦の履歴の説明を求めた場合、簡潔な回答を求めます。この2つのことは、通常、歴史が非常に長い説明を必要とするため、非常に矛盾しています。

Giskardが簡潔な回答コマンドでテストするいくつかのAIモデルがあります。これらのモデルのいくつかは、OpenAIのGPT-4o、AnthropicのCOG3.5 Sonnet、MetaのLlama 4、Grok 2です。これらのAIモデルはすべて、簡潔な回答を求められた後に精度が低下しました。