自慢するつもりで、グーグルバードチャットボットは不正確な答えを与えます
ジャカルタ-Googleの人工知能(AI)チャットボットとしてのバードの出現は、ChatGPT OpenAI市場をシフトすることを計画していますが、それが優れていて異なっていると賞賛されると、不正確な情報を表示します。
AIは、バードのユーザーエクスペリエンスを実証するように設計されたGIFを通じて、「ジェームズウェッブ宇宙望遠鏡からのどのような新しい発見について9歳の息子に伝えることができますか?」という質問に答えます。
試験バードは、太陽系外の惑星の最初の写真を撮ったのはウェッブ望遠鏡であると述べるなど、3つのポイントを提供しました。
これはすぐにTwitterの多くの天文学者から反応を得て、バードの答えは間違っており、NASAが述べたように、太陽系外惑星の最初の写真は実際には2004年に撮影されたと指摘しました。
「実際、バードは感銘を受けると確信していますが、記録のために、JWSTは太陽系外の惑星の最初の画像を撮影しませんでした」と天体物理学者のグラント・トレンブレイはツイートしました。
「地球上で最も強力な企業の1つがJWST検索を使用してLLMを宣伝していることを本当に愛し、感謝しています。すごい！しかし、ChatGPTなどは非常に印象的ですが、非常に自信を持って間違っていることがよくあります。LLMが自分自身のエラーをチェックする未来を見るのは興味深いでしょう。」
吟遊詩人が間違った答えを出す理由は明らかではありません。Tremblayが指摘したように、ChatGPTやBardのようなAIチャットボットの主な問題は、誤った情報を事実として自信を持って述べる傾向があることです。
システムは本質的にオートコンプリートシステムであるため、多くの場合、情報を捏造します。言語モデルの情報は、事実のリストから引き出されて読み上げられるのではなく、文を完成させる高度に洗練されたシステムによって吐き出されます。
ごく最近の過去に関する文章は、その中の情報が何度も書き留められていないため、AIにとって通常よりもエラーが発生する可能性があります。また、ChatGPTモデルが2021年以降にユーザーに多くの情報を伝えない理由の1つである可能性があります。
「これは、厳格なテストプロセスの重要性を浮き彫りにしています。これは、今週、Trusted Testersプログラムで開始したものです。外部のフィードバックと独自の内部テストを組み合わせて、Bardの応答が高品質、セキュリティ、および実際の情報の基礎の高い基準を満たしていることを確認します」と、Googleの広報担当者は、Bardの間違いに応えて、2月9日木曜日に引用されたThe Vergeに語った。
参考までに、Microsoftは昨日、AIを利用した新しいBing検索エンジンをデモンストレーションし、ユーザーに責任を負わせることでバードのような問題を克服しようとしていると述べました。
「BingはAIを搭載しているため、驚きや間違いが発生する可能性があります。必ず事実を確認し、フィードバックを共有して、私たちが学び、成長できるようにしてください!」とMicrosoftは述べています。