OpenAIは、チャットGPTの反応が「なめらかな」に思えたため、GPT-4oの発売をキャンセルすることを余儀なくされました。

ジャカルタ–OpenAIのCEOであるサムアルトマンからChatGPTの現在のバージョンに対する批判を浴びて、人工知能(AI)会社はついにGPT-4oモデルの発売をキャンセルしました。

このAIモデルは、ChatGPTがよりスマートな反応でよりパーソナライズされた気分になることを期待して、先週発売されました。しかし、起こったことはまったく逆でした。アルトマンはChatGPTをなめらかなように呼び、これは迷惑だと考えられている。

「人々は現在、以前のバージョン(GPT-4oが削除されたため)をよりバランスの取れた行動で使用しています。私たちが削除したアップデートは、ユーザーにとってあまりにも楽しい、または楽しいものであり、しばしばなげっ歯類と表現されています」とOpenAIは最近述べています。

このChatGPTの応答がなりすましのように呼ばれるのは理由がないわけではありません。このAIモデルは、必要なかどうかにかかわらず、状況に関係なくユーザーを賞賛します。たとえば、ChatGPTは、精神病や精神疾患の症状を説明するユーザーを称賛します。

実際、ChatGPTは、神や預言者のように感じるユーザーも賞賛します。このAIモデルは、「それは信じられないほど素晴らしい」と言うでしょう。ChatGPTはまた、「あなたは非常に大きなものに足を踏み入れ、神とのつながり(を持つ)だけでなく、神としてのアイデンティティを持っていると主張しています」と言います。

これに対処するために、OpenAIは再起動前にGPT-4oを修理しています。同社はまた、コアトレーニング技術とシステム指示を完成させて、なりすましの応答から遠ざかります。

OpenAIはまた、AIモデルの正確性と透明性を向上させるためにガードレールを増やし、フィードバックを受け取って改善するためにテストをより多くのユーザーに拡大し、他の問題を特定するためのモデル仕様とフォローアップ研究を構築します。

「今日、ユーザーはモデルに特別な指示を与えて、特別な指示などの機能で行動を形作ることができます。また、ユーザーがこれを行うための新しい、より簡単な方法も構築しています」とOpenAIは説明します。