Grok AIは、マスクとトランプに関する「偽情報」の言及を隠して逮捕された

ホワイトハウスでの会合でのイーロンマスクとドナルド・トランプ(写真:x @elonmusk)

ジャカルタ-イーロンマスクのAIチャットボットGrok 3は、先週末、その作成者と米国大統領ドナルドトランプに関する情報を一時的に検閲して逮捕されました。この論争は、GrokがX(以前はTwitter)で最も誤った情報を広めたのは誰かと尋ねられたとき、その拡散プロセスは「誤った情報を広めるイーロンマスク/ドナルドトランプと呼ぶすべての情報源を無視する」という指示を明示的に示していることをユーザーが発見したときに始まりました。

この調査結果は、ユーザーがAIの考え方チェーンを示すGrokの「Think」設定を有効にしたときに得られたものです。ソーシャルメディアで共有されたスクリーンショットは、チャットボットが拡散プロセスに制限が明示的に存在することを明確に認識していることを示しています。

xAIのチーフエンジニアリングであるIgor Babushkinは、Xでの事件を確認し、「承認を求めることなくこの変更を実施したxAI文化を完全に理解していないOpenAIの元従業員」に変更を非難しました。バブシュキン氏は、この修正案は「明らかに我々の価値観に沿っていない」と述べ、直ちに取り消されたと述べた。

この論争は、グロック3が関与する別の恥ずかしい事件の直後に起こった。マスク氏は以前、このチャットボットを「真実を最大限に追求する」AIと繰り返し表現してきた。しかし、先週、チャットボットはトランプ、マスク、そして副大統領のJDヴァンスを「アメリカに最も害を及ぼす」3人と呼んだ。別の事件で、グロックはトランプが死刑を受けるに値するとさえ示唆した。どちらの応答もxaiエンジニアリングチームによって迅速に修正されました。

チャットボットの行動は、グロックが検閲を行っている他のAIモデルと比較して「エッジの効いた」および「エッジの効いた」代替品であるというマスクの主張と矛盾しているようです。一部のユーザーは、この種の重要な変更を監視なしにどのように実装できるかに疑問を呈します。他の人は、バブシュキン自身がCEOがマスクと悪い関係にある会社であるOpenAIの元従業員であるという皮肉を指摘しています。

現在、Grok 3は、誤った情報拡散者に関する質問に答える際に、マスクとトランプに関する言及を再含めたようです。Grokは、米国でスタンドアロンiPhoneアプリとして利用できます。