GoogleのAI概要は問題に満ちています:石を食べるための奇妙なアドバイスを提供する

GoogleのCEO、Sundar Pichaiは、AIオーバービューを立ち上げる際に。(写真:ドキュメント。グーグル)

ジャカルタ - ソーシャルメディアは、ピザに接着剤を入れるようにユーザーに言うことから、石を食べることを提案することまで、奇妙なアドバイスを提供するGoogleの新しい概要AI製品の例で忙しいです。この厄介な展開により、Googleは、ソーシャルメディアに投稿された直後にユーザーがそれらの多くが失われたのを見る理由を説明するミームの数が投稿されるにつれて、特定の検索のためにAviwsを手動で無効にするために競争しています。

Googleが1年間AIオーバービューをテストしており、検索ジェネレーティブエクスペリエンスとして2023年5月にベータ版で開始されたことを考えると、これは奇妙な状況です-そしてGoogleのCEOであるSundar Pichaiは、同社がその間に10億以上のクエリにサービスを提供したと述べました。

しかし、Pichai氏はまた、Googleが「ハードウェア、エンジニアリング、技術的なブレークスルーに牽引されている」AI対応の提供コストを同時に最大80%削減したと述べた。この種の最適化は、技術の準備が整う前に早すぎる可能性があるようです。

「かつて最前線にあり、高品質の商品を配達することで知られていた同社は、ミームとなった低品質の生産で知られるようになりました」と、匿名のままでいることを望んでいたAIの創設者はThe Vergeに語った。

Googleは、その概要AI製品は主にユーザーに「高品質の情報」をもたらすと言い続けています。「私たちが見ている例の多くは珍しいクエリであり、でっち上げや繰り返すことのできない例も見られます」とGoogleの広報担当者Meghann Farnsworth氏は述べています。

Farnsworthはまた、同社が「コンテンツポリシーに準拠している」特定のクエリでOverviewsのAIを削除するために「迅速な措置を講じている」ことを確認し、これらの例を使用して、現在展開されているシステムのより広範な修正を開発しています。

AIの専門家でニューヨーク大学の神経科学研究所の教授であるGary Marcus氏は、多くのAI企業がこのテクノロジーが80%から100%に増加するという「夢を売っている」と述べた。「最初の80%に到達することは、膨大な量の人間データに近づくことを含むため、比較的簡単です」とマーカス氏は述べています。「しかし、最後の20%は非常に困難です。実際、マーカスは、最後の20%はおそらくすべての中で最も難しいことだと考えています。

「これが理にかなっているかどうかを判断するために、実際にいくつかの推論をする必要がありますか?この情報源は合法ですか?人間の事実調査官がしたように、人工知能を必要とするかもしれないことをしなければなりません」とマーカスは言いました。

マーカスとAIメタの責任者であるヤン・ルクンは、GoogleのGeminiやOpenAIのGPT-4など、今日のAIシステムをサポートする大規模な言語モデルがAGIを作成しないことに同意しています。

見てみると、これはGoogleにとって難しい立場です。Bingは、有名なサティヤ・ナデラの「私たちは彼らを踊らせます」という引用で最初にAIを立ち上げ、OpenAIは独自の検索エンジンに取り組んでいると伝えられており、新しいAI検索スタートアップはすでに10億ドル(16兆1000億ルピア)の価値があり、TikTokに切り替えるのに最適な体験だけを望んでいる若い世代のユーザー。

同社は明らかに競争のプレッシャーを感じており、AIの立ち上げを乱雑にしているのはそのプレッシャーです。マーカスは、2022年にメタがギャラクティカと呼ばれるAIシステムをリリースし、とりわけ人々にガラスを食べるように言ったため、発売直後に落とさなければならないと指摘しました。

GoogleはAIオーバービューのための大きな計画を持っています - 同社が先週発表したもののほんの一部にしか存在しない現在の機能。複雑なクエリの多段階配信、AI設定の結果ページを生成する機能、Googleレンズでビデオ検索を行う機能 - ここには多くの野心があります。しかし、現時点では、会社の評判は正しい根拠を得ることにのみ依存しており、それは良く見えません。

「[これらのモデル]は、憲法上、自分の仕事の正当性チェックを実行することができず、それが業界を後ろに乗せるものです」とマーカスは言いました。