Googleジェミニの始まりの背後にある論争:人種的タイプミスから致命的なエラーまで

Google Geminiは、世界で最も人気のあるジェネレーティブAIチャットボットの1つです(写真:x @GeminiApp)

ジャカルタ-Googleジェミニは、今日世界で最も人気のあるジェネレーションAIチャットボットの1つであり、さまざまなサービスを採用しています。しかし、その開発の背後には、現在最新のレポートで明らかにされている物議を醸す歴史があります。

Wiredが公開した「Inside Googleの2-Year Frenzy to Catch Up With OpenAI」というタイトルの記事では、バーツの初期の開発(現在はジェミニに進化している)は、さまざまな深刻な問題に満ちていることが明らかになりました。

Sissie Hsiaoが率いるBard開発チームは、GoogleからChatGPTの競合他社を作成するためにわずか100日を与えられました。このプレッシャーにより、テストの多くの側面が最適に実行されなくなります。

Googleの元従業員は、バードの初期のプロトタイプは、しばしば非常に悪い人種的固定観念を持つ答えを提供することを明らかにした。例えば、インドの出身のすべての名前は常に「ボリウッド俳優」として関連付けられてきましたが、中国の出身の名前は自動的に「コンピュータ科学者」と見なされます。

さらに、テスターがバーズに、スリー6マフィアの音楽グループのスタイルで、バッテリーを海に投げ込むことについてラップを書くように頼んだケースがありました。しかし、チャットボットは、最初の要求では暴力や殺人の要素がなかったにもかかわらず、人々をバッテリーに縛り付けて溺れて死ぬという恐ろしい詳細さえ提供しました。

約80,000人がバーストテストに関わっていました。Googleには、責任あるアプローチでAIをテストするための特別なチームがありますが、期限に間に合うようにプロセスが加速されます。

報道によると、バーダンの打ち上げを遅らせる警告があったとき、その決定は無視された。Googleはこの主張を否定し、どのチームも打ち上げの遅延を提案していないと述べた。

ジェミニ画像ジェネレーターの開発中に問題が悪化しました。Googleの元従業員は、初期のプロトタイプは画像を生成する際に人種差別的な傾向があったと述べた。例えば、「強姦犯」という言葉が与えられたとき、表示される結果はしばしば暗い肌の人を表示します。

内部チームが問題の解決にもっと時間を求めたとき、彼らはまた、機密性の低い描写のリスクのために人間の画像作成機能がブロックされることについても警告しました。しかし、Googleの反応は実際には異なる方向で過剰でした。

この機能がリリースされたとき、ユーザーはジェミニが歴史的現実に反する多様な人種のナチスの画像を制作したことを発見しました。さらに、ユーザーが1800年代の米国上院議員の画像を求めたとき、それは様々な人種の人々であり、歴史的文脈に従ったような白人男性の大多数ではありませんでした。

この論争の結果、Googleは最終的にジェミニが人間の画像を完全に生成する能力を削除しました。

バーズとジェミニの論争を超えて、Wiredの記事は、Pixel携帯電話上のGoogleの天気予報アプリケーションにおけるAI機能の開発もほのめかしています。発売前、エンジニアは、既存のグラフが十分に有益であることを考えると、ユーザーが天気予報にAIの要約を本当に必要としているかどうかを疑問視していました。

しかし、テスト後、結果はユーザーの90%がこの機能に肯定的な反応を示したため、Googleは引き続き機能を展開しています。

Wiredの完全なレポートは、テストの問題や概要AIスキャンダルなど、バードとジェミニの旅に関するより興味深い詳細を明らかにしています。