Googleは、米国上院で虚偽の情報を得た後、ジェンマの公開アクセスを閉鎖しました

ジャカルタ-Googleは、モデルが虚偽の情報を生成したという申し立てが出た後、AIスタジオプラットフォーム上での公開人工知能(AI)モデルであるジェンマへの一般のアクセスを正式に閉鎖しました。

Googleは公式声明で、ジェンマは実際には開発者や研究者専用のオープンモデルであり、一般の人々や事実の使用のためではないと説明しました。

「当社のAI製品の違いを明確にするために、ジェンマモデルは開発者と研究者のコミュニティのために特別に設計されたオープンなモデルセットです。このモデルは、事実による支援や消費者による使用を意図したものではない」と同社は書いている。

Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you're a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…

— News from Google (@NewsFromGoogle) November 1, 2025

ジェンマはAPIを介して入手でき、開発者ツールであるAI Studio(実際にはそれを使用するには、あなたが開発者であると主張する必要があります)を通じても利用できます。私たちは今、AIスタジオでジェンマを使用しようとしている非開発者の報告を見て、事実上の質問を求めています。私たちはこれを意図したことがありません...

この動きは、以前、米国上院議員のマーシャ・ブラックバーンがGoogleのCEOであるSundar Pichaiに抗議の手紙を送り、ジェンマが彼女について誹謗中傷を生み出したと主張した後にも行われた。

さらに、米国上院商業委員会の公聴会でも議論された手紙の中で、ブラックバーンはジェンマを「物語を作った」と呼び、決して起こらなかった刑事事件に関与していたと述べた。

直接ではないが、Googleは、このような現象はAIの世界では広く知られている問題、すなわちモデルが完全に作り上げられた情報を生成する瞬間である「幻覚」の一部であると回答した。

それにもかかわらず、同社は、モデル全体で幻覚と政治的偏見を最小限に抑えることに引き続きコミットしていることを確認しています。

「私たちは幻覚を最小限に抑え、すべてのモデルを改善し続けることに引き続きコミットしています」と彼は言いました。

ジェンマはAPIを介して開発者のみがアクセスできるようになりましたが、以前は誰でも許可していたAI Studioを介したアクセスは、公衆の虐待や混乱を防ぐために無効になりました。