Google : Google bloque le système d'accès public à Gemma après avoir recueilli de fausses informations au Sénat américain

Photo : Google

ARTA - Google a officiellement fermé l'accès du public à son modèle ouvert d'intelligence artificielle (IA), Gemma, sur la plate-forme AI Studio après que des allégations surviennent selon lesquelles le modèle génère de fausses informations.

Google a expliqué dans un communiqué officiel que Gemma est en fait un modèle ouvert qui est spécifiquement conçu pour les développeurs et les chercheurs, et non pour le grand public ou une utilisation factuelle.

an : « Pour expliquer les différences entre nos produits d’IA, le modèle Gemma est une série de modèles ouverts spécialement conçus pour la communauté des développeurs et des chercheurs. Ce modèle n’est pas destiné à une assistance factuelle ou à être utilisé par les consommateurs », a écrit l’entreprise.

Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you're a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…

— News from Google (@NewsFromGoogle) November 1, 2025

ma est disponible via un VPN et a également été disponible via AI Studio, qui est un outil de développeur (en fait pour l’utiliser, vous devez prouver que vous êtes promoteur). Nous avons maintenant vu des rapports de non- développeurs tentant d’utiliser Gemma dans AI Studio et lui posant des questions factuelles. Nous n’avons jamais eu pour but de cela...

ar Blackburn, un sénateur américain, avait envoyé une lettre de protestation au PDG de Google, Sundar Pichai, accusant Gemma d'avoir produit des calomnies à son sujet.

Blackburn a déclaré que Gemma avait « écrit une histoire » dans une lettre qui a également été discutée lors d’une session du Comité commercial du Sénat américain, qu’elle avait « écrit une histoire » selon laquelle elle s’était impliquée dans une affaire criminelle sans précédent.

Google a répondu que de tels phénomènes faisant partie d’un problème largement connu dans le monde de l’IA, à savoir la « hallucination », un moment où les modèles génèrent des informations entièrement fabriquées.

an, la société insiste sur le fait qu’elle reste engagée à minimiser les hallucinations et les biais politiques dans tous ses modèles.

« Nous restons engagés à minimiser les hallucinations et continuerons à améliorer tous nos modèles », a-t-il déclaré.

Gemma n’est accessible que par les développeurs via des APIs, tandis que l’accès via AI Studio, qui avait auparavant permis par n’importe qui, a maintenant été désactivé pour prévenir les abus et la confusion du public.