Google testant de nouvelles fonctionnalités sans étiquette AI, ce qui rend difficile aux utilisateurs de faire la différence du contenu artificiel

Google testerait une nouvelle fonctionnalité dans la recherche qui utilise desIA génératifs (photo: x @ikue_21)

JAKARTA - Google testerait une nouvelle fonctionnalité dans la recherche qui utilise l’IA génératif pour présenter un ensemble d’informations pertinentes pour les recherches utilisateur. Cette fonctionnalité est similaire à l’Aie d’ensemble, qui existe déjà, mais avec une différence significative: aucune indication claire que le contenu présenté est généré par l’IA.

Dans le système d’ensemble d’IA actuel, les résumés apparaissant dans les résultats de la recherche sont clairement marqués par le logo Gemini et l’étiquette « L’IA générérative est expérimental ». En outre, il y a un grand bouton avec l’inscription « View More » qui donne aux utilisateurs un accès pour voir plus d’informations générées par l’IA.

Cependant, lors de ce récent essai, le logo Gemini a manqué et le bouton « View More » a été remplacé par un petit lien écrit « Plus ». L’étiquette indiquant que le contenu a été créé par l’IA est toujours là, mais s’est caché derrière d’autres interactions, où l’utilisateur doit taper sur le lien « Plus » pour le voir.

Selon un rapport de Barry Schwartz sur la plate-forme X (auparavant Twitter), cette nouvelle fonctionnalité pourrait remplacer ou compléter le système d’ensemble d’IA. Cependant, la plus grande différence est que cette nouvelle fonctionnalité ne montre plus publiquement que le contenu provenait d’IA. Sans un logo ou un étiquette frappant, les utilisateurs peuvent ne pas réaliser que les informations qu’ils reçoivent sont le résultat d’un processus génératif d’IA.

Auparavant, Google avait été critiqué par la fonctionnalité aperçu d’IA pour avoir généré à plusieurs reprises d’informations imprécises, ce qui pourrait potentiellement nuire aux utilisateurs. Malgré cela, l’étiquette claire sur l’ensemble d’IA a au moins averti les utilisateurs que ces informations proviennent d’IA, afin qu’ils puissent être plus prudents.

Grâce à cette nouvelle fonctionnalité en cours d’essai, des préoccupations ont surgi parce qu’il n’y avait aucun indicateur direct que l’information avait été générée par l’IA, ce qui pourrait causer de plus en plus de confusion et de risques potentiels si les informations soumises avaient été incorrectes.

Google n’a pas encore publié de manière générale cette fonctionnalité et est encore en phase d’essai limité. Cependant, de nombreuses parties espèrent que le géant de la technologie réalisera bientôt le problème potentiel causé et revistera la décision. Si cette fonctionnalité se poursuivra, on s’attend à ce que Google donne un signal plus clair que le contenu présenté est généré par l’IA, pour la transparence et la sécurité des utilisateurs.