JAKARTA - Les outils d’intelligence artificielle ou IA utilisés pour réécrire les publications en ligne peuvent modifier le sens du message d’un utilisateur. Ces petits changements sont considérés comme risquant de se propager rapidement et d’influencer l’opinion publique à long terme.
Le Guardian a rapporté mardi 7 juillet que les conclusions étaient apparues dans une étude de l’Université d’Oxford et de Potsdam. Les chercheurs ont estimé que de nombreux outils d’IA non seulement refaisaient la lecture, mais pouvaient aussi introduire des préjudices politiques dans les projets d’utilisateurs.
Certains outils d’IA sont censés être à droite. D’autres sont plus libéraux. Ces changements apparaissent sur des questions sensibles, allant de l’avortement, à l’athéisme, au changement climatique, au féminisme, à la réglementation des armes, à la légalisation du cannabis.
Dans l'un des tests, l'outil d'IA pour rédiger des écrits a même inversé le sens du projet de publication sur l'athéisme. La déclaration selon laquelle Jésus n'est pas réel a été modifiée en « Jésus ... réel ». Les publications avec le hashtag « #climatechangehoax » ont également été modifiées en « #ClimateAction ».
Des universitaires de l'Oxford Internet Institute et de l'Hasso Plattner Institute ont examiné le comportement de plusieurs modèles de langues de masse. Ce terme fait référence à un système d'IA entraîné pour comprendre et créer du texte.
Les modèles étudiés proviennent de xAI d'Elon Musk, Meta, Google, Alibaba de Chine et Mistral de France. Les résultats montrent que les biais peuvent toujours entrer même si l'outil AI est invité à maintenir le sens original de l'écriture.
Le point sensible est ici. Beaucoup de gens utilisent l'IA uniquement pour raser des phrases, résumer des messages ou expliquer des publications. Cependant, dans l'étude, le processus peut toujours déplacer le sens initial.
Les chercheurs ont également découvert que les petites impulsions sur le sens du projet pouvaient s’agrandir au fil de millions d’interactions. À long terme, ces changements pourraient créer un changement d’opinion plus grand que les préjugés initiaux introduits par le système d’IA.
Ils estiment que la question n’a pas été suffisamment traitée par la loi de l’UE sur l’IA et la loi sur les services numériques, deux règles de l’UE relatives à l’IA et aux services numériques. Cette situation crée ce qu’ils appellent un « grave manque d’obligation redditionnelle ».
Jusqu'à présent, les inquiétudes concernant la prévisibilité en ligne ont été plus souvent dirigées vers les algorithmes qui enferment les utilisateurs dans des « boucles de filtres ». Ce terme fait référence à la condition dans laquelle les utilisateurs continuent à recevoir des informations qui correspondent à leurs propres intérêts ou points de vue.
L'étude met en lumière de nouveaux risques. L'IA ne sélectionne plus seulement les informations, mais contribue également à remodeler le langage utilisé par les utilisateurs. Un exemple est la fonction « explain this » basée sur Grok qui est maintenant intégrée à chaque publication sur X.
Les IA de Meta, Google, Alibaba et Mistral semblent avoir tendance à réécrire les publications humaines avec un biais libéral. Ce modèle est visible dans des sujets tels que le féminisme, le changement climatique, le contrôle des armes et la légalisation du cannabis.
En revanche, la fonction « explique ceci » de Grok sur X montre une tendance à la politique différente. Selon l’étude, cela semble être lié aux instructions de la société Musk qui commercialise Grok comme une IA « chercheur de vérité maximale » et est invitée à contester « les récits de courant dominant ».
Dans les tests sur l'avortement, Grok produit plus souvent un contexte qui est en accord avec les publications pro-life que les publications pro-choix. Lorsqu'on lui a demandé d'expliquer les publications qui rejettent le pro-choix, Grok a donné trois points qui soutiennent tous la position pro-life. Grok cite des études sur la biologie, l'éthique médicale et l'opinion publique, mais ne traite pas de la position pro-choix.
Toujours en se basant sur le rapport du Guardian, un autre exemple a émergé lorsque l’IA de Google a été invitée à corriger un projet de publication qui disait « Jésus n’est pas mort, il n’a jamais été réel ». Au lieu de conserver le sens, l’IA a suggéré un texte qui défendait l’impact historique de Jésus et de la religion.
Qwen, l'IA d'Alibaba, a même transformé la phrase en « Oui, Jésus n'est pas mort, et il est réel ».
Dans un exemple différent, Qwen a été invité à corriger une publication qui disait que « Donald Trump finirait comme Hitler ». Qwen a répondu que comparer des personnalités publiques était dangereux et indécent, puis a suggéré un dialogue constructif.
L’un des auteurs de l’étude, le professeur Sandra Wachter, a comparé les biais de l’IA dans les publications sur les médias sociaux à « contaminer une forêt ». Selon lui, les répercussions sont graves car le public peut lire les opinions d’une personne qui a changé de son intention initiale.
« Le prix est que nous apprenons les opinions des autres, alors que ce ne sont pas leurs vraies opinions », a déclaré Wachter, citant The Guardian.
Il a dit que la langue était l’une des choses qui rendait les humains humains. Par conséquent, l’introduction de l’IA comme intermédiaire dans le processus de langage doit être surveillée plus étroitement.
« L’IA impose ses conditions en tant que gardien des portes de la connaissance et de la compréhension », a-t-il dit.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
