Le pape Leo: Sentil géant de la technologie: l'IA ne doit pas dominer l'homme

JAKARTA - Le pape Léon a prévéu que le développement de l’intelligence artificielle ne devait pas être laissé se développer uniquement en fonction des ambitions de pouvoir, d’affaires et de la course aux technologies. Il a demandé à l’IA de se soumettre à des règles éthiques strictes, en particulier lorsqu’elle commence à entrer dans le monde du travail, des données, jusqu’à la guerre.

Citée par The Guardian, mardi 26 mai, l’avertissement a été donné par le pape Leo dans son premier encyclique sur la protection de l’humain, Magnifica Humanitas ou Grande Humanité.

L'encyclique est un document important contenant les enseignements du pape aux catholiques. Habituellement, ce document indique la direction générale du leadership d'un pape dans la vision des problèmes du monde.

Dans ce document, le pape Léon a critiqué la « culture du pouvoir » qui a contribué au développement rapide de l’IA. Il estime que la technologie doit être contrôlée afin de ne pas éroder la dignité humaine.

« Le développement et l’utilisation de l’IA dans la guerre doit être soumis aux restrictions éthiques les plus strictes », a écrit le pape Léon.

Il a également appelé à une « dénucléarisation » de l’IA. Ce n’est pas un rejet de la technologie, mais plutôt une libération de l’IA de la façon de penser qui en fait un outil de compétition armée.

« Le déracinement ne signifie pas rejeter la technologie, mais empêcher la technologie de dominer l’homme », a-t-il écrit.

Le pape Léon a mis en lumière l'utilisation de l'IA dans la guerre. Selon lui, certaines des armes autonomes sont maintenant presque hors de portée de l'homme pour être contrôlées. Il a prévenu que l'IA pourrait rendre la guerre plus normale en tant qu'outil de politique internationale.

Le pape a également fait allusion au pouvoir considérable des entreprises technologiques. Il a dit que le contrôle des systèmes numériques, des infrastructures et des données n'est plus seulement entre les mains des États, mais également entre les mains des grands acteurs économiques et technologiques.

Si le pouvoir est concentré entre les mains d'un petit nombre de personnes, a-t-il dit, les risques d'inégalité, de manipulation, de nouvelles dépendances et d'exclusion sociale peuvent s'aggraver.

La déclaration a été lue comme un message fort pour la Silicon Valley, le centre de l’industrie technologique des États-Unis. Lors d’un événement au Vatican, Christopher Olah, l’un des fondateurs d’Anthropic, une entreprise américaine d’IA, était également présent.

Olah a dit que le développement de l’IA ne pouvait pas être confié uniquement aux entreprises technologiques. Selon lui, les dirigeants religieux, les gouvernements et la société civile doivent également surveiller.

Il a rappelé qu'il y avait une «réalité potentielle» que l'IA remplacérait le travail humain à une échelle massive. Si cela se produisait, aider les travailleurs qui seraient réplacés serait une grande obligation morale.

En plus de l'IA, le pape Léon a également présenté ses excuses pour la lenteur de l'Église catholique à condamner l'esclavage. Il a qualifié l'esclavage de « blessure dans la mémoire chrétienne ».

« Au nom de l'Église, je demande sincèrement pardon », a écrit le pape Léon.

Le Guardian a noté que plusieurs papes avaient auparavant présenté des excuses pour la participation des chrétiens au commerce transatlantique des esclaves. Cependant, le pape Léon est allé plus loin en s’offusquant du rôle des papes eux-mêmes dans l’autorisation des dirigeants européens de conquérir et d’esclaver les « peuple infidèles ».

Le Vatican a activement discuté de l’IA avec de grandes entreprises technologiques au cours des dernières années, notamment Microsoft et Google. Le pape Léon a dit que l’Église catholique voulait dialoguer avec les développeurs d’IA afin que la technologie soit utilisée correctement.

Christopher White, auteur du livre Pope Leo XIV: Inside the Conclave and the Dawn of a New Papacy, estime que le pape Léon veut placer l'Église dans un dialogue sérieux avec les géants de la technologie.

Selon White, le pape ne prétend pas que l'Église ait toutes les réponses sur la réglementation de l'IA. Cependant, il a insisté sur le fait que le développement de l'IA ne devait pas être laissé comme un territoire sauvage sans surveillance.

Christine Allen, directrice générale de l'organisme d'aide catholique Cafod, a déclaré que le message du pape confirmait la dignité humaine. Selon lui, l'homme n'est pas seulement un outil de production, mais un être vivant avec un compas moral.

Le pape Léon a insisté sur le fait que l’IA doit rester sous le contrôle de l’homme, être ouverte à la surveillance et ne pas être utilisée pour accentuer les inégalités, la manipulation ou la souffrance.