Zürcher Nachrichten - Le pape lance un puissant appel à "désarmer" l'IA pour "l'empêcher de dominer l'humain"

Ecologie, crise du multilatéralisme, monopoles économiques : dans "Magnifica Humanitas" (Humanité magnifique), un texte de 130 pages à la tonalité profondément sociale, le pape américain répond à une multitude de défis de notre époque en se posant en défenseur de la dignité humaine à l'ère de la révolution numérique.

Dans cette encyclique très attendue - une lettre adressée à l'ensemble des fidèles, fixant une position de référence sur des questions sociales, morales ou théologiques - Léon XIV appelle à dépasser le concept de "guerre juste" invoqué notamment par l'administration américaine de Donald Trump et dénonce la délégation de décisions létales à la technologie.

Signe de l'importance accordée à ce manifeste, le pape participe lui-même à sa présentation lundi matin - une première - aux côtés de hauts responsables du Saint-Siège et d'experts de l'IA, dont le cofondateur de la start-up américaine Anthropic.

L'IA ne pouvant "être considérée comme moralement neutre", il convient de la "désarmer" pour "l'empêcher de dominer l'humain", avance le pape augustinien, qui insiste sur la nécessité d'un code éthique commun sur l'IA ainsi que sur le rôle crucial de l'éducation pour apprendre à en maîtriser les risques.

Aujourd'hui, "le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n'appartient pas aux États, mais à de grands acteurs économiques et technologiques" qui "fixent les conditions d'accès, les règles de visibilité et les possibilités de participation", regrette-t-il.

- "Esclavage" -

Selon les Nations unies, l'IA pourrait peser jusqu'à 4.800 milliards de dollars d'ici 2033, soit une multiplication par 25 en une décennie, tout en concentrant ses bénéfices entre les mains d'un nombre limité d'acteurs. En 2025, l'ONU alertait sur un "vide dangereux" en matière de régulation.

Citant Platon, JRR Tolkien, Picasso ou encore Beethoven pour leur contribution à lutter contre la déshumanisation, le pape américain fustige aussi "les nouvelles formes d'esclavage" nées pour extraire les ressources nécessaires à l'utilisation de l'intelligence artificielle (IA) et appelle à "des solutions technologiques plus durables afin de réduire l'impact sur l'environnement".

"Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s'interrompe pas", dénonce-t-il.

L'évêque de Rome en profite pour demander "sincèrement pardon" pour le retard avec lequel l'Église a condamné "le fléau de l'esclavage" au cours de l'Histoire.

Au-delà des enjeux technologiques, le pape s'inquiète d'un risque de "déshumanisation", mettant en garde contre une vision de l'humain réduit à ses performances ou à des données exploitées par les machines.

Depuis son élection il y a un an, le premier pape nord-américain de l'Histoire a multiplié les avertissements face aux dangers de l'IA, en soulignant la nécessité d'une "alphabétisation numérique".

Les experts estiment que l'impact de "Magnifica Humanitas" pourrait être comparable à celui de l'encyclique Laudato Si', manifeste du pape François sur l'écologie intégrale qui avait, dès sa publication en 2015, entraîné une vague de réactions dans le monde.

- Crise du multilatéralisme -

Abordant la crise du multilatéralisme, le chef de l'Eglise catholique renouvelle sa condamnation de l'utilisation de l'IA dans le domaine militaire. "Aucun algorithme ne peut rendre la guerre moralement acceptable", écrit-il.

Sans citer aucun nom, il réaffirme "le dépassement de la théorie de la +guerre juste+ trop souvent invoquée pour justifier n'importe quelle guerre", un concept défendu notamment par l'administration américaine de Donald Trump, regrettant que "l'humanité (soit) en train de glisser vers une culture violente de la puissance" qui normalise la guerre comme un "instrument de politique internationale".

En avril, le pape s'était attiré les critiques de la Maison Blanche après avoir affirmé que "Dieu n'entend pas les prières de ceux qui font la guerre", dans le contexte des tensions liées au conflit avec l'Iran.

Ce manifeste s'inscrit dans la continuité de l'enseignement social de l'Eglise: il a été signé le 15 mai, date du 135e anniversaire de Rerum Novarum (1891), encyclique de Léon XIII qui a posé les fondements de la doctrine sociale de l'Eglise face à la révolution industrielle.

"Humanité magnifique" parachève plusieurs années de réflexion par l'Eglise sur les technologies liées à l'IA: dès 2020, le Saint-Siège avait lancé, avec des entreprises du numérique et des institutions académiques, l'"Appel de Rome pour une éthique de l'IA", plaidant pour un développement des technologies respectueux de la dignité humaine.

O.Pereira--NZN