Face aux défis de l’IA, le manifeste de Léon XIV pour un sursaut de l’humain

Delphine Allaire – Cité du Vatican

Préserver les voix et les visages humains. C’est en partant de l’identité incarnée de la personne humaine, caractéristique singulière et «sacrée», que Léon XIV a développé les enjeux anthropologiques sous-jacents à la révolution récente de l’IA, scrutée depuis plusieurs années au Vatican. Après de nombreuses prises de parole sur la technologie numérique, le Pape américain, diplômé en mathématiques et en philosophie, alerte dans ce texte sur le risque d’une modification radicale de certains des piliers fondamentaux de la civilisation humaine, en commençant par le niveau «le plus profond de la communication» qu'est celui de la relation entre les êtres humains. Car «nous ne sommes pas une espèce faite d'algorithmes biochimiques prédéfinis».

L’effondrement cognitif

Léon XIV cible d’abord le système de récompense émotionnelle intrinsèque aux réseaux sociaux alimentés par les algorithmes. Les expressions humaines qui nécessitent plus de temps, comme l'effort de compréhension et la réflexion, en sortent pénalisées. «En enfermant des groupes de personnes dans des bulles de consensus facile et d'indignation facile, ces algorithmes affaiblissent la capacité d'écoute et de pensée critique et augmentent la polarisation sociale», regrette le Pape, vilipendant de surcroît «la confiance naïve et acritique» dans l'intelligence artificielle, lorsqu’elle est considérée comme une «amie» omnisciente, dispensatrice de toutes les informations, archive de toutes les mémoires, «oracle» de tous les conseils. «Tout cela peut encore affaiblir notre capacité à penser de manière analytique et créative, à comprendre les significations, à distinguer la syntaxe de la sémantique», a-t-il ajouté.

Créativité et génie humain, la grande régression

Ainsi, en dépit des nombreuses tâches d’assistance fournie par l’outil IA, se soustraire à l'effort de réflexion, «en se contentant d'une compilation statistique artificielle», risque bien à long terme d'éroder nos capacités cognitives, émotionnelles et communicatives. Léon XIV cite pour preuve le risque de démantèlement des industries créatives par une IA ayant pris le contrôle de la production de textes, de musique et de vidéos. L’homme devenant un simple consommateur passif «de pensées non réfléchies, de produits anonymes, sans paternité, sans amour»; tandis que les chefs-d'œuvre du génie humain dans le domaine de la musique, de l'art et de la littérature sont réduits «à un simple terrain d'entraînement pour les machines». Pour Léon XIV, renoncer au processus créatif et céder nos fonctions mentales et notre imagination aux machines revient aussi à enterrer les talents reçus afin de grandir en tant que personnes dans notre relation avec Dieu et les autres, revient «à cacher notre visage et à faire taire notre voix».

Être ou faire semblant: simulation des relations et de la réalité

Outre ce péril d’affadissement intellectuel, l’évêque de Rome met en garde contre les anthropomorphisations trompeuses des machines, autre terrain de vigilance. Léon XIV vise les «bots» (robots) et autres «influenceurs virtuels» particulièrement efficaces «dans la persuasion occulte», grâce à une optimisation continue de l'interaction personnalisée. «Cette anthropomorphisation, qui peut même être amusante, est en même temps trompeuse, surtout pour les personnes les plus vulnérables», souligne-t-il. «Les chatbots rendus excessivement ‘’affectueux’’, en plus d'être toujours présents et disponibles, peuvent devenir les architectes cachés de nos états émotionnels et ainsi envahir et occuper la sphère intime des personnes.»

Un très illusoire monde de miroirs

Exploitant le besoin humain, la technologie peut aussi nuire au tissu social, culturel et politique des sociétés. Cela se produit lorsque nous remplaçons nos relations avec les autres par des relations avec des IA entraînées à cataloguer nos pensées et donc à construire autour de nous un monde de miroirs, où tout est fait «à notre image et à notre ressemblance», alerte Léon XIV, déplorant cette perte de l'acceptation de l'altérité, sans laquelle il ne peut y avoir ni relation ni amitié.

Un autre défi majeur posé par ces systèmes émergents est celui du biais, qui conduit à acquérir et à transmettre une perception altérée de la réalité. Les modèles d'IA façonnés par la vision du monde de ceux qui les construisent peuvent à leur tour imposer des modes de pensée en reproduisant les stéréotypes et les préjugés présents dans les données qu'ils exploitent. «Le manque de transparence dans la conception des algorithmes, associé à une représentation sociale inadéquate des données, tend à nous piéger dans des réseaux qui manipulent nos pensées et perpétuent et aggravent les inégalités et les injustices sociales existantes», détaille le Pape, pointant un pouvoir de simulation tel, qu’il puisse fabriquer «des réalités parallèles» en s’appropriant nos visages et nos voix. «Une multidimensionnalité» où il devient de plus en plus difficile de distinguer la réalité de la fiction.

À cela s'ajoute le problème du manque de précision. «L'absence de vérification des sources, associée à la crise du journalisme de terrain qui implique un travail continu de collecte et de vérification des informations sur les lieux où les événements se produisent, peut favoriser un terrain encore plus fertile pour la désinformation, provoquant un sentiment croissant de méfiance, de désorientation et d'insécurité», a soulevé Léon XIV, par ailleurs préoccupé par «le contrôle oligopolistique» des systèmes algorithmiques et d'intelligence artificielle.

Transparence et responsabilité sociale du secteur de l’IA

En étant conscients du caractère ambivalent de l’innovation numérique, le Pape appelle à ne pas la freiner mais à la guider selon trois piliers: la responsabilité, la coopération et l'éducation. Pour ceux qui sont à la tête des plateformes en ligne, cela signifie faire preuve de transparence et de responsabilité sociale en ce qui concerne les principes de conception et les systèmes de modération qui sous-tendent leurs algorithmes et les modèles développés, afin de favoriser un consentement éclairé de la part des utilisateurs.

La même responsabilité incombe aux législateurs nationaux et aux régulateurs supranationaux, aux entreprises des médias et de la communication. Léon XIV plaide ainsi pour que les contenus générés ou manipulés par l'IA soient signalés et distingués des contenus créés par des personnes. «La paternité et la propriété souveraine du travail des journalistes et des autres créateurs de contenu doivent être protégées». Et le Pape américain de rappeler que l'information est un bien public: «Un service public constructif et significatif» repose sur «la transparence des sources, l'inclusion des parties prenantes et un niveau de qualité élevé».

Alphabétiser à l’IA

Toutes les parties prenantes –de l'industrie technologique aux législateurs, des entreprises créatives au monde universitaire, des artistes aux journalistes, en passant par les éducateurs– doivent donc être impliquées dans la construction et la mise en œuvre d'une citoyenneté numérique consciente et responsable. C'est l'objectif de l'éducation et pour cette raison le Successeur de Pierre plaide pour l’alphabétisation médiatique et dans le domaine de l’IA à tous les niveaux.

Alors que certaines institutions civiles encouragent déjà cette prise de conscience, Léon XIV interpelle les catholiques sur leur contribution afin que les personnes –en particulier les jeunes– acquièrent la capacité de penser de manière critique et grandissent dans la liberté de l'esprit, mais aussi les personnes âgées et les membres marginalisés de la société.

Protéger son visage et sa voix

Concrètement, il s’agit d’éduquer à utiliser l'IA de manière intentionnelle, et dans ce contexte, de protéger son image (photos et audio), son visage et sa voix, pour éviter fraude numérique, cyberharcèlement, deepfakes, souligne-t-il, livrant les pistes d’approfondissement suivantes: comprendre comment les algorithmes modèlent notre perception de la réalité, comment fonctionnent les préjugés de l'IA, quels sont les mécanismes qui déterminent l'apparition de certains contenus dans nos flux d'informations, quels sont et comment peuvent changer les hypothèses et les modèles économiques de l'économie de l'IA.

«Tout comme la révolution industrielle exigeait une alphabétisation de base pour permettre aux gens de réagir à la nouveauté, la révolution numérique exige également une alphabétisation numérique», assure Léon XIV. Sans oublier son essentiel corollaire, la formation humaniste et culturelle.