IA: débat au Vatican sur l'éthique, les médias et l'avenir de l'humanité

Fabio Colagrande – Cité du Vatican

À quelques jours de la célébration de la 60e Journée mondiale des communications sociales et de l’annonce par le Saint-Siège de la création d’une commission interdicastérielle  dédiée à l’intelligence artificielle, alors que le Pape Léon XIV s’apprête à publier le 25 mai sa première encyclique, Magnifica humanitas, consacrée à la protection de la personne humaine à l’ère de l’IA, le Vatican a ouvert ce 21 mai un débat international sur l’une des questions les plus cruciales de notre époque: comment préserver les visages, les voix et la pensée humaine à l’ère des algorithmes.

C'est ce jeudi matin, à l'Université pontificale urbanienne, que s'est ouverte la conférence internationale intitulée «Préserver les voix et les visages humains», organisée par le dicastère pour la communication, en collaboration avec le dicastère pour la Culture et l’Éducation, la Fondation Saint-Jean XXIII et l'Université pontificale elle-même.

Un moment de la première table ronde

Le titre du colloque reprend directement celui choisi par le Pape Léon XIV pour le message de la Journée mondiale des communications sociales, célébrée dimanche dernier dans de nombreux pays du monde. Dans ce texte, le Souverain pontife a présenté le défi de l’intelligence artificielle comme une question avant tout anthropologique, mettant en garde contre le risque que la simulation artificielle des relations, des émotions et même de l’identité personnelle n’altère le tissu même de la vie en société. «La question qui nous tient à cœur n’est pas ce que la machine peut ou pourra faire, mais ce que nous pouvons et pourrons faire», avait écrit le Pape, invitant à construire une relation consciente avec ces outils, fondée sur la responsabilité, la coopération et l’éducation. Dès le début de son pontificat, Benoît XVI a présenté l’intelligence artificielle comme la nouvelle «question sociale», à aborder à la lumière de la doctrine sociale de l’Église, de la dignité du travail et de la justice.

Paolo Ruffini: ne pas déléguer notre réflexion aux machines

C'est Paolo Ruffini, préfet du dicastère pour la Communication, qui a ouvert les travaux; il a d'emblée replacé le colloque dans le contexte du message papal et de la réflexion ecclésiale sur l'innovation technologique. «Garder, lorsqu’il s’agit des personnes, est un mot qui interpelle. Cela ne signifie pas ranger quelque chose dans un tiroir, mais prendre soin avec amour de quelqu’un ou de quelque chose», a affirmé le préfet, expliquant que la garde évoquée par le Pape n’est pas une forme de conservation passive, mais un exercice actif de responsabilité. Paolo Ruffini a ensuite insisté sur le risque d’une délégation progressive de la pensée humaine aux systèmes artificiels, rappelant l’une des préoccupations centrales du message de Léon XIV: «Le plus grand danger consiste à accepter passivement l’idée que la connaissance ne nous appartient plus; et que quelque chose que nous avons nous-mêmes construit – algorithmes, plateformes ou systèmes automatisés – puisse être chargé par nous de penser à notre place».

Le préfet a décrit la transformation actuelle de l'écosystème de l'information comme un défi qui interpelle directement le journalisme, l'éducation et la citoyenneté, soulignant la nécessité de distinguer entre vérité et simulation, entre parole humaine et calcul statistique, entre connaissance et automatisme. «L’économie de la communication ne peut et ne doit pas dissocier son destin du partage de la vérité», a-t-il affirmé, en désignant la transparence des sources, la responsabilité et la qualité de l’information comme des critères indispensables pour redonner une place centrale à la personne.

Cardinal de Mendonça: le visage et la voix ne sont pas des données, mais des lieux de relation

Dans son allocution de bienvenue aux participants, le cardinal José Tolentino de Mendonça, préfet du dicastère pour la Culture et l’Éducation, a replacé le thème dans une réflexion anthropologique et culturelle plus large, en reprenant directement le vocabulaire du message du Pape Léon XIV.  «Le titre qui nous rassemble — Préserver les voix et les visages humains — est un programme, voire une profession de foi en l’humain», a-t-il affirmé. Le cardinal a ensuite rappelé que, dans la tradition classique et chrétienne, le visage et la voix ne sont pas de simples éléments d’identification, mais des expressions profondes de la personne et de la relation. «L’être humain ne peut jamais être réduit à une donnée, à un profil, à un algorithme – a-t-il observé – L’humain est toujours excès, mystère, appel».

Le cardinal a également rappelé les risques liés à la simulation artificielle des relations, évoquant les chatbots émotionnels, les deepfakes et les environnements numériques construits autour du profilage personnalisé, capables d’altérer «la grammaire même de la rencontre humaine». Mais l’accent final a été mis sur la possibilité d’un discernement positif: «Le défi qui nous attend ne consiste pas à freiner l’innovation numérique, mais à la guider», en accord avec l’appel du Pape à construire une alliance critique et responsable avec la technologie.

Un débat international et interdisciplinaire

Cette journée rassemble des personnalités de premier plan issues du monde de l’information, de la recherche et de l’innovation technologique, confirmant ainsi la volonté du Vatican de promouvoir un débat large et véritablement mondial. Sont présents des journalistes de renom, tels que Kashmir Hill du New York Times, connue pour ses enquêtes sur la vie privée, la reconnaissance faciale et la surveillance numérique; des dirigeants du monde de l'information comme Vineet Khosla, directeur technique du Washington Post; des chercheurs en communication politique et en médias numériques; des spécialistes de l'apprentissage automatique et de l'informatique; des experts en éthique algorithmique et en justice sociale; des personnalités engagées dans la gouvernance des plateformes numériques et la vérification de l'authenticité des contenus. Parmi les intervenants figurent également Joy Buolamwini, fondatrice de l’Algorithmic Justice League, voix influente dans la dénonciation des biais dans les systèmes de reconnaissance faciale; Mitchell Baker, cofondatrice du projet Mozilla; Tristan Harris, l’un des critiques les plus connus de l’économie de l’attention; des représentants de l’Unesco, de l’Union européenne de radio-télévision, ainsi que d’universités d’Europe, des Amériques et d’Afrique. La composition des différents panels reflète également une grande diversité géographique, avec une légère prédominance féminine.

Les thèmes du débat

La journée s’articule autour de quatre grands axes, directement inspirés des éléments centraux du message du Pape. Le premier porte sur la relation entre simulation et authenticité, en s’interrogeant sur les chatbots, les relations artificielles, les deepfakes et la transformation de l’écosystème de l’information. Le deuxième aborde la question des inégalités sociales, en se demandant si les modèles d’IA risquent de renforcer les discriminations et les déséquilibres déjà existants. Le troisième examine la possibilité d’une alliance entre l’homme et la technologie, entre innovation, responsabilité et gouvernance. Le quatrième se concentre sur l’éducation, rappelant l’urgence de ne pas renoncer à la capacité de penser de manière critique.