Experts en IA, ils voient en Magnifica humanitas, une voix morale libre de toute pression
Edoardo Giribaldi – Cité du Vatican
Il le reconnaît lui-même, «cela peut paraître étrange» que le cofondateur canadien d’Anthropic, l’une des entreprises les plus influentes dans le domaine de l’intelligence artificielle, intervienne lors de la présentation de la première encyclique du Pape Leon XIV, Magnifica humanitas, consacrée à la protection de la personne humaine à l’ère de l’intelligence artificielle. Et pourtant, c’est précisément au cœur de ce domaine, traversé par le profit, la concurrence géopolitique et des ambitions démesurées, que l’on ressent le besoin d’une voix capable de résister aux «incitations», de prononcer des mots «dérangeants», de rappeler ce que les machines ne posséderont jamais: un corps, une conscience, un sens moral. Une voix qui dénonce aussi la face cachée du progrès. Les enfants du Sud global sont contraints à des journées entières de travail au milieu de poussières toxiques et de matériaux broyés pour extraire les terres rares nécessaires à alimenter le «flux de calcul» du monde numérique, rapporte l’universitaire congolaise Leocadie Lushombo. C’est pourquoi le débat sur l’intelligence artificielle n’est pas «neutre». Rappeler aujourd’hui la centralité de la personne, revient à intervenir au cœur d’une fracture historique, suspendue entre le désespoir et la tentation prométhéenne de se prendre pour des divinités. Dans ce contexte, la voix du Souverain pontife n’apparaît pas comme «une ingérence importune», mais comme la poursuite d’une longue vigilance commencée il y a 135 ans avec Rerum novarum: démasquer les idoles de chaque époque. Celles d’aujourd’hui imaginent l’homme comme «des rouages de l’État, des acteurs du marché ou des utilisateurs-instruments d’un ordre algorithmique», ne pouvant être racheté que par les promesses du posthumanisme et du transhumanisme, explique la théologienne Anna Rowlands. Mais à une époque où «le pouvoir fait la raison» et où il croît plus rapidement que la sagesse nécessaire pour le gouverner, la véritable urgence est de redécouvrir la valeur profondément humaine de la limite.
C'est en substance le message des experts qui ont présenté aux côtés du Pape sa première encyclique, ce 25 mai dans la Salle du Synode. Ce lundi, Christopher Olah, cofondateur d’Anthropic et responsable de la recherche sur l’interprétabilité de l’IA, s’est exprimé, suivi d’Anna Rowlands, professeure de théologie politique, y compris la doctrine sociale de l’Église, et d’éthique théologique des migrations humaines au département de théologie et de religion de l’université de Durham, au Royaume-Uni, avant enfin Leocadie Lushombo, professeure de théologie politique et de pensée sociale catholique à la Jesuit School of Theology de l’université de Santa Clara, en Californie.
Christopher Olah: l’IA, un «personnage fictif» qui s’adresse à l’humain
Christopher Olah se présente comme une personne ayant choisi d’œuvrer dans le domaine de l’IA pour le bien de l’humanité. Il ne cache pas toutefois les «contraintes» dans lequel il travaille et qui, parfois, «peuvent entrer en conflit avec le fait de faire ce qui est juste». Des pressions nouvelles et anciennes, dont il est impossible de se défaire totalement, reconnait-il. D’où la nécessité de personnes «hors» système, capables d’exercer une critique consciencieuse et de générer ce «bras de fer» qui peut véritablement faire progresser l’humanité. C’est dans cette veine que s’inscrit Magnifica humanitas, à la recherche d’un terrain d’entente partagé par Anthropic et Léon XIV, ainsi que par d’autres leaders appartenant à différentes traditions religieuses: «si cette technologie doit voir le jour, il faut qu’elle fonctionne bien, pour notre maison commune et pour les générations futures». Christopher Olah souligne que les questions relatives à l’IA ne concernent pas uniquement les experts en informatique, car ces systèmes ne fonctionnent pas comme la conception, pourtant complexe, d’un pont ou d’un avion, par exemple. Ils opèrent en effet sur une structure qui reproduit le cerveau humain, se situant sur une frontière «plus subtile» que l’image de science-fiction des «robots calculateurs froids». De plus, ils sont développés à travers des processus qui restent en partie mystérieux. «Si cela peut aider, je le décris parfois ainsi: c’est un peu comme donner vie à un personnage de fiction». «Et nous entrons aujourd’hui dans un monde extraordinaire où ces personnages de fiction nous parlent, sont actifs, ont un travail.»
«Nous continuons à découvrir des choses mystérieuses, voire inquiétantes»
Le cofondateur d’Anthropic s’attarde ensuite sur trois aspects abordés par l’encyclique du Pape Léon XIV. Le premier concerne le devoir envers les pauvres du monde, à la lumière de la possibilité concrète que l’IA remplace la main-d’œuvre à grande échelle. «Si cela se produit, soutenir les personnes remplacées sera un impératif moral d’une ampleur historique», reconnaît Christopher Olah, surtout si l’on considère que le développement des nouvelles technologies est «concentré dans une poignée de pays riches». Le deuxième aspect est le «besoin d’imagination morale et d’ambition pour l’épanouissement humain»: des questions qui préoccupent déjà aujourd’hui de nombreux parents, «inquiets pour l’esprit de leurs enfants». Enfin, il ressort le «besoin de discernement sur la nature des modèles d’intelligence artificielle». Christopher Olah, qui dirige une équipe de recherche engagée dans l’étude de la structure interne de ces systèmes, ne mâche pas ses mots: «Nous continuons à découvrir des choses mystérieuses, voire inquiétantes. Nous détectons des structures qui reflètent les résultats des neurosciences humaines. Nous trouvons des preuves d’introspection. Je ne sais pas ce que cela signifie, mais je pense que cela exige un discernement constant».
Le début d’un «projet mondial de bonne volonté»
L’intervention de Christopher Olah se termine par un appel: qu’«une plus grande partie du monde», en particulier ses institutions, quel que soit leur domaine d’activité, imitent l’exemple du Pape: «prendre la question au sérieux, l’examiner attentivement et faire évoluer les choses dans une meilleure direction». «Nous avons besoin de critiques compétents qui signalent aux laboratoires leurs erreurs. Nous avons besoin de voix morales que les incitations ne parviennent pas à faire plier». Magnifica humanitas représente ainsi «le début d’une longue collaboration», un «projet mondial de bonne volonté» capable de mener «vers un avenir plein d’espoir pour la magnifique humanité».
Leocadie Lushombo: préserver la vérité
L'un des premiers messages de l'encyclique mis en évidence par Leocadie Lushombo est la «sauvegarde de la vérité». Bien que les machines puissent, «dans un certain sens», la fournir en restituant des informations correctes, il ne faut pas leur déléguer la «responsabilité personnelle d’émettre des jugements». En effet, une IA ne vit pas d’expériences corporelles ou sensorielles, ne mûrit pas à travers les relations et n’assimile pas des concepts tels que la distinction entre le bien et le mal. Dans Magnifica humanitas, affirme la professeure, Léon XIV se concentre également sur la préservation de la liberté intérieure, conscient que les structures des plateformes numériques sont «conçues pour capter le temps et le regard des utilisateurs, en exploitant leurs fragilités».
La relation dans la connaissance
La vérité, affirme le Pape dans ce document, n’est pas seulement «rationnelle», mais aussi «relationnelle», et donc sujette à des révisions et à des échanges qui naissent de réalités concrètes, en particulier des plus pauvres, car ce sont ces réalités «qui nous disent ce qu’est le monde». Ce sont des concepts qui trouvent leur expression dans les différentes cultures de la planète: en Amérique latine, dans les dynamiques de «convivencia e conjunto, en el cotidiano» (ndlr, «vivre ensemle au quotidien») ; en Afrique, dans la philosophie Ubuntu, selon laquelle «je suis humain parce que j’appartiens. Je participe, je partage» ; en Asie, dans l’idéogramme coréen 정, qui désigne «le sentiment de lien émotionnel, par lequel les personnes voient les autres comme fondamentalement liés à elles-mêmes».
Un nouvel «extractivisme colonial»
Magnifica humanitas, poursuit l’universitaire congolaise, invite précisément le Sud global à ne pas perdre ses valeurs humaines à cause de l’IA, qui rend l’apprentissage transactionnel, excessivement autonome, et les cultures moins développées «encore plus vulnérables à l’extractivisme colonial». Le Pape écrit à ce sujet: «Le colonialisme de nos jours montre un visage inédit. Il ne domine pas seulement les corps, mais s’approprie les données, transformant les vies personnelles en informations exploitables».
Ne pas déléguer le pouvoir à ceux qui peuvent le manipuler
En ce qui concerne les implications pratiques de l’IA, Magnifica humanitas met en évidence trois défis, selon Leocadie Lushombo: sociopolitiques, pédagogiques et intellectuels. Utiliser les nouvelles technologies à bon escient signifie «donner la parole aux gens d’une manière qui était auparavant impossible». Cela doit se faire en gardant à l’esprit que tout ce qui circule en ligne «façonne l’imaginaire», en particulier celui des plus jeunes. La connaissance n’est donc pas «un monopole de pouvoir ou d’influence, ni une forme de colonialisme, comme l’est souvent l’intelligence artificielle technologique». Son développement effréné étouffe le désir de poser des questions, seule véritable voie vers la connaissance. Comme l’écrit Léon XIV: «Si nous ne faisons pas attention, un système éducatif dépourvu d’amour pour la vérité peut prendre forme, dans lequel le flux incessant d’informations remplace l’exercice de la recherche, de la réflexion et du discernement». Il serait inacceptable de sacrifier cette «impulsion transcendantale» à l’IA, en déléguant davantage de pouvoir «à ceux qui peuvent manipuler le système d’information avec plus d’efficacité et l’utiliser à leur propre profit».
«Regarder au-delà du PIB»
Dans Magnifica humanitas, le Pape dénonce également un développement technologique qui creuse le fossé entre riches et pauvres, «en suivant les schémas de la mondialisation économique». En ce sens, l’encyclique rappelle la nécessité de protéger les travailleurs, souvent remplacés par l’IA, et exhorte à «regarder au-delà du PIB». En particulier dans les pays du Sud, observe Léon XIV, «des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on extrait les terres rares» afin que «le flux des calculs ne s’interrompe pas». De nombreux gouvernements, explique Leocadie Lushombo, accordent la priorité à ce type d’approvisionnement, même lorsque ces matériaux ne sont pas essentiels au développement humain intégral. Souvent, ces mêmes ressources sont en outre utilisées pour renforcer le potentiel militaire des pays les plus puissants. Comme l’affirme l’encyclique, conclut la professeure, «les outils dont nous disposons aujourd’hui sont insuffisants face aux changements induits par l’intelligence artificielle, les nouvelles structures de marché et l’intensification de la concurrence, qui néglige souvent la durabilité sociale». Les dirigeants politiques, les syndicats, les entreprises et les scientifiques doivent donc collaborer rapidement pour créer des réglementations efficaces et partagées au niveau international.
Anna Rowlands: l’individu au centre
La réflexion du Pape dans Magnifica humanitas n’est pas «neutre», selon Anna Rowlands. La professeure souligne l’invitation à «transformer les modes de pouvoir dominants en formes de pouvoir partagé et à évaluer les développements technologiques en fonction de leur contribution au progrès social et éthique authentique». Si l’encyclique du Pape François d’il y a onze ans, Laudato si’, mettait en garde contre un «paradigme technocratique qui mesure la valeur humaine en fonction de son utilité», la première encyclique de Léon XIV précise que, pour dépasser ces schémas, il faut avant tout préserver la personne, centrée sur Jésus-Christ. Une idée qui n’est en rien un cliché, mais qui a plutôt atteint un «point de rupture» générant deux réactions diamétralement opposées mais tout aussi néfastes: d’une part la douleur et le désespoir, d’autre part le «désir de dépasser notre humanité en cherchant à devenir nous-mêmes nos divinités». Magnifica humanitas propose au contraire une existence libérée de ces jougs, en faisant résonner la voix de l’Église sur une question sociale que certains pourraient interpréter comme «une ingérence importune». Cependant, observe la professeure, c’est précisément le devoir de la communauté ecclésiale «d’accompagner l’humanité dans sa quête de son véritable bien et de promouvoir l’unité».
La valeur de la limite
Depuis l’encyclique Rerum Novarum de Léon XIII en 1891, depuis plus de 135 ans, l’Église a démasqué les «fausses idoles présentes dans les idéologies de chaque époque». Magnifica humanitas met en garde contre la vision répandue aujourd’hui qui voit l’humanité «sauvée» par l’IA ou par ses perspectives post-humanistes et transhumanistes. Elle réaffirme la valeur de la limite face à ces convictions qui «présentent l’autonomie totale, l’automatisation radicale, les ambitions d’une conscience artificielle et le dépassement des limites humaines comme des objectifs salvateurs», mais qui finissent par engendrer «de nouvelles dépendances, des exclusions, des manipulations et des inégalités».
L’homme contemporain et le pouvoir
La tradition des encycliques raconte toutefois aussi une «histoire positive» de technologies qui soulagent la souffrance humaine, élargissent la liberté et répondent aux besoins. Ce n’est pas toujours le cas des technologies d’aujourd’hui, qui «véhiculent des cultures et soutiennent des architectures morales». Là où le pouvoir des innovations n’appartient plus aux États, mais à quelques acteurs privés très riches, «dont les cultures échappent au contrôle de l’intérêt public et risquent d’apparaître comme un nouvel empire». Dans le document, le Pape résume la situation actuelle par une observation du théologien Romano Guardini: «L’homme moderne n’a pas été éduqué à l’usage juste du pouvoir». Comment revenir, donc, à l’origine ? C’est la question qui traverse l’encyclique, un encouragement à faire sa part, en rompant le lien entre les «faux réalismes» qui normalisent la guerre et la domination sociale, automatisent la réalité et réduisent la personne à des données. «Le pouvoir fait la raison», mais «il n’est rien d’autre qu’une force qui, sous son masque, révèle des relations appauvries». Magnifica humanitas, conclut Anna Rowlands, aide à comprendre que le désir de domination, ce que saint Augustin appelle la libido dominandi, «pourrait être loué par le monde comme une force, mais c’est un mépris de Dieu et du prochain et ce n’est jamais une vertu chrétienne».
Merci d'avoir lu cet article. Si vous souhaitez rester informé, inscrivez-vous à la lettre d’information en cliquant ici
