Le Saint-Siège plaide pour une régulation de l’IA fondée sur la dignité humaine

Augustine Asta - Cité du Vatican

En présentant sa première lettre encyclique Magnifica Humanitas, le Pape Léon XIV a souligné «l’engagement du Saint-Siège à participer activement au débat sur l’intelligence artificielle (IA) à la lumière de la dignité inviolable de chaque être humain», a rappelé dans son intervention Mgr Ettore Balestrero, nonce apostolique et observateur permanent du Saint-Siège auprès des Nations unies à Genève. Dans ce sens, a-t-il poursuivi, le premier Dialogue mondial sur la gouvernance de l'IA, qui s’est tenu sur deux jours à Genève (du 6 au 7 juillet), constitue une plateforme visant à «[…] faciliter des discussions ouvertes, transparentes et inclusives sur la gouvernance de l’IA.»

Mgr Ettore Balestrero a donc profité de cette tribune pour saluer l’organisation de cette rencontre destinée à favoriser «des discussions ouvertes, transparentes et inclusives sur la gouvernance de l'IA». Car, a-t-il fait remarquer, «chaque jour qui passe confirme davantage que nous vivons une transformation historique qui touche tous les domaines de la vie.»

Une gouvernance fondée sur la responsabilité humaine

Pour le Saint-Siège, une bonne gouvernance exige une «utilisation responsable de l’IA, sans externalisation ni délégation de la responsabilité à un algorithme.» C’est pourquoi, a-t-il enjoint, tout «choix critique effectué par un système automatisé doit être soumis à un contrôle humain.» Mgr Ettore Balestrero a aussi insisté sur le fait que la «rapidité et l’efficacité» ne doivent jamais servir de «prétextes lorsque le résultat est susceptible d’avoir un impact sur des vies humaines.» Puisque, a-t-il ajouté, si l’IA doit être utilisée pour défendre la dignité humaine et servir véritablement le bien commun, la «responsabilité de son utilisation doit rester entre les mains des décideurs humains, avec une obligation de rendre des comptes à chaque étape.»

Transparence

Face à l'opacité de la «prise de décision automatisée», le Saint-Siège appelle également à renforcer la transparence. La délégation du Vatican estime indispensable que la chaîne des responsabilités soit clairement identifiée, depuis les concepteurs des technologies jusqu'aux utilisateurs finaux, afin de garantir un véritable contrôle tout au long du cycle de vie des systèmes d'IA. Citant encore le Pape Léon XIV, Mgr Balestrero a rappelé que la responsabilité implique la capacité «d'identifier qui doit rendre des comptes sur les décisions, les justifier, les contrôler et, si nécessaire, les remettre en question et réparer tout préjudice causé».

Une coopération internationale face aux géants de la technologie

Le Saint-Siège appelle également à une coopération internationale renforcée pour élaborer des règles communes de gouvernance. Selon Mgr Balestrero, cette coopération doit permettre un discernement partagé entre les États tout en garantissant une responsabilité collective au service du bien commun. L' observateur permanent du Saint-Siège auprès des Nations unies, a enfin exprimé son inquiétude face à la concentration des technologies d'intelligence artificielle entre les mains d'un nombre limité de grandes entreprises, estimant qu'une telle situation pourrait accentuer les risques si elle n'est pas accompagnée de cadres éthiques solides et d'institutions capables d'en assurer le contrôle.

Concluant son intervention, Mgr Balesterro a réaffirmé sa volonté de participer activement aux travaux internationaux sur la gouvernance de l'intelligence artificielle. «La délégation du Saint-Siège, a-t-il dit, vous assure de sa volonté d'engager un dialogue constructif, afin de préserver la dignité de la personne humaine à l'ère de l'IA.»