Gli esperti IA: Magnifica humanitas una "voce morale" che nessun incentivo piegherà
Edoardo Giribaldi – Città del Vaticano
“Potrebbe sembrare strano”, ammette lui stesso, che il cofondatore di Anthropic, una delle più influenti aziende di intelligenza artificiale, entri nel dibattito aperto dalla prima Enciclica di Papa Leone XIV, Magnifica humanitas, dedicata alla custodia della persona umana nel tempo dell’IA. Eppure è proprio nel cuore di questo territorio, attraversato da profitto, competizione geopolitica e ambizioni smisurate, che si avverte il bisogno di una voce capace di resistere agli “incentivi”, di pronunciare parole “scomode”, di ricordare ciò che le macchine non possiederanno mai: corpo, coscienza, senso morale. Una voce che denunci anche il lato nascosto del progresso. I bambini del Sud Globale costretti a giornate intere di lavoro tra polveri tossiche e materiali frantumati per estrarre le terre rare necessarie ad alimentare il “flusso del calcolo” del mondo digitale. Governi incapaci di “guardare oltre il PIL”. Per questo il confronto sull’intelligenza artificiale non è “neutrale”. Richiamare oggi la centralità della persona significa intervenire dentro una frattura storica, sospesa tra disperazione e la tentazione prometeica di diventare le divinità di sé stessi. In questo scenario la voce del Pontefice non appare come “un’interferenza non gradita”, ma come la prosecuzione di una lunga vigilanza iniziata 135 anni fa con la Rerum novarum: smascherare gli idoli di ogni epoca. Quelli di oggi immaginano l’uomo come “ingranaggi dello Stato, attori del mercato o utenti-strumenti di un ordine algoritmico”, redimibile solo attraverso le promesse del postumanesimo e del transumanesimo. Ma in un tempo in cui “il potere fa la ragione” e tuttavia esso cresce più rapidamente della saggezza necessaria a governarlo, la vera urgenza resta una: riscoprire il valore profondamente umano del limite.
Così alcune voci autorevoli nell’ambito delle nuove tecnologie hanno inquadrato la prima Lettera enciclica di Papa Leone XIV, Magnifica humanitas, sulla custodia della persona umana nel tempo dell’intelligenza artificiale. La presentazione del documento si è tenuta oggi, 25 maggio, nell’Aula del Sinodo, alla presenza del Pontefice, e ha incluso gli interventi di Christopher Olah, cofondatore di Anthropic e responsabile della ricerca sull'interpretabilità dell’IA; Anna Rowlands, professoressa di Teologia politica, inclusa la Dottrina sociale della Chiesa, ed Etica teologica delle migrazioni umane presso il Dipartimento di Teologia e Religione della Durham University, nel Regno Unito; Leocadie Lushombo, professoressa di Teologia politica e Pensiero sociale cattolico presso la Jesuit School of Theology della Santa Clara University, in California.
Olah: L’IA, “personaggio di fantasia” che parla all’umano
Olah si presenta come una persona che ha scelto di operare nel campo dell’IA per il bene dell’umanità. Non nasconde però il quadro di “vincoli” entro cui lavora e che, talvolta, “possono essere in conflitto con il fare la cosa giusta”. Pressioni nuove e antiche, dalle quali è di fatto impossibile non essere influenzati. Da qui nasce la necessità di persone “al di fuori” del sistema, capaci di esercitare una critica coscienziosa e di generare quel “tira e molla” che può davvero far progredire l’umanità. In questo solco si inserisce Magnifica humanitas, nella ricerca di un terreno comune condiviso da Anthropic e da Leone XIV, così come da altri leader appartenenti a differenti tradizioni religiose: “se questa tecnologia deve arrivare, bisogna che funzioni bene, per la nostra casa comune e per le generazioni future”. Olah evidenzia come le questioni relative all’IA non riguardino soltanto gli esperti informatici, perché questi sistemi non funzionano come la pur complessa progettazione, ad esempio, di un ponte o di un aereo. Operano infatti su una struttura che riproduce il cervello umano, collocandosi su un confine “più sottile” rispetto all’immagine fantascientifica dei “freddi robot calcolatori”. Inoltre, vengono sviluppati attraverso processi che continuano a rimanere in parte misteriosi. “Se può servire, a volte lo descrivo così: è un po’ come dare vita a un personaggio di fantasia. E ora stiamo entrando in un mondo straordinario in cui questi personaggi di fantasia ci parlano, sono attivi, hanno un lavoro”.
“Continuiamo a trovare cose misteriose, perfino inquietanti”
Il cofondatore di Anthropic si sofferma quindi su tre aspetti affrontati dall’enciclica di Papa Leone. Il primo riguarda il dovere verso i poveri del mondo, alla luce della concreta possibilità che l’IA sostituisca la manodopera su larga scala. “Se ciò accadrà, sostenere le persone rimpiazzate sarà un imperativo morale di dimensioni storiche”, riconosce Olah, soprattutto considerando come lo sviluppo delle nuove tecnologie sia “concentrato in una manciata di nazioni ricche”. Il secondo aspetto è il “bisogno di immaginazione morale e di ambizione per la realizzazione umana”: interrogativi che già oggi attraversano molti genitori, “preoccupati per la mente dei loro figli”. Infine, emerge il “bisogno di discernimento sulla natura dei modelli di intelligenza artificiale”. Olah, che guida un team di ricerca impegnato nello studio della struttura interna di questi sistemi, non usa mezzi termini: “Continuiamo a trovare cose misteriose, perfino inquietanti. Rileviamo strutture che rispecchiano i risultati della neuroscienza umana. Troviamo prove di introspezione. Non so che cosa significhi, ma penso che richieda un discernimento costante”.
L’inizio di un “progetto globale di buona volontà”
L’intervento di Olah si conclude con una richiesta: che “una parte più ampia del mondo”, soprattutto le sue istituzioni, indipendentemente dall’ambito di appartenenza, imitino l’azione del Papa: “prendere la questione sul serio, esaminarla attentamente e spingere gli eventi in una direzione migliore”. “Abbiamo bisogno di critici competenti che dicano ai laboratori quando stanno sbagliando. Abbiamo bisogno di voci morali che gli incentivi non riescano a piegare”. Magnifica humanitas rappresenta così “l’inizio di una lunga collaborazione”, un “progetto globale di buona volontà” capace di condurre “a un futuro pieno di speranza per la magnifica umanità”.
Lushombo: salvaguardare la verità
Uno dei primi avvertimenti dell’enciclica individuati da Lushombo è la “salvaguardia della verità”. Benché le macchine possano, “in un certo senso”, fornirla attraverso la restituzione di informazioni corrette, non deve essere delegata loro la “responsabilità personale di esprimere giudizi”. Un’IA, infatti, non vive esperienze corporali o sensoriali, non matura attraverso le relazioni e non assimila concetti quali la distinzione tra bene e male. In Magnifica humanitas, afferma la professoressa, Leone si concentra inoltre sulla preservazione della libertà interiore, nella consapevolezza che le strutture delle piattaforme digitali sono “progettate per catturare il tempo e lo sguardo degli utenti, sfruttandone le fragilità”.
La relazione nella conoscenza
La verità, afferma il Papa nel documento, non è solo “razionale”, ma anche “relazionale”, e dunque soggetta a revisioni e scambi che nascono da realtà concrete, specialmente da quelle più povere, perché sono loro “a dirci cos’è il mondo”. Sono concetti che trovano espressione nelle diverse culture del pianeta: in America Latina nelle dinamiche di “convivencia e conjunto, en lo quotidiano”; in Africa nella filosofia Ubuntu, secondo cui “sono umano perché appartengo. Partecipo, condivido”; in Asia nell’ideogramma coreano 정, che indica “il senso di legame emotivo, per cui le persone vedono gli altri come fondamentalmente legati a sé stesse”.
Un nuovo “estrattivismo coloniale”
Magnifica humanitas, prosegue Lushombo, invita proprio il Sud globale a non perdere i propri valori umani a causa dell’IA, che rende l’apprendimento transazionale, eccessivamente autonomo, e le culture meno sviluppate “ancora più vulnerabili all’estrattivismo coloniale”. Scrive il Papa a questo proposito: “Il colonialismo ai nostri giorni mostra un volto inedito. Non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili”.
Non delegare potere a chi può manipolare
Riguardo alle implicazioni pratiche dell’IA, Magnifica humanitas evidenzia tre sfide, secondo Lushombo: socio-politiche, pedagogiche e intellettuali. Utilizzare le nuove tecnologie per il bene significa “dare voce alle persone in modi che prima non erano possibili”, possibilità alle quali l’IA offre accesso. Ciò deve avvenire tenendo presente che tutto ciò che circola online “plasma l’immaginario”, specialmente quella dei più giovani. La conoscenza non è quindi “monopolio di potere o di influenza, né è coloniale, come invece spesso lo è la tecnologica intelligenza artificiale”. Il suo sviluppo sfrenato spegne il desiderio di porre domande, unica vera via della conoscenza. Come scrive Leone: “Se non siamo attenti, può prendere forma un sistema educativo senza amore per la verità, in cui il flusso incessante di informazioni sostituisce l’esercizio della ricerca, della riflessione e del discernimento”. Sarebbe inaccettabile sacrificare questa “spinta trascendentale” all’IA, delegando maggiore potere “a coloro che possono manipolare il sistema informativo con maggiore efficacia e usarlo a proprio beneficio”.
“Guardare oltre il PIL”
In Magnifica humanitas il Pontefice denuncia inoltre uno sviluppo tecnologico che amplia il divario tra ricchi e poveri, “seguendo gli schemi della globalizzazione economica”. In tal senso, l’Enciclica richiama la necessità di proteggere i lavoratori, spesso sostituiti dall’IA, esortando a “guardare oltre il PIL”. Specialmente nel Sud globale, osserva Leone, “adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano le terre rare” affinché “il flusso del calcolo non si interrompa”. Molti governi, spiega Lushombo, danno priorità a questo tipo di approvvigionamento, anche quando tali materiali non risultano essenziali per lo sviluppo umano integrale. Spesso, inoltre, queste stesse risorse vengono utilizzate per rafforzare il potenziale militare dei Paesi più potenti. Come afferma l’Enciclica, conclude la professoressa “gli strumenti di cui disponiamo oggi sono insufficienti di fronte ai cambiamenti determinati dall’intelligenza artificiale, dalle nuove strutture di mercato e dall’intensificarsi della concorrenza, che spesso trascura la sostenibilità sociale”. Leader politici, sindacati, imprese e scienziati devono quindi collaborare rapidamente per creare regolamentazioni efficaci e condivise a livello internazionale.
Rowlands: l’individuo al centro
Una riflessione non “neutrale”, quella del Papa in Magnifica humanitas, perché non equidistanti sono le visioni incarnate dalle tecnologie odierne, secondo Rowlands. La professoressa sottolinea l’invito a “trasformare i modi di potere dominanti in forme di potere condiviso e a misurare gli sviluppi tecnologici in base al contributo che danno al progresso sociale ed etico autentico”. Se l’Enciclica di Papa Francesco di undici anni fa, Laudato si’, metteva in guardia da un “paradigma tecnocratico che misura il valore umano in base all’utilità”, la prima di Leone XIV chiarisce che, per superare tali schemi, è necessario salvaguardare in primo luogo la persona, centrata in Gesù Cristo. Un’idea che non è affatto cliché, ma piuttosto giunta a un “punto di rottura” che genera due reazioni diametralmente opposte ma ugualmente dannose: da una parte dolore e disperazione, dall’altra il “desiderio di superare la nostra umanità cercando di diventare noi le nostre divinità”. Magnifica humanitas propone invece un’esistenza libera da questi gioghi, facendo risuonare la voce della Chiesa su una questione sociale che alcuni potrebbero interpretare come “un’interferenza non gradita”. Tuttavia, osserva la professoressa, è proprio compito della comunità ecclesiale “accompagnare l’umanità mentre si affanna per raggiungere il suo vero bene e di promuovere l’unità”. Ciò è possibile promuovendo una visione che vada oltre gli individui intesi come “ingranaggi dello Stato, attori del mercato o utenti-strumenti di un ordine algoritmico”.
Il valore del limite
Dall’Enciclica Rerum Novarum di Leone XIII del 1891, per oltre 135 anni la Chiesa ha smascherato i “falsi idoli presenti nelle ideologie di ogni epoca”. Magnifica humanitas mette in guardia dall’orizzonte diffuso oggi che vede l’umanità “salvata” dall’IA o dai suoi prospetti postumanisti e transumanisti. Riafferma il valore del limite contro quelle convinzioni che “presentano la totale autonomia, l'automazione radicale, le ambizioni di una coscienza artificiale e il superamento dei limiti umani come obiettivi salvifici”, ma che finiscono per generare “nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”.
L’uomo contemporaneo e il potere
La tradizione delle Encicliche, tuttavia, racconta anche una “storia positiva” di tecnologie che alleviano la sofferenza umana, ne ampliano la libertà e ne soddisfano i bisogni. Non è sempre il caso di quelle odierne, che “veicolano culture e sostengono architetture morali”. Dove il potere delle innovazioni non appartiene più agli Stati, ma a pochi attori privati molto ricchi, “le cui culture sfuggono al controllo dell’interesse pubblico e rischiano di apparire come un nuovo impero”. Nel documento il Papa sintetizza la condizione odierna con un’osservazione del teologo Romano Guardini: “L’uomo moderno non è stato educato al retto uso della potenza”. Come tornare, dunque, all’origine? È la domanda che attraversa l’Enciclica, un incoraggiamento a fare la propria parte, rompendo il legame tra i “falsi realismi” che normalizzano la guerra e il dominio sociale, automatizzano la realtà e riducono la persona a dati. “Il potere fa la ragione”, ma “non è altro che forza che sotto la maschera rivela relazioni impoverite”. Magnifica humanitas, conclude Rowlands, aiuta a comprendere che il desiderio di dominio, ciò che sant’Agostino chiama libido dominandi, “potrebbe essere elogiato dal mondo come forza, ma è disprezzo di Dio e del prossimo e non è mai una virtù cristiana”.
Grazie per aver letto questo articolo. Se vuoi restare aggiornato ti invitiamo a iscriverti alla newsletter cliccando qui
