Quattrociocchi: la “Magnifica humanitas” invita a non delegare il giudizio
Fabio Colagrande – Città del Vaticano
“(…) le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione (…)”. Queste parole di Papa Leone XIV al numero 99 della Magnifica humanitas rappresentano, secondo Walter Quattrociocchi, uno dei punti più significativi della prima Enciclica dedicata all’intelligenza artificiale. In un’intervista ai media vaticani, il professore ordinario di Informatica alla Sapienza Università di Roma e direttore del Center of Data Science and Complexity for Society, sottolinea come il documento pontificio contribuisca a spostare il dibattito pubblico su un piano più profondo.
Oltre il dibattito tra entusiasmo e paura
Secondo Quattrociocchi, l’enciclica “sposta la lancetta della discussione, che oscilla tra entusiasmo ingenuo e catastrofismo”, affrontando la questione da una prospettiva metodologica ed epistemica, invitando cioè a riflettere su cosa sia la conoscenza, come si formi, quali siano i suoi limiti. Il punto decisivo, osserva, non è stabilire se le macchine pensino oppure no, ma comprendere “quanto queste tecnologie stiano trasformando le condizioni e i criteri attraverso cui una società costruisce conoscenza, giudizio e verità e anche le relazioni”. A suo avviso, il testo di Leone XIV è particolarmente lucido nel riconoscere che la sfida non è soltanto tecnica o antropologica, ma riguarda il processo stesso di apprendimento. “Oggi - spiega - la plausibilità linguistica, quella che viene ottimizzata dai Large Language Models, si interfaccia, interconnette e diventa quasi indivisibile dalla responsabilità del giudizio umano”.
La simulazione del giudizio
Uno degli equivoci più diffusi consiste infatti nel confondere la qualità dell’output di un chatbot con la natura del processo che lo genera. “Noi vediamo il linguaggio e siamo immediatamente portati a pensare che sia stato prodotto da qualcosa che ragiona in maniera analoga a noi, ma questo non è affatto vero”. I modelli linguistici, spiega, producono testi coerenti e convincenti attraverso correlazioni statistiche, senza avere esperienza del mondo né capacità di verificare le informazioni. Richiamando una ricerca del suo gruppo di lavoro, intitolata ‘La simulazione del giudizio’, Quattrociocchi afferma che per compiti complessi questi sistemi non sono in grado di produrre valutazioni realmente affidabili. “Non abbiamo un giudizio, ma una simulazione del giudizio, non abbiamo un’interazione, abbiamo una simulazione dell’interazione”. La differenza è sostanziale: l’essere umano opera in un contesto normativo, sa riconoscere l’errore e interrogarsi sulle proprie decisioni; i modelli linguistici, invece, si muovono nell’ambito della “mera approssimazione statistica delle parole”.
Quando la plausibilità sostituisce la verifica
Per il docente e ricercatore della Sapienza, il rischio principale non è tanto l’allucinazione dell’algoritmo, quanto la sua invisibilità. “Il rischio, più che quando emerge l’errore della macchina, è quando non emerge”. “Il punto critico - spiega - è una società che sostituisce progressivamente la verifica con la plausibilità percepita”. Se tradizionalmente la conoscenza nasce dal confronto delle fonti e dalla verifica delle ipotesi, i sistemi generativi tendono a comprimere tutto in un risultato già confezionato e linguisticamente credibile. Nel campo dell’informazione questo fenomeno si intreccia con le dinamiche dell’economia dell’attenzione. I social media, osserva Quattrociocchi, premiano ciò che cattura l’attenzione più che ciò che informa. In questo contesto i Large Language Models “abbassano e industrializzano questa produzione di contenuto in grado di persuadere l’utente” e, pur non essendo progettati per manipolare, “riescono benissimo a manipolare”.
Trasparenza, responsabilità e nuovi "bias"
Commentando la sottolineatura del Papa sul fatto che le intelligenze artificiali siano di fatto “coltivate” e non “costruite”, e quindi crescano autonomamente, Quattrociocchi evidenzia come questi sistemi siano “la cosa più lontana dal concetto di normativo che possa esistere”. Per questo ritiene fuorviante interpretarli attraverso categorie che li assimilano all’essere umano. L’approccio etico che invoca la trasparenza dell’IA risulta quindi insufficiente poiché, spiega, non basta semplicemente aprire il codice o pubblicare i dati di addestramento. “Il problema è capire come il sistema arriva a una risposta, che segnale utilizza, e soprattutto quale scorciatoia incorpora”.
Particolarmente preoccupante è poi l’effetto sui processi cognitivi e culturali. “È aumentato impressionantemente il numero di persone che parlano di argomenti che non conoscono e cadono proprio vittime della malattia della conoscenza certa e cioè dell’epistemia", (termine coniato da un gruppo di ricercatori guidato da Quattrociocchi per descrivere la confortevole illusione di possedere una conoscenza certa e verificata). Molti utenti - nota lo studioso - delegano dunque integralmente ai modelli linguistici la produzione di contenuti senza possedere gli strumenti necessari per verificarli. Il risultato è l’immissione nello spazio pubblico di informazioni “perfettamente impacchettate ma che di fatto sono vuote e non reggono al ragionamento”. Una dinamica che, secondo Quattrociocchi, rischia di rendere sempre più difficile distinguere tra conoscere e non conoscere.
Una discussione più matura
Nelle conclusioni, il docente di Informatica esprime apprezzamento per il contributo offerto dall’Enciclica al dibattito contemporaneo. La Magnifica humanitas, afferma, “porta una visione molto lucida e molto meno vincolata a infantilismi e ingenuità che nascono dalla poca conoscenza dell’argomento”, collocando la discussione su un terreno più maturo. L’auspicio finale riguarda una riflessione, sempre più necessaria, sulla domanda che – secondo Quattrociocchi – attraversa l’intero documento di Papa Leone XIV: “Cosa implica per la nostra società delegare a macchine che simulano l’interazione e simulano il giudizio, senza sapere che cosa sia relazione e cosa sia giudizio?”.
Grazie per aver letto questo articolo. Se vuoi restare aggiornato ti invitiamo a iscriverti alla newsletter cliccando qui
