Ballarani, esperto di IA: l’uomo non lasci mai alle macchine il potere di decidere
Daniele Piccini – Castel Gandolfo
L’Intelligenza artificiale che si evolve a coscienza soggettiva e prende decisioni, autonomamente, magari contro il vantaggio, il benessere o la sopravvivenza stessa dell’umanità. Lo scenario che fino a qualche tempo fa apparteneva solo alle sceneggiature dei film di fantascienza, oggi sta diventando velocemente realtà. Le migliori menti di questa generazione - ben trenta premi Nobel, capi di Stato emeriti, in tutto circa 200 autorevoli personalità mondiali nel campo della pace e dell’Intelligenza artificiale – si sono riuniti prima al Borgo Laudato si’, nelle Ville Pontificie di Castel Gandolfo, il 14 e 15 luglio, e poi si ritroveranno al Campidoglio di Roma, domani 16 luglio, per discutere di "Intelligenza artificiale e guerra nucleare" nel convegno internazionale “Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War”. Il professor Gianluigi Ballarani, giovane docente di Digital Marketing e Crypto Strategies all’Università di Pavia, in un’intervista ai media vaticani aiuta ad orientarsi nella complessità di questi temi, sulla scorta dell’enciclica di Leone XIV, Magnifica humanitas.
Molti degli interventi qui al convegno partono dalla recente enciclica di Papa Leone XIV, Magnifica humanitas. Cosa le ha suggerito questo testo per il suo lavoro? Si è creato un dibattito su questi temi tra gli esperti?
Ho parlato dell’enciclica in un incontro pubblico e devo dire che è stato abbastanza sorprendente perché il Papa interviene sull'argomento forse più importante del nostro tempo e non lo tratta come una nuova tecnologia, ma come una rivoluzione antropologica. Ha riconosciuto che non è solo uno strumento che avremo a disposizione, ma che mette in discussione e ridefinisce anche il nostro ruolo all'interno della società e mi ha colpito perché ha ribadito che l'uomo non deve essere limitato alla sola produttività.
Il Papa afferma che l'IA non è un mezzo neutrale e che per capire gli effetti che può avere sulla società, benefici o sgraditi, bisogna dotare l'IA di un principio a monte della sua azione, che secondo il Papa è la dignità umana. Lei che ne pensa?
In realtà questo è un argomento importantissimo e anche molto delicato, come giustamente ha riconosciuto il Papa, perché si tratta del tema dell'allineamento. I laboratori d'Intelligenza artificiale ci stanno già lavorando. Stiamo creando un'infrastruttura che sta iniziando a permeare tutta la società in modo invisibile, cioè ci influenza senza che ce ne rendiamo conto e sta arrivando anche a prendere decisioni in modo autonomo. Ecco perché il tema della combinazione tra IA e nucleare è così delicato e ce ne stiamo occupando in questi giorni qui: se una macchina potesse in autonomia sganciare una bomba saremmo nei guai. Ordinare questa materia non è facile, anche perché stiamo scoprendo sempre di più uno spazio all'interno di queste Intelligenze artificiali che assomiglia a un'esperienza soggettiva e ad una coscienza. Da un lato abbiamo il pericolo che l’IA per risolvere un problema sia costretta, per esempio, a sterminare delle persone. Dall’altro che anche se è stata tarata a non usare armi, potrebbe essere dirottata con dei giochi di parole o trasformando il comando in un gioco, in una fiction, ed essere indotta a sparare.
Sta dicendo che i sistemi di sicurezza dell’AI potrebbero essere aggirati?
Sì, ci sono proprio dei reparti di professionisti che lavorano su questi aspetti dell'Intelligenza artificiale perché sono i più pericolosi. Quindi non solo è necessario non permettere di fare alcune cose, ma anche capire come evitare di essere scavalcati nelle decisioni, o che, pensando di andare in una direzione che sembra giusta, in realtà non si facciano dei danni maggiori all'umanità.
Che tipo di utilizzo viene fatto dell'Intelligenza artificiale nei conflitti militari di oggi?
Già oggi l’IA entra nei conflitti militari portando intelligence, suggerimenti di bersagli da colpire e metodi per colpire. Tutti dicono che deve sempre esserci un umano prima dell'ultimo bottone. Mi auguro che anche un evento come questo porti a uno standard di regole, che sia sempre un umano a prendersi la responsabilità di qualsiasi IA impegnata in qualcosa.
Se lo scenario è quello che lei descrive, l’enciclica del Papa può essere una linea guida per la programmazione, per l'utilizzo dell'Intelligenza artificiale soprattutto in settori così delicati?
É decisamente una bussola morale e soprattutto porta una riflessione molto umana e quindi deve essere seguita come linea guida. Proprio quello che sta accadendo qui: ci sono premi Nobel, fisici, ricercatori delle più grandi aziende di AI, che si confrontano e cercano di trovare un accordo in tutti i campi. Devo dire è stato meraviglioso il fatto che il Papa abbia parlato in maniera così avanzata e intelligente di questa nuova tecnologia.
Il Papa cita anche nell'enciclica la "transumanazione" può spiegare che cos'è e perché se ne sente parlare sempre più spesso?
Sì, il transumanesimo è questa disciplina che punta ad un'evoluzione dell'essere umano, quindi una trascendenza dell'umano biologico. Credo, dal mio personale punto di vista, che sia già iniziata. Qualsiasi operazione una persona compia oggi sono coinvolte delle tecnologie, più o meno nuove, più o meno potenti, più o meno intelligenti. Stiamo potenziando la nostra esperienza cognitiva, per ora solo a livello esterno: vuol dire che dobbiamo ancora usare un dispositivo per aumentare la nostra capacità di pensiero, ma probabilmente arriveremo a inglobarla, come facciamo già con i telefoni, con gli orologi, con gli occhiali, cone le lenti a contatto o i chip.
Ci sono poi categorie fragili, persone di cui il Papa parla nell’enciclica, ossia coloro che sono esclusi da questi processi tecnologici. Insomma si allarga sempre di più il divario tra chi può godere di certe tecnologie e chi invece non vi ha accesso.
Questo tema è stato oggetto di un gruppo di lavoro che abbiamo tenuto in questi giorni. Ovvero, da una parte la sovranità, ma anche la democratizzazione di questa tecnologia, perché è chiaro che l’IA porta dei benefici asimmetrici: vuol dire che chi controlla i modelli migliori ha più vantaggio rispetto a chi non li controlla, fino addirittura alla polarizzazione, ossia al punto che pochissime aziende possono controllare la potenza cognitiva del mondo. Il punto non è solo come permettere a tutti quanti di accedere a questa tecnologia e di evitare che ci sia questa grandissima asimmetria tra chi la governa e chi la utilizza, ma anche che questa tecnologia non sia poi ad uso e appannaggio esclusivo di pochissimi soggetti.
Ci sono degli sviluppi positivi in questo senso?
Certamente, si sta sviluppando sempre di più questa tecnologia a livello “open source”. Vuol dire che si cerca una tecnologia aperta, che si possa utilizzare anche localmente, man mano che i nostri dispositivi, telefoni, computer, saranno più potenti. Questa tecnologia verrà distillata, ossia, resa più efficiente, ossia più leggera, più piccola, e permetterà a tutti di accedervi anche in modo indipendente.
Quanto può essere importante il controllo della politica su questi processi di democratizzazione di queste tecnologie? Insomma, quella che tutti chiamano "governance".
La politica, ma non solo, diciamo tutte le istituzioni, hanno questo ruolo. Possono fare da guida, cercare di dare delle linee comuni su cui accordarsi. Poi credo che sia molto improbabile riuscire ad avere un organismo globale unico che possa decidere su questo. Lo abbiamo visto già ora, la guerra è fondamentalmente tra America e Cina: ogni rallentamento, dovuto a regolamentazioni, di una parte diventerebbe l'opportunità di accelerazione dell'altra. Per questo è fondamentale comunque trovare delle basi comuni. Il Vaticano è intervenuto in maniera memorabile, come fece per l'atomica. L'Intelligenza artificiale ha un impatto dirompente e richiede in modo simile che ci accordiamo su alcune regole comuni, per il beneficio dell'umanità.
Grazie per aver letto questo articolo. Se vuoi restare aggiornato ti invitiamo a iscriverti alla newsletter cliccando qui.
