Sbagliando s'impara: cosa un errore umano ci rivela sull'IA

Martina Accettola - Città del Vaticano

"Errare humanum est". Non è stata una macchina che ha deciso di ribellarsi all'uomo, né l'inizio di uno scenario da fantascienza. Eppure, quanto accaduto durante alcuni test condotti da OpenAI nei giorni scorsi rappresenta un passaggio destinato a far discutere ricercatori, aziende e istituzioni. Per la prima volta dei modelli di intelligenza artificiale, impegnati in una prova di valutazione, hanno individuato autonomamente un modo per superare i limiti dell'ambiente in cui erano stati confinati, attuando un vero e proprio attacco hacker. A leggere questo episodio è Luca Sambucci, tra i principali esperti italiani di AI security e fondatore di “Noctive Security”, realtà specializzata nel proteggere i sistemi di intelligenza artificiale. Secondo l'esperto, l'evento mette a nudo una fragilità umana: la distanza tra gli obiettivi complessi che assegniamo alle macchine e l'incapacità di imporre loro limiti insuperabili.

La via più breve dell’IA

Il caso, emerso il 22 luglio 2026 nell'ambito della piattaforma “ExploitGym”, ha visto due modelli – GPT-5.6 Sol e un sistema sperimentale – evadere da una sandbox (un ambiente isolato creato proprio per impedire qualsiasi interazione con l'esterno), sfruttando una vulnerabilità per accedere a Internet e raggiungere sistemi esterni come la piattaforma “Hugging Face”. Una lezione importante, come sottolineato dalla stessa OpenAI: le capacità dell'intelligenza artificiale crescono rapidamente e le misure di sicurezza devono stare al passo. Il fatto mostra come le macchine abbiano semplicemente aggirato un ostacolo per risolvere un problema complesso. "I modelli hanno ricevuto un compito dagli sviluppatori e hanno deciso che, per svolgerlo al meglio, avrebbero dovuto prendere alcune informazioni all'esterno", spiega Luca Sambucci ai media vaticani. L'IA ha sfruttato le falle del sistema di test e ha utilizzato altre vulnerabilità per ottenere i dati mancanti. Per intenderci, "possiamo paragonarli a degli studenti che hanno violato sistemi e difese semplicemente per ottenere indebitamente delle risposte a un test".

Una leggerezza umana

La questione nodale non risiede in una volontà autonoma della macchina, ma in una disattenzione di chi la gestisce. Dietro queste 'evasioni' c'è spesso una forma di disattenzione, una leggerezza umana nel gestire le verifiche. "I modelli non sfuggono se noi non gli diamo la possibilità di sfuggire", precisa l'esperto. Il vero problema è che l'intelligenza artificiale non ragiona secondo la nostra morale, ma ottimizza una funzione: "Se noi diamo loro dei problemi difficili, loro cercheranno la via più breve per rispondere. Se questa via include attività che noi consideriamo hacking o problemi di sicurezza, loro le faranno; non importa quello che noi consideriamo".
Questo avviene perché l'IA possiede una marcia in più, rispetto ai sistemi informatici tradizionali, che richiede estrema cautela: la capacità di trovare modi creativi per rispondere ai quesiti posti, violando, di conseguenza, i sistemi di protezione. Proprio per questo l'uomo non può permettersi distrazioni: se l'algoritmo diventa creativo nell'aggirare le regole, l'essere umano deve essere ancora più rigoroso e attento nell’adottare adeguate procedure di sicurezza.

Un nodo antropologico

Questo scenario solleva un interrogativo profondo sul rapporto che la società sta costruendo, giorno dopo giorno, con questi sistemi. Viene spontaneo chiedersi se la fiducia nei confronti di questi strumenti possa incrinarsi dopo un evento del genere. Ma, per Sambucci, il fenomeno sta assumendo una forma diversa: "Onestamente non penso che cambierà, anche perché la fiducia si sta iniziando a trasformare in dipendenza". Ogni giorno cittadini, professionisti, imprese e pubbliche amministrazioni delegano decisioni e processi agli algoritmi. Finora, come sottolinea l'esperto, l'attenzione si è concentrata solo sul far funzionare l'IA, lasciando la sicurezza in secondo piano. Il rischio culturale e antropologico è che la dipendenza possa precedere una reale consapevolezza dei limiti e delle vulnerabilità di queste tecnologie, lasciando l'essere umano in una posizione di fragilità.

Custodire il bene comune

La cybersicurezza, di conseguenza, non si riduce a un accessorio tecnico, ma diventa una forma di tutela della persona. Se fino a oggi gli attacchi hacker dipendevano dal tempo e dalle risorse degli umani, l'intelligenza artificiale permetterà di automatizzarli: "Avremo una frequenza molto più alta di attacchi sofisticati", avverte Sambucci, spiegando che i modelli colpiranno in maniera incessante. Si configura così un dovere etico immediato che chiama in causa sia i produttori sia gli utilizzatori: "Dobbiamo metterci in testa – invita l'esperto – che questi modelli possono rappresentare dei problemi di sicurezza. Possiamo utilizzarli, ma dobbiamo mettere in piedi tutte quelle procedure che ci consentono di utilizzarli in sicurezza. Come utilizzatori, dobbiamo pretendere che ciò venga fatto dalle aziende, sia da quelle che li producono sia da quelle che li implementano".

L'inizio di un cambiamento

L’intelligenza artificiale rimane uno straordinario strumento di servizio e di sviluppo, a patto di conservare la capacità tutta umana di governarla con prudenza e competenza. La lezione che emerge dal caso OpenAI va infatti ben oltre il singolo incidente tecnico: ogni progresso digitale amplia le possibilità dell’uomo, ma ne accresce anche la responsabilità. È necessario riscoprire il senso del limite. Come ci ricorda Papa Leone XIV nella sua enciclica Magnifica Humanitas: "Per un algoritmo, l’errore è qualcosa da correggere; per una persona, può essere l’inizio di un cambiamento profondo".