Firmata a Ginevra una dichiarazione congiunta contro l'uso dell'IA in guerra

Valerio Palombaro - Città del Vaticano

La guerra “accelerata” dall’intelligenza artificiale (IA) sta diventando “un mezzo per autorizzare l'uccisione in modo rapido e su vasta scala”, mentre al momento non esistono “soluzioni tecniche o procedurali per prevenire le conseguenze letali e devastanti” derivanti dalle sfide che questi cambiamenti pongono al diritto internazionale. E’ alla luce di questo preoccupante contesto che il Consiglio ecumenico delle chiese (Cec) ha firmato, insieme ad altre 225 tra ong, associazioni, esperti e individui che lavorano in aziende del settore, una dichiarazione congiunta contro l’uso dell’IA in guerra.

La riunione Onu di Ginevra

Nel documento si chiede esplicitamente alle aziende impegnate nello sviluppo dell’IA ed agli Stati di “interrompere la fornitura” di sistemi di intelligenza artificiale da utilizzare nella “catena di uccisione militare” e “di adottare tutte le misure necessarie per garantire che gli altri sistemi di IA da loro forniti non causino o contribuiscano a violazioni del diritto internazionale umanitario e del diritto internazionale dei diritti umani”. L’occasione per la firma di questa dichiarazione congiunta è la riunione in corso a Ginevra dal 15 al 17 giugno, organizzata dall’Ufficio Onu per gli Affari legati disarmo, sul tema dell’IA nel dominio militare e sulle sue implicazioni per la pace e la sicurezza internazionale. Un appuntamento internazionale importante, che arriva a poche settimane dal richiamo a "disarmare l'IA" fatto da Papa Leone XIV nell'Enciclica Magnifica humanitas.

Il rischio di "diluire" la responsabilità umana

Tutte le aziende – si legge nella dichiarazione congiunta -, comprese quelle che stipulano contratti con agenzie militari governative, “devono adottare tutte le misure possibili per garantire che i loro prodotti e servizi non causino, contribuiscano o siano direttamente collegati a violazioni dei diritti umani e crimini internazionali”. E “laddove le aziende non siano in grado di prevenire o mitigare in modo significativo tali rischi, non devono stipulare o eseguire tali contratti”. Secondo quanto riportato da diversi media e dalle dichiarazioni ufficiali del Pentagono, si legge nella dichiarazione, “la rapida generazione di obiettivi tramite strumenti di IA ha permesso di aumentare la velocità, la portata, l'intensità e la forza distruttiva degli attacchi statunitensi contro l'Iran”. E valutazioni simili si possono fare anche per quanto riguarda i sistemi utilizzati da parte delle forze armate israeliane. Tutti sistemi che diluiscono “la responsabilità umana nelle decisioni di vita o di morte” e “potrebbero contribuire a occultare crimini internazionali dietro una patina di apparente obiettività algoritmica, eludendo al contempo le responsabilità”.

Una deriva disumana

“Le applicazioni nel mondo reale indicano che l'IA sta in realtà facilitando metodi di guerra più violenti, disumanizzanti e distruttivi”, denunciano i 226 firmatari della dichiarazione, tra cui figurano ong come Amnesty International ma anche organizzazioni locali impegnate contro il riarmo. “In particolare, siamo profondamente preoccupati che l’uso di modelli di combattimento a lungo raggio (LLM) per la generazione e la prioritizzazione degli obiettivi stia spingendo gli attori militari verso una forma di guerra in cui i principi fondamentali del diritto internazionale umanitario – inclusi i principi di distinzione, proporzionalità e precauzione – non sono, e probabilmente non possono essere, sufficientemente rispettati. Considerata la velocità e la portata di tali tecnologie, oltre all'inaffidabilità, alla parzialità e alla provenienza spesso illegale dei dati di input, sosteniamo inoltre che queste dinamiche rischiano di facilitare violazioni dei diritti umani, crimini contro l'umanità e crimini di guerra. L'opacità che caratterizza l'utilizzo di questi strumenti, inoltre, compromette seriamente la possibilità di attribuire responsabilità morali o legali in caso di errori”.

Il controllo umano effettivo

Secondo i firmatari della dichiarazione, “anche laddove i sistemi di IA utilizzati per l'individuazione dei bersagli non prendano la decisione finale di uccidere, rischiano di diventare meccanismi di approvazione automatica per le uccisioni su larga scala, poiché si appellano a false nozioni di oggettività e possono soppiantare la responsabilità e la dovuta diligenza, il che può in ultima analisi contribuire ad accelerare e semplificare le uccisioni di massa”. Questi sistemi, inoltre, automatizzano la disumanizzazione “riducendo questioni di vita o di morte a una semplice domanda in una chat. La decisione di uccidere un altro essere umano – sottolineano - ha un grave peso morale e giuridico e non deve mai essere delegata alla mera accettazione o al rifiuto delle raccomandazioni dei sistemi di IA. Quando gli eserciti si affidano all'IA per accelerare l'identificazione degli obiettivi con tale rapidità e standardizzazione che qualsiasi revisione umana rischia di diventare una mera formalità priva di un effettivo controllo umano, si possono verificare, e spesso si verificheranno, stragi di massa, in diretta violazione del principio di precauzione sancito dal diritto internazionale umanitario”.

Maggiore responsabilità e trasparenza

La dichiarazione firmata a Ginevra chiede esplicitamente alle aziende del settore di astenersi “dal concludere o eseguire contratti con agenzie militari o gruppi armati che commettano possibili violazioni del diritto internazionale, comprese violazioni dei diritti umani e crimini atroci”. Agli Stati si chiede invece di “interrompere l'uso di strumenti di IA, compresi i modelli linguistici su larga scala, nella conduzione di operazioni militari di individuazione degli obiettivi e garantire il rispetto dei principi del diritto internazionale umanitario e del diritto internazionale dei diritti umani” e di “garantire la trasparenza sulle modalità di utilizzo attuale dell’IA nella conduzione delle ostilità”.