”Romdeklarationen” har undertecknats – ett åtagande om kärnvapen och AI

Benedetta Capelli – Vatikanstaten

”Mänskligheten står inför ett avgörande skede i sin historia”. Så inleds ”Romdeklarationen för en avväpnad och avväpnande fred i en tid präglad av artificiell intelligens, kärnvapen och autonoma vapen, nya digitala protokoll och framväxande modeller för digital utveckling”, som undertecknades på förmiddagen den 16 juli på Kapitolium i Rom, efter avslutningen av det tvådagarsmöte som hölls i Borgo Laudato si' under titeln: ”Nobelpristagarnas globala församling om artificiell intelligens och kärnvapenkrig”. Ett evenemang där Nobelpristagare, ledande experter inom artificiell intelligens, före detta stats- och regeringschefer samt företrädare för några av världens viktigaste och mest inflytelserika universitet och forskningsinstitutioner deltog.

”En utmaning utan motstycke” är det vi just nu står inför, står det i texten, som ställer alla inför ett dilemma eftersom artificiell intelligens visserligen erbjuder stora möjligheter, men sannolikt kommer att ”orsaka en massiv förlust av arbetstillfällen och förvärra den ekonomiska konkurrensen mellan kärnvapenmakterna”. Genom att koncentreras till ett fåtal länder och stora företag kan AI orsaka djupa maktobalanser. Eftersom den dessutom utvecklas i en aldrig tidigare skådad takt är den ämnad att ”leda till omfattande ekonomiska, militära och sociala omvälvningar”. I uttalandet understryks också att den växande kapprustningen inom kärnvapen går hand i hand med ”en lika farlig kapprustning inom artificiell intelligens”. Man tar därför fasta på påve Leos uppmaning att sträva efter ”en avväpnad och avväpnande fred” och avvisar därmed tanken att säkerhet bygger på rädsla, dominans, hot och ömsesidig förstörelse.

I mänsklighetens intresse

I de sex punkterna som utgör texten uppmanas man att ”förhindra den kommande kapprustningen, såväl inom artificiell intelligens som inom kärnvapenområdet, innan dessa kommer att avgöra hur nästa århundrade kommer att se ut”. En stark uppmaning riktas till utvecklare av system för artificiell intelligens att verka i mänsklighetens intresse, ”med respekt för internationell rätt och mänskliga rättigheter”. Därav uppmaningen till organisationer och regeringar att övervaka de helt automatiserade processerna i systemen för artificiell intelligens.

Ett internationellt fördrag för kontrollsystem för AI

”Det slutgiltiga beslutet att använda ett kärnvapen – står det i deklarationen – får aldrig anförtros ett automatiserat system”. Man efterlyser därför antagandet av ”ett internationellt fördrag som förbjuder oansvarig integrering av artificiell intelligens i system för ledning, kontroll och avfyrning av kärnvapen, och som garanterar att det alltid finns en effektiv och meningsfull mänsklig kontroll”. I praktiken handlar det om att förhindra en illvillig användning av AI i cyberoperationer och attacker mot kärnkraftsinfrastruktur. ”Vi främjar en ansvarsfull utveckling och användning av artificiell intelligens – står det – för att förbättra människors välbefinnande, påskynda vetenskapliga och medicinska framsteg, skydda miljön, stärka samhällens motståndskraft och främja fred, hållbar utveckling och det gemensamma goda”.

Skapa en digital allmänning

De sista punkterna handlar om behovet av att ”identifiera nya institutionella vägar mot en global styrning av artificiell intelligens och för att i framtiden främja genomförandet av globala styrningsinitiativ inom detta område”. Man stöder initiativ som inspirerats av påve Leos Magnifica humanitas och ger sitt stöd till FN:s oberoende internationella vetenskapliga panel för artificiell intelligens. Undertecknarna uppmanar till att skapa ”en digital allmänning” (digital commons) som underlättar insamling och delning av de data som behövs för att fördjupa kunskapen och stödja effektiva åtgärder när det gäller kärnvapen och artificiell intelligens. I världen finns det i själva verket många sammanlänkade hot, och konsekvenserna drabbar ofta dem som varken har tillgång till eller kontroll över de teknologier som ger upphov till dem.

Kärnvapennedrustning

I slutet av uttalandet framförs ett brådskande krav på att inleda förhandlingar för att uppnå ”en verifierbar och oåterkallelig avskaffning av kärnvapen”. Man återupptar därmed de åtaganden som ingåtts i Fördraget om icke-spridning av kärnvapen (NPT) och Fördraget om förbud mot kärnvapen (TPNW). Därav kravet på att staterna ska stoppa kapprustningen och istället satsa på förhandlingar och fullgörande av de åtaganden som gjorts. ”De nationer som förfogar över kärnvapen”, står det, ”måste främja politik och doktriner som gradvis minskar dessa vapens roll, stärker den strategiska stabiliteten och minskar risken för att de används först och för ett krig med katastrofala konsekvenser”. ”Det är vår överlevnad och framtida generationers överlevnad som står på spel”, skriver undertecknarna.