Nobelpreisträger warnen vor KI in atomaren Waffensystemen

Die „Erklärung von Castelgandolfo“ ist in den vergangenen Tagen bei einer Konferenz auf dem päpstlichen Sommersitz entstanden und bemüht sich um konkrete Vorschläge. So fordert er etwa die Verabschiedung eines internationalen Vertrags, um „die unverantwortliche Integration Künstlicher Intelligenz in die Kommando-, Kontroll- und Abschusssysteme für Atomwaffen zu verbieten“. Es müsse gewährleistet werden, dass stets eine wirksame und substanzielle menschliche Kontrolle bestehen bleibe.

Ausdrücklich fordert die Erklärung „eine koordinierte Verlangsamung der Entwicklung der fortschrittlichsten Formen der Künstlichen Intelligenz“; das zielt auf Zeitgewinn, um Überprüfungsmechanismen aufzubauen und zu stärken, etwa auf UNO-Ebene. Außerdem setzt sich die Erklärung für neue Initiativen zur Rüstungskontrolle und zur Abrüstung im Bereich nuklearer Arsenale ein.

Lange Liste von Hausaufgaben für die Staaten

Den Staaten schreibt die „Erklärung von Castel Gandolfo“ eine ganze Reihe von Hausaufgaben ins Heft. „Sie sollten überprüfbare Maßnahmen zur Begrenzung und Reduzierung der Arsenale verfolgen; die Alarmstufen senken; die für Entscheidungen zur Verfügung stehende Zeit verlängern; Doktrinen aufgeben, die auf dem Prinzip „Launch-on-Warning“ und der sofortigen Reaktion basieren; die Rolle von Atomwaffen in Sicherheitsstrategien verringern; die Krisenkommunikation stärken; Cyberangriffe auf nukleare Führungs-, Kontroll- und Kommunikationssysteme verhindern; und Formen der Zusammenarbeit entwickeln, die darauf abzielen, Missverständnisse, Fehleinschätzungen und unbeabsichtigte Eskalationen zu vermeiden.“

Künstliche Intelligenz muss nach dem Dafürhalten der Autoren des Textes „so konzipiert und überwacht werden, dass sie im Einklang mit den Interessen der Menschheit steht und das Völkerrecht sowie die Menschenrechte achtet“. Die Erklärung erwähnt ausdrücklich die Formulierung von Papst Leo XIV., dass es um einen „entwaffneten und entwaffnenden Frieden“ gehe.

(vatican news – sk)