V Ženeve podpísali spoločné vyhlásenie proti využívaniu AI vo vojne

Valerio Palombaro – Vatican News

Vojna „zrýchľovaná“ umelou inteligenciou (AI) sa čoraz viac stáva „prostriedkom umožňujúcim rýchle a masové zabíjanie“. Zároveň v súčasnosti neexistujú „technické ani procedurálne riešenia schopné zabrániť smrteľným a ničivým dôsledkom“, ktoré tieto technologické novinky prinášajú pre medzinárodné právo.

Na pozadí týchto znepokojujúcich skutočností sa Svetová rada cirkví (WCC) spolu s ďalšími 225 signatármi – vrátane mimovládnych organizácií, združení, odborníkov a zástupcov technologických spoločností – pripojila k spoločnému vyhláseniu odmietajúcemu využívanie umelej inteligencie vo vojne.

Stretnutie OSN v Ženeve

Vyhlásenie výslovne vyzýva spoločnosti vyvíjajúce technológie umelej inteligencie a vlády, aby „prestali dodávať“ systémy AI určené na použitie v rámci „vojenského reťazca zabíjania“ a aby „prijali všetky potrebné opatrenia na zabezpečenie toho, aby akékoľvek ďalšie systémy AI, ktoré poskytujú, nespôsobovali ani neprispievali k porušovaniu medzinárodného humanitárneho práva a medzinárodného práva v oblasti ľudských práv“.

Dokument bol podpísaný počas stretnutia, ktoré sa konalo v Ženeve od 15. do 17. júna pod záštitou Úradu Organizácie Spojených národov pre otázky odzbrojenia. Témou podujatia bolo využívanie umelej inteligencie vo vojenskej oblasti a jej dôsledky pre medzinárodný mier a bezpečnosť.

Stretnutie sa uskutočnilo len niekoľko týždňov po tom, ako pápež Lev XIV. vo svojej encyklike Magnifica Humanitas vyzval svet, aby „odzbrojil umelú inteligenciu“.

Riziko oslabenia ľudskej zodpovednosti

Podľa vyhlásenia musia všetky spoločnosti vrátane tých, ktoré spolupracujú s vládnymi vojenskými agentúrami, „prijať všetky možné opatrenia, aby ich produkty a služby nespôsobovali, nepodporovali porušovanie ľudských práv a medzinárodných zločinov a ani s nimi neboli priamo spojené“.

Ak spoločnosti nedokážu takýmto rizikám zabrániť alebo ich významne zmierniť, „nemali by uzatvárať ani plniť takéto zmluvy“.

S odvolaním sa na mediálne správy a oficiálne vyhlásenia Pentagonu dokument uvádza, že „rýchle generovanie cieľov pomocou nástrojov umelej inteligencie umožnilo zvýšenie rýchlosti, rozsahu, intenzity a ničivej sily amerických útokov proti Iránu“. Podobné hodnotenia možno podľa autorov vyhlásenia uplatniť aj na systémy využívané izraelskými ozbrojenými silami.

Takéto technológie podľa dokumentu oslabujú „ľudskú zodpovednosť pri rozhodnutiach o živote a smrti“ a môžu „skrývať medzinárodné zločiny za zdanlivou algoritmickou objektivitou, pričom zároveň sťažujú vyvodenie zodpovednosti“.

Neľudský trend

„Praktické nasadenie umelej inteligencie ukazuje, že v skutočnosti napomáha násilnejším, odľudštenejším a ničivejším spôsobom vedenia vojny,“ uvádza vyhlásenie 226 signatárov. Medzi nimi sú medzinárodné organizácie, ako napríklad Amnesty International, ale aj množstvo miestnych iniciatív.

„Osobitne nás znepokojuje,“ pokračuje dokument, „že využívanie veľkých jazykových modelov (LLM) na generovanie a prioritizáciu cieľov posúva vojenských aktérov k spôsobu vedenia vojny, pri ktorom základné princípy medzinárodného humanitárneho práva – rozlišovanie, proporcionalita a preventívna opatrnosť – nie sú a pravdepodobne ani nemôžu byť primerane dodržiavané.“

Signatári upozorňujú, že vzhľadom na rýchlosť a rozsah týchto technológií, ako aj na nespoľahlivosť, zaujatosti a často problematický pôvod vstupných údajov, hrozí, že takéto systémy budú napomáhať porušovaniu ľudských práv, zločinom proti ľudskosti a vojnovým zločinom.

Navyše nedostatočná transparentnosť pri ich používaní vážne oslabuje možnosť určiť morálnu alebo právnu zodpovednosť v prípade chýb.

Zmysluplná ľudská kontrola

Vyhlásenie ďalej upozorňuje, že aj keď systémy AI používané pri určovaní cieľov nevydávajú konečné rozhodnutie o zabití, môžu sa stať mechanizmami automatického schvaľovania masového zabíjania. Je to preto, že vytvárajú falošný dojem objektivity a oslabujú ľudskú zodpovednosť i dôsledné preverovanie rozhodnutí. Výsledkom môže byť zrýchľovanie a zefektívňovanie masových zabíjaní.

Tieto systémy zároveň automatizujú proces odľudšťovania tým, že „otázky života a smrti redukujú na jednoduchý textový príkaz“. Rozhodnutie vziať človeku život podľa signatárov nesie hlbokú morálnu a právnu váhu a nikdy nesmie byť zredukované na prijatie alebo odmietnutie odporúčania vytvoreného systémom umelej inteligencie.

Ak armády využívajú AI na identifikáciu cieľov v takom rozsahu a rýchlosti, že ľudská kontrola sa stáva len formalitou, „môže dochádzať a často aj dochádza k masovým zverstvám“, čo je v priamom rozpore so zásadou preventívnej opatrnosti zakotvenej v medzinárodnom humanitárnom práve.

Väčšia zodpovednosť a transparentnosť

Vyhlásenie podpísané v Ženeve vyzýva technologické spoločnosti, aby sa zdržali „uzatvárania alebo plnenia zmlúv s vojenskými agentúrami alebo ozbrojenými skupinami podozrivými z možného porušovania medzinárodného práva vrátane porušovania ľudských práv a zločinov proti ľudskosti“.

Vlády sú zároveň vyzvané, aby „zastavili používanie nástrojov umelej inteligencie vrátane veľkých jazykových modelov pri vojenských operáciách zameraných na určovanie cieľov a zabezpečili dodržiavanie medzinárodného humanitárneho práva a medzinárodného práva v oblasti ľudských práv“.

Dokument ich tiež vyzýva, aby „zabezpečili transparentnosť v súvislosti so súčasným využívaním umelej inteligencie pri vedení ozbrojených konfliktov“.

Preklad sr. Jana Pavla Halčinová DKL