Artur Kluz: Ľudská dôstojnosť musí byť meradlom, podľa ktorého posudzujeme akúkoľvek technológiu

Deborah Castellano Lubov – Vatican News

„Pápež Lev XIV. presunul celosvetovú diskusiu o umelej inteligencii od samotnej technológie k ľudskej osobe.“

V rozhovore pre Vatican News túto myšlienku vyjadril odborník na technológie a umelú inteligenciu Artur Kluz, keď sa zamýšľal nad prvou encyklikou pápeža Leva XIV. s názvom Magnifica humanitas: o ochrane ľudskej osoby v ére umelej inteligencie, ako aj nad nedávnym posolstvom pápeža adresovaným globálnemu samitu „AI for Good“ v Ženeve.

Tento investor v oblasti technológií a podnikateľ je zakladateľom a generálnym riaditeľom spoločnosti Kluz Ventures, globálnej investičnej firmy zameranej na umelú inteligenciu, vesmírny výskum a ďalšie prelomové technológie. Vytvoril koncept „Virtue Tech“, ktorý vychádza z predpokladu, že zakladatelia, technológovia a investori potrebujú popri technických znalostiach aj morálnu formáciu.

Kluz bol jedným z rečníkov na samite na vysokej úrovni v Ženeve, ktorá je hlavnou platformou Organizácie Spojených národov v oblasti umelej inteligencie a na ktorej sa skúmalo, ako umelá inteligencia formuje svet a ako môže prispieť k riešeniu globálnych výziev. Spolu s ďalšími odborníkmi z odvetvia a predstaviteľmi Svätej stolice sa zamýšľal nad pápežovou encyklikou. Založil tiež cenu Kluz Prize for PeaceTech, jednu z popredných svetových iniciatív zameraných na rozvoj umelej inteligencie a ďalších technológií, ktoré slúžia ľudstvu, budujú mier a chránia ľudskú dôstojnosť, ktorá za posledné štyri roky prilákala prihlášky od tvorcov technológií a inovátorov z 82 krajín.

Pán Kluz, čo považujete za najväčší prínos encykliky Magnifica humanitas k ochrane ľudskej osoby v ére umelej inteligencie?

Verím, že najväčším prínosom dokumentu Magnifica humanitas je to, že pápež Lev XIV. posunul globálnu diskusiu o umelej inteligencii od samotnej technológie k ľudskej osobe. Z pohľadu človeka, ktorý investuje do špičkových technológií a buduje na nich spoločnosti, verím, že pápež Lev XIV. ponúka niečo, čo v diskusiách o umelej inteligencii často chýba: kompas namiesto obmedzenia. Pápež Lev nie je proti podnikaniu, inováciám ani zodpovednej návratnosti kapitálu. Skôr nás vyzýva, aby sme si kládli hlbšie morálne otázky, než sa rozhodneme, čo vytvoriť, ako to vytvoriť a prečo to vytvoriť. Podnikatelia by sa mali usilovať nielen o vytváranie inteligentnejších strojov, ale aj o rozvoj technológií a inštitúcií, ktoré pomáhajú ľudstvu stať sa múdrejším, mierumilovnejším a schopnejším spoločne prosperovať.

Príliš často sa diskusie o umelej inteligencii zameriavajú na technologické možnosti, investície a konkurenciu. Magnifica humanitas nám pripomína, že dôležitejšou otázkou je, akému ľudstvu tieto technológie v konečnom dôsledku slúžia. Ako investor a tvorca technológií verím, že pápež Lev XIV. zdôrazňuje tri praktické zásady: technológia nikdy nie je morálne neutrálna; technológia musí vždy slúžiť ľudskej osobe; a múdrosť a cnosť musia rásť spolu s inováciami. Našou najväčšou výzvou nie je len vytvárať inteligentnejšie stroje, ale stať sa dostatočne múdrymi na to, aby sme ich správne využívali. Výzva pápeža Leva k morálnemu a duchovnému rozlišovaniu je podľa môjho názoru jedným z najpraktickejších odporúčaní v encyklike. Technológia nám môže pomôcť budovať rýchlejšie, ale nemôže nám povedať, čo by sme mali budovať. Rozlišovanie kladie otázky: Mali by sme to budovať? Komu to poslúži? Posilní to ľudskú dôstojnosť, mier a spoločné dobro?

Nedávno som sa zúčastnil menších stretnutí v Silicon Valley a vo Washingtone, D.C., s mladými inžiniermi, programátormi a výskumníkmi v oblasti umelej inteligencie z popredných spoločností zaoberajúcich sa umelou inteligenciou, kde som očakával diskusie o rozsiahlejších modeloch, o agentoch umelej inteligencie, všeobecnej umelej inteligencii a nových trendoch. Namiesto toho sa mnohé otázky zameriavali na to, ako by sa princípy encykliky dali uplatniť v každodennej práci, pri programovaní a v osobnom živote: Ako formovať charakter, aby sme mohli vytvárať lepšiu umelú inteligenciu? Aké je naše chápanie Boha? Ako zabezpečíme, aby technologický pokrok sprevádzal ľudský rast? To potvrdilo niečo dôležité: technológia je zrkadlom svojich tvorcov. Technológie, ktoré vytvárame, v konečnom dôsledku odrážajú to, kým sme, čo si ceníme a aký charakter si pestujeme.

Najväčším prínosom encykliky Magnifica humanitas nie je nový súbor pravidiel, ale pripomenutie správneho východiskového bodu. Mierou, podľa ktorej musíme posudzovať akúkoľvek technológiu, vrátane umelej inteligencie, musí byť ľudská dôstojnosť, a nie len efektívnosť či výkonnosť. Pre Cirkev to nie je nová myšlienka. Nadväzuje na tradíciu, do ktorej patria encykliky Rerum novarum, Centesimus annus a Laudato si‘. Novinkou je jej uplatnenie na technológiu, ktorá sa dotýka otázok pravdy, vzťahov a moci súčasne. Pre mňa osobne táto encyklika nezaviedla úplne nový smer, skôr potvrdila to, čomu verím už roky: otázky, ktoré vyvoláva umelá inteligencia, sú nové, ale morálny rámec potrebný na ich riešenie - dôstojnosť, spoločné dobro, solidarita, subsidiarita a spravodlivosť - existuje už dlho. Pre mňa v encyklike vynikajú tri praktické body.

Aké sú tieto tri body?

Po prvé, encyklika uznáva, že technológia nikdy nie je morálne neutrálna. Umelá inteligencia odráža hodnoty, kultúru a morálny stav tých, ktorí ju vytvárajú. Ak chceme umelú inteligenciu zameranú na človeka, potrebujeme, aby ju vyvíjali ľudia orientovaní na dobro. Encyklika tiež kladie do popredia nielen inováciu, ale aj moc ako ústrednú otázku. Vývoj technológií je dnes často poháňaný súkromnými nadnárodnými subjektmi, ktorých zdroje môžu prevyšovať zdroje vlád. To vyvoláva vážne otázky týkajúce sa zodpovednosti. A po tretie, encyklika považuje pravdu za spoločné dobro. V ére algoritmického výberu a generatívneho obsahu je ochrana spoločného základu pravdy sama osebe spôsobom, ako chrániť ľudskú dôstojnosť. Spoločnosť, ktorá sa už nedokáže zhodnúť na tom, čo je skutočné, má ťažkosti konať spoločne v prospech spoločného dobra a budovať mier.

Ako človek, ktorý sa sám hlboko venuje umelej inteligencii, čo je podľa vás kľúčové pre zabezpečenie zodpovedného využívania umelej inteligencie, ktoré by chránilo ľudí, ich dôstojnosť a ich prácu? Ako možno umelú inteligenciu eticky využívať v prospech ľudstva?

Ľudia, ktorí umelú inteligenciu vytvárajú, systémy, ktoré ju riadia, a kultúra, ktorá ju prijíma, musia zostať prepojené. Nemyslím si, že dokážeme vytvoriť systémy umelej inteligencie zamerané skutočne na človeka, ak sa ľudia, ktorí ich navrhujú, nesnažia zároveň rozvíjať cnosti, ktoré tieto systémy vyžadujú. Ako som už spomenul, technológia je v skutočnosti zrkadlom svojich tvorcov. Preto som vyvinul koncept „Virtue Tech“ – myšlienku, že zakladatelia, technológovia a investori potrebujú popri technickej odbornosti aj morálnu formáciu. Dnes potrebujeme nielen väčšie technické znalosti, ale aj väčšiu múdrosť a duchovnú inteligenciu.

Sú potrebné ochranné mechanizmy, aby sa zabránilo tomu, že umelá inteligencia nadobudne príliš veľkú moc alebo sa stane škodlivou?

Pokiaľ ide o riadenie a ochranné mechanizmy, v niektorých oblastiach nie je možné robiť kompromisy. Po prvé, kľúčovú úlohu musia naďalej zohrávať ľudská iniciatíva a dohľad. Vždy, keď umelá inteligencia ovplyvňuje rozhodnutia týkajúce sa života a smrti, riadneho procesu, zamestnania alebo vývoja detí, musí byť človek zmysluplne zapojený – a nie len formálne prítomný. Ďalej potrebujeme pravdivé a dôveryhodné informácie. Systémy umelej inteligencie sú spoľahlivé len do tej miery, do akej sú spoľahlivé údaje a motivácie, na ktorých sú založené. Ochranné opatrenia proti manipulácii, „deepfakeom“ a narúšaniu spoločnej faktickej reality sú čoraz naliehavejšie. A napokon sa musíme zaoberať koncentráciou moci. Keď malý počet súkromných subjektov môže ovplyvňovať výsledky v obrovskom meradle, spoločnosť potrebuje skutočné štruktúry zodpovednosti, namiesto toho, aby sa spoliehala výlučne na samoreguláciu.

Ako možno umelú inteligenciu eticky využívať a ako môže slúžiť ľudstvu?

Umelá inteligencia môže slúžiť ľudstvu vtedy, ak je zameraná na zmierňovanie skutočného utrpenia, rozširovanie prístupu k zdravotnej starostlivosti, urýchľovanie vedeckých objavov, pomoc pri vyhľadávaní pozemných mín a podporu budovania mieru, skôr než len na maximalizáciu zapojenia, získavanie údajov alebo kontroly. Musí to byť vedomá voľba, ktorú už v počiatočnej fáze urobia ľudia, ktorí tieto systémy financujú, navrhujú a budujú.

Pokyny pápeža Leva ovplyvnili otázky, ktoré si kladiem pri hodnotení spoločností. Okrem technológie, trhov a realizácie sa pýtam: Bude táto technológia slúžiť človeku? Zachráni životy? Posilní mier? Prispieva k ľudskému rozkvetu? Pre podnikateľov to predstavuje zároveň zodpovednosť aj príležitosť. Inovácia by mala posilňovať ľudskú dôstojnosť, nie ju oslabovať. Umelá inteligencia by mala rozširovať ľudský úsudok, nie ho nahrádzať, podporovať spoluprácu, nie polarizáciu, a posilňovať komunity, nie koncentrovať moc. Táto zodpovednosť presahuje rámec samotného softvéru umelej inteligencie. Vstupujeme do éry, v ktorej umelá inteligencia čoraz viac závisí od fyzickej infraštruktúry, vrátane satelitov, dátových systémov, komunikačných sietí a autonómnych technológií. Táto infraštruktúra sa stáva súčasťou morálnej architektúry spoločnosti. Mala by byť preto navrhnutá nielen s ohľadom na efektívnosť a komerčný úspech, ale aj s cieľom posilniť odolnosť, transparentnosť, humanitárnu pomoc a mier. Technológie, ktoré spájajú ľudstvo, by sa nikdy nemali stať nástrojmi, ktoré ho rozdeľujú.

Pápež Lev tiež varuje pred technokratickým paradigmom, v ktorom sa efektívnosť, kontrola a zisk stávajú cieľmi samými osebe. Efektívnosť je mimoriadny nástroj, ale nikdy sa nesmie stať konečným cieľom. Vedenie v oblasti technológií založené na cnostiach nadobúda čoraz väčší význam.

Mohli by ste to konkretizovať?

Spoločnosti, ktoré stavajú na princípoch služby ľudstvu, môžu získať niečo hodnotnejšie ako podiel na trhu, a to verejnú dôveru. Umelá inteligencia môže vytvárať dojem neobmedzených vedomostí, ale nemá svedomie ani skutočnú ľudskú skúsenosť. Morálny charakter sa preto stáva strategickou výhodou, pretože technológia v konečnom dôsledku odzrkadľuje ľudí, ktorí ju vytvárajú a riadia.

V posolstve pápeža Leva pre globálny summit „AI for Good“ sa uvádza, že dokument „Magnifica humanitas“ vznikol jednak na základe nádejného načúvania vedcom, vodcom, rodičom a učiteľom, jednak z obáv zo zneužitia a straty ľudskej autonómie. Akými kľúčovými spôsobmi môžu vývojári umelej inteligencie reagovať na tieto obavy?

Myslím si, že napätie, ktoré opisuje Svätý Otec – koexistencia nádeje a obáv – je presne ten správny postoj. Je to tiež niečo, čo som si všimol v rozhovoroch so zakladateľmi a inžiniermi. A vývojári aj investori môžu podniknúť niekoľko konkrétnych krokov. Napríklad by mal byť ľudský dohľad zakomponovaný do architektúry systémov umelej inteligencie už od začiatku, a nie dodatočne. Systémy potrebujú zámerne stanovené body, v ktorých je človek povinný prijať rozhodnutie, a nie len mať možnosť tak urobiť. Okrem toho sú nevyhnutné investície do dôveryhodnej informačnej infraštruktúry. Jedným z najjasnejších ponaučení tejto éry je, že systémy umelej inteligencie sú spoľahlivé len do tej miery, do akej sú spoľahlivé informácie, na ktorých sú postavené. Zabezpečenie integrity údajov je rovnako dôležité ako zlepšovanie schopností modelov. Ďalším krokom by bolo zabezpečiť, aby sa morálna výchova považovala za súčasť technickej prípravy. Inžinierske tímy potrebujú zmysluplne sa zaoberať etickou a teologickou reflexiou, namiesto toho, aby etiku považovali za záverečný kontrolný krok na konci vývoja produktu. Vývojári musia byť schopní preukázať zdržanlivosť ako súčasť svojej profesijnej disciplíny. Budú existovať situácie, keď budú musieť odmietnuť určité aplikácie, aj keď ich komerčný tlak bude nabádať k tomu, aby v nich pokračovali.

Mohli by ste uviesť niekoľko konkrétnych príkladov alebo osvedčených postupov z tohto odvetvia?

Technológia slúžiaca ľudstvu môže mať rôzne podoby. Jedna z iniciatív, ktorú som založil - cena Kluz Prize for PeaceTech - a dvaja z jej nedávnych laureátov demonštrujú, ako je možné využiť špičkové technológie na humanitárne účely. Spoločnosť Common Space vyvíja nezávislú satelitnú misiu zameranú na budovanie mieru a humanitárnu činnosť. Spoločnosť Aerobotics7 využíva drony poháňané umelou inteligenciou na pomoc pri detekcii a zneškodňovaní pozemných mín v konfliktných zónach, vrátane Ukrajiny. Oba príklady ukazujú, ako je možné pokročilé technológie nasmerovať na ochranu ľudského života namiesto toho, aby spôsobovali ešte väčšie škody. Ďalšou dôležitou oblasťou je formácia samotných technológov. Technická dokonalosť musí byť sprevádzaná morálnou a ľudskou formáciou.

Ako toho možno dosiahnuť?

Potrebujeme ľudí, ktorí sa skutočne vyznajú nielen v technologických inováciách, ale aj v morálnych tradíciách, ktoré pomáhajú usmerňovať ich využívanie. Podporujem výskum v Ríme, ktorý skúma vzťah medzi teológiou a kvantovou fyzikou, a zároveň sa snažím vytvárať príležitosti pre zakladateľov firiem, inžinierov a programátorov, aby nadviazali spoluprácu s katolíckymi univerzitami a intelektuálnymi tradíciami. Cieľom je pomôcť vychovávať ľudí s hlbokými odbornými znalosťami v oblasti umelej inteligencie a iných špičkových technológií, ako je vesmírny výskum a kvantové výpočty, a zároveň rozvíjať hlboké pochopenie katolíckeho sociálneho a morálneho učenia. Tieto otázky sú príliš dôležité na to, aby sa nimi zaoberali odborníci, ktorí chápu len jednu stranu veci. Potrebujeme ľudí, ktorí sú schopní zaoberať sa nielen technickými možnosťami, ale aj hlbšími ľudskými otázkami, ktoré s tým súvisia. Niektorí z týchto ľudí môžu nakoniec poskytovať poradenstvo inštitúciám, vládam a vedúcim predstaviteľom, ktorí sa zaoberajú týmito výzvami. Pri pohľade do budúcnosti môže vzniknúť potreba širšej komunity kresťanských odborníkov v oblasti technológií, a to konkrétne podnikateľov, inžinierov, programátorov, investorov, akademikov, tvorcov politík, filozofov a teológov, ktorí spájajú technické schopnosti s presvedčením, charakterom a zodpovednosťou. Priekopnícke inovácie musia ísť ruka v ruke s morálnou formáciou a inštitucionálnou zodpovednosťou. Ani jedna z týchto zložiek sama osebe nestačí. Jednou z oblastí, kde je tento prístup čoraz viditeľnejší, je vesmírna technológia.

Ako v tomto smere fungujú vesmírne technológie?

Satelity už nie sú len nástrojmi na navigáciu a komunikáciu. Stávajú sa súčasťou humanitárnej infraštruktúry 21. storočia. Môžu poskytovať včasné varovania pred prírodnými katastrofami, monitorovať potravinovú neistotu, podporovať overovanie prímerí, dokumentovať útoky na civilistov, pomáhať pri pátracích a záchranných operáciách a zlepšovať humanitárnu pomoc. Ak sa vesmírne technológie využívajú zodpovedne, môžu sa stať infraštruktúrou pre mier, a nie len nástrojmi súťaže. Tie isté technológie možno využiť na predpovedanie katastrof, ochranu civilistov a poskytovanie humanitárnej pomoci. Alebo sa dajú využiť na sledovanie a nátlak. Rozdiel nespočíva len v samotnej technológii, ale aj v riadení, motiváciách a morálnych rozhodnutiach. Preto sú iniciatívy ako Common Space také dôležité. Rozvoj nezávislých satelitných kapacít určených na humanitárne, rozvojové a mierotvorné účely predstavuje snahu o vytvorenie infraštruktúry navrhnutej s ohľadom na verejný záujem. Namiesto toho, aby sa spoliehali len na príležitostný prístup ku komerčným snímkam alebo aby konkurovali komerčným a obranným prioritám, sa takéto prístupy snažia vytvoriť systémy, ktorých hlavnou úlohou je slúžiť humanitárnym potrebám. Kľúčový je model riadenia zameraný na nezávislosť, otvorený prístup pre humanitárnych aktérov a zodpovedné hospodárenie.

Preklad Šimon Saboslaj