Zůstat člověkem v éře algoritmů
Andrea Tornielli
V čase umělé inteligence, kdy lidské důstojnosti hrozí, že bude zastíněna enormními koncentracemi takřka všemocných technologií mimo veškerou kontrolu, o nových formách odlidštění nemluvě, nám papež Lev připomíná „naléhavou povinnost“ zůstat hluboce lidskými. V epoše polarizace a násilí, která, jak se zdá, expanduje do jakési „kultury moci“, rehabilitující válku coby nástroj mezinárodní politiky, od nás Petrův nástupce žádá, abychom nechali růst techniku, „aniž by zakrnělo srdce“. Jsme zváni, abychom přijali omezení a křehkost lidskosti, aniž bychom je na způsob technokratické ideologie pokládali za chybu, kterou je třeba opravit. Papež nás povzbuzuje, abychom se na svět dívali nikoli pohledem těch největších, nýbrž zdola, očima trpících a vůbec těch nejposlednějších – očima Boha, který na sebe vzal naši slabost a přetvořil ji v místo spásy, protože „i když nás stroje překonávají ve výkonnosti, jádrem dějin zůstává lidská tvář, do níž je žádoucí pohlédnout“.
Magnifica humanitas, první encyklika Lva XIV., není na prvním místě text analyzující umělou inteligenci, nezabývá se detaily procesů, které se neustále vyvíjejí. Je to především „sumarizace“, souhrn, který aplikuje principy sociálního učení církve na naši dobu, jež je dobou AI, souhrn, který konsoliduje a aktualizuje stěžejní body nauky. Je to text, který staví hráz nejednoznačnostem, jež jsou vlastní těm, kdo se přespříliš spoléhají na absolutní svobodu trhu a nových technologií a mají tendenci zamlčovat závaznost papežského učení ohledně požadavků lidských vlád sdílených s AI, ohledně integrální ekologie, ohledně ekologických struktur, které se stávají „strukturami hříchu“, ohledně ne válce – ve snaze z toho všeho udělat jen nezávazné názory.
Papež, který přijal jméno autora encykliky Rerum novarum, žádá v době digitální revoluce, aby každý z nás přijal aktivní roli při budování „civilizace lásky“, která se má uskutečnit díky „souhrnu malých a vytrvalých věrností“, schopných učinit přítrž odlidštění. To je tedy úkol, který se týká nás všech velmi osobně.
Lev nám připomíná, že „nespravedlnost se nerodí pouze ze špatných rozhodnutí jednotlivců, ale také ze struktur, mechanismů, ekonomických a kulturních nastavení, která vytvářejí nerovnost“, a že „není lidský takový rozvoj, který rozmnožuje spotřebu jedněch na úkor nákladů a škod u druhých nebo který odsuzuje celá území k podřízené roli“, jak se to děje dokonce i dnes, a to i ve vztahu k novým technologiím a ke zdrojům, které si tyto technologie vyžadují. Jak se dočteme v nové encyklice, je „s určitostí naukou církve“ to, že soukromý majetek má svou sociální funkci; a v současnosti mezi univerzální dobra, určená všem, „musíme počítat i nové formy vlastnictví: patenty, algoritmy, digitální platformy, technologické infrastruktury, data“, abychom se vyhnuli tomu, že zůstanou ve skrytosti nebo se utvrdí nové formy toho, jak druhé vyloučit nebo připravit o svobodu. Technika není ve své podstatě prostě a jednoduše nástroj, a stane-li se kritériem, „skončí to tím, že bude určovat, co má cenu a co lze skartovat“, a v důsledku redukuje „lidi na kolečka v systému, který má být stále účinnější“.
Kontrola platforem, infrastruktur, dat a výpočetní techniky dnes „není výsadou států, nýbrž velkých ekonomických a technologických hráčů“, kteří určují podmínky dostupnosti a vlastní pravidla viditelnosti a možnosti spoluúčasti. Když se taková moc soustředí v několika málo rukou, „má tendenci se ztrácet v mlze a vymanit se veřejné kontrole“, což s sebou nese riziko vývoje vymknutého z kloubů, „který plodí nové závislosti, vyloučení, manipulaci a nerovnost“.
Papež zdůrazňuje, že teorie „spravedlivé války“ byla překonána, a žádá, aby užívání umělé inteligence na bojišti bylo podřízeno těm nejpřísnějším etickým kritériím, protože „neexistuje algoritmus, který by mohl učinit válku morálně přijatelnou“. Krom toho se umělá inteligence stala určujícím prvkem pro utváření veřejného mínění prostřednictvím manipulace s obrazy a obsahy, takže je stále těžší rozlišit pravdu a lež. Je nadto až příliš mnoho neznámých vlivů působících na trh práce. Vzhledem k tomu, připomíná encyklika, není již možné důvěřovat jedině „neviditelné ruce trhu“; je úkolem politiky nasměrovat ekonomicko-technologické procesy ke společnému dobru a podporovat důstojnou práci, sociální inkluzi a spravedlivé rozdělování přínosů inovace.
Zůstat lidskými, ovládat procesy, vyhnout se – i v této oblasti – monopolům, které končí tím, že rozmnožují moc několika jedinců na úkor existence mnoha lidí: cesta narýsovaná papežem nestaví barikády ani neodmítá a priori užívání AI. Poukazuje i na její pozitivní aspekty a na řadu užitečných aplikací, ale zároveň vysvětluje, že nestačí ztotožnit etickou otázku s prospěchem či škodou toho, kdo je užívá. Je neodmyslitelně nutné začít s tím, že se budeme ptát, jak byl ten který systém navrhnut a jaké pojetí člověka a společnosti bylo vepsáno do dat a modelů, které tento systém řídí. K tomu mají sloužit přiměřené právní rámce, nezávislá kontrola, vzdělávání uživatelů, a především ještě jednou „politika, která se nezříká svého vlastního poslání“. V opačném případě bude příslušná změna ovládána pouze technokratickým smýšlením a bude představována jako „nutná a nevyhnutelná“, což bude v důsledku znamenat vnucená pravidla „diktovaná“ těmi, kdo budou vlastnit data, infrastruktury a výpočetní techniku.
Je proto nezbytné „odzbrojit“ umělou inteligenci, tzn. „rozbít tuto představu rovnosti mezi technickou uskutečnitelností a právem vládnout“ – ne proto, abychom odmítli technologii, ale abychom jí zabránili vládnout lidem. Musí zůstat otevřená diskusi, odmítnutí a tedy i užívání, a to proto, abychom se nezřekli své lidskosti, tak křehké a tak „velkolepé“.
překlad - zd -
