Profesor Quattrociocchi: Magnifica humanitas posouvá debatu o umělé inteligenci
Fabio Colagrande, Vatikán
„(...) takzvané umělé inteligence neprožívají žádnou zkušenost, nemají tělo, neprocházejí radostí ani bolestí a neuzrávají ve vztazích (...).“ Tato slova papeže Lva XIV. z 99. článku encykliky Magnifica humanitas považuje profesor Walter Quattrociocchi za jeden z klíčových bodů vůbec prvního papežského dokumentu věnovaného fenoménu umělé inteligence.
Podle ředitele Centra pro datovou vědu a komplexitu společnosti (CSDS) na Univerzitě Sapienza přichází tato analýza v pravý čas. Pomáhá totiž vyvést veřejnou debatu ze slepé uličky, v níž se dosud střetávalo jen naivní nadšení s katastrofickými scénáři.
Otázka nestojí, zda stroje myslí
Quattrociocchi oceňuje, že encyklika nahlíží na problematiku z hlubšího, metodologického a poznávacího hlediska. Nutí nás přemýšlet o tom, co to vlastně vědomosti jsou, jak vznikají a kde leží jejich limity.
„Rozhodujícím úkolem dneška není vyřešit otázku, zda stroje myslí, nebo ne,“ vysvětluje římský profesor. „Musíme pochopit, jak zásadně tyto technologie mění způsob, jakým jako společnost budujeme vědění, jak formujeme svůj úsudek, jak nahlížíme na pravdu a jak utváříme mezilidské vztahy.“
Text Lva XIV. podle něj velmi přesně pojmenovává, že nejde jen o technickou či antropologickou výzvu, ale o proměnu samotného procesu učení. Jazyková přesvědčivost, kterou generují velké jazykové modely (LLM), se totiž stále těsněji prolíná s lidským rozhodováním a stává se od něj téměř neodlišitelnou.
Past jménem „simulace úsudku“
Nejčastějším omylem uživatelů je, že zaměňují kvalitu vygenerovaného textu s procesem, který ho vytvořil. „Vidíme smysluplný jazyk a automaticky předpokládáme, že za ním stojí racionální uvažování podobné tomu lidskému. To je ale hluboký omyl,“ varuje Quattrociocchi.
Jazykové modely fungují na bázi statistických pravděpodobností. Sestavují k sobě slova, která k sobě logicky pasují, ale nemají žádnou reálnou zkušenost se světem a neumějí si ověřit fakta. Výzkumný tým profesora Quattrociocchiho nedávno publikoval studii s názvem Simulace úsudku, která dokazuje, že při komplexních úkonech jsou tyto systémy jako spolehlivý zdroj zcela nepoužitelné.
„Nedostáváme skutečné posouzení, ale pouze jeho simulaci. Nejde o interakci, ale o simulovanou interakci,“ zdůrazňuje vědec.
Rozdíl je přitom fatální. Zatímco člověk jedná v určitém morálním a právním rámci, dokáže si přiznat chybu a o svých rozhodnutích pochybovat, algoritmy se pohybují v čistě matematické rovině pravděpodobnostních odhadů.
Když věrohodnost vítězí nad pravdou
Největší hrozbou dneška tak nejsou občasné „halucinace“ a zjevné chyby algoritmů, ale naopak situace, kdy systém vygeneruje chybu, která není na první pohled patrná.
„Směřujeme ke společnosti, která systematicky nahrazuje pečlivé ověřování zdrojů pouhou vnímanou věrohodností,“ popisuje Quattrociocchi varovný trend. Zatímco dříve poznání vyžadovalo kritickou konfrontaci pramenů a testování hypotéz, generativní nástroje uživateli naservírují hotový, stylisticky bezchybný a na pohled nesmírně přesvědčivý balíček.
Tento jev navíc nebezpečně nahrává tzv. ekonomice pozornosti. Sociální sítě dlouhodobě odměňují obsah, který šokuje a poutá pozornost, nikoli ten, který informuje. Jazykové modely tuto produkci zlevnily a zindustrializovaly. Přestože samy o sobě nemají záměr lidmi manipulovat, jejich texty jsou natolik sugestivní, že k manipulaci slouží dokonale.
Transparence nestačí, nastupuje „epistemia“
Volání po etice a transparentnosti, kdy se po technologických firmách požaduje pouze otevření zdrojových kódů či zveřejnění trénovacích dat, považuje Quattrociocchi za nedostatečné. „Klíčové je porozumět tomu, jak systém k danému závěru došel, jaké signály vyhodnotil a jaké zkratky v jeho uvažování jsou skryté.“
Výzkumníci ze Sapienzy v této souvislosti zavedli nový pojem „epistemia“ – termín, kterým záměrně ironizují klasický filozofický pojem pro absolutní vědění. V jejich podání označuje „komfortní iluzi jedince, že disponuje neotřesitelnými a ověřenými znalostmi, ačkoli reality je opačná.“
„Dramaticky roste počet lidí, kteří se vyjadřují k tématům, o nichž nic neví, protože propadli této iluzi absolutního vědění,“ upozorňuje profesor. Uživatelé delegují psaní textů i přemýšlení na stroje, aniž by měli nástroje k jejich kontrole. Veřejný prostor se tak plní formálně dokonalým, ale obsahově prázdným balastem, který neobstojí v žádné racionální diskusi. Kvůli tomu je čím dál těžší odlišit skutečné experty od laiků.
Konec naivního dětství v debatách o AI
Encyklika Magnifica humanitas podle Quattrociocchiho představuje zásadní zlom. Zbavuje debatu o umělé inteligenci dětských nemocí, naivity a neprofesionality, které často pramenily z neznalosti věci.
Klíčová otázka, kterou papež Lev XIV. předkládá celé moderní společnosti a nad kterou musíme začít vážně přemýšlet, zní: Co pro nás jako lidstvo znamená, když začneme zásadní rozhodnutí delegovat na stroje, které lidskou komunikaci a úsudek pouze imitují, aniž by vůbec tušily, co je to vztah a co je to odpovědnost?
Překlad -dv-
