Papež

Lev XIV.: Chraňme lidské tváře a hlasy před algoritmy

Papež Lev XIV. vydal k 60. světovému dni sdělovacích prostředků poselství „Střežit lidské hlasy a tváře“. V jubilejním textu varuje před riziky umělé inteligence a redukcí člověka na algoritmus. Svatý otec vyzývá tvůrce technologií, zákonodárce i uživatele k etické odpovědnosti a zdůrazňuje, že digitální inovace musí sloužit autentickému lidskému setkávání, nikoliv manipulaci.

Vatikán / Česká redakce Vatican News

Svatý otec se v poselství obrací nejen na pracovníky v médiích, ale na celou lidskou rodinu – od tvůrců algoritmů a zákonodárců až po každého jednotlivého uživatele digitálních technologií. Cílem tohoto jubilejního textu, vydaného 60 let poté, co tradici těchto poselství založil sv. Pavel VI., je v aktuálním historickém momentu připomenout, že středem každé komunikace musí zůstat člověk, jeho jedinečná tvář a upřímná odpovědnost, které jsou dnes vystaveny výzvám i rizikům umělé inteligence.

Komunikace není algoritmus, ale vztah

„Tvář a hlas jsou posvátné. Byly nám darovány Bohem, který nás stvořil k svému obrazu a podobě...“

Svatý otec zdůrazňuje, že tvář a hlas jsou posvátné prvky lidské identity: „Tvář a hlas jsou posvátné. Byly nám darovány Bohem, který nás stvořil k svému obrazu a podobě... Střežit lidské tváře a hlasy proto znamená střežit tuto pečeť, tento nesmazatelný odlesk Boží lásky. Nejsme živočišný druh tvořený biochemickými algoritmy definovanými předem: každá osoba má nezastupitelné a neopakovatelné povolání.“ Papež dále v úvodu vysvětluje hluboký význam lidské identity skrze antickou moudrost. Řekové pro osobu používali slovo prósōpon (tvář), což označuje to, co stojí „před pohledem“ druhého. Latina zase pracuje s termínem persona (per-sonare – znít skrze), která odkazuje na nezaměnitelný zvuk lidského hlasu. V éře, kdy AI dokáže simulovat lidské rysy, papež varuje: „Umělá inteligence skrze simulaci lidských hlasů a tváří zasahuje do nejhlubší roviny komunikace – tedy do vztahů mezi lidmi, do vědění a poznání, svědomí a odpovědnosti, empatie a přátelství. Vyžaduje proto zvláštní bdělost, aby nedošlo k záměně kritérií jejího rozvoje.“

Papež poukazuje na to, že současné platformy často upřednostňují rychlé emoce a polarizaci, protože jsou ziskové. Algoritmy nás uzavírají do „bublin souhlasu“, čímž oslabují kritické myšlení a schopnost naslouchat druhým. „Je již zřejmé, že algoritmy navržené k maximalizaci zapojení na sociálních sítích – což je pro platformy ziskové – odměňují rychlé emoce a naopak penalizují lidské projevy, které vyžadují více času k pochopení a reflexi. Tím, že uzavírají skupiny lidí do bublin snadného souhlasu, tyto algoritmy oslabují schopnost naslouchání i kritického myšlení a zvyšují společenskou polarizaci. [...] Systémy, které vydávají statistickou pravděpodobnost za poznání, nám ve skutečnosti nabízejí v nejlepším případě jen přiblížení k pravdě, která jsou někdy skutečnými ‚halucinacemi‘.“

Nebezpečí „antropomorfizace“ strojů a koncentrované moci

„To vyvolává vážné obavy ohledně oligopolní kontroly algoritmických systémů a umělé inteligence, které jsou schopny jemně usměrňovat chování, a dokonce přepisovat lidské dějiny...“

Papež kritizuje naivní důvěru v AI jako v nějakého „vše vědoucího přítele“ nebo „orákulum“. Varuje před procesem, kdy stroje přebírají kontrolu nad texty, hudbou a videem, čímž hrozí demontáž lidské kreativity. Výsledkem jsou pak „anonymní produkty bez otcovství a bez lásky“, zatímco lidé se stávají pasivními konzumenty „myšlenek, které nikdo nepromyslel“.

Zvláště varovný je papežův postřeh o tzv. chatbotech. Jejich schopnost napodobovat lidské city a simulovat vztah označuje za klamavou: „Tato antropomorfizace může být i zábavná, ale je zavádějící, zejména pro zranitelné osoby. Příliš ‚citoví‘ chatboti se mohou stát skrytými architekty našich emocí a okupovat naši intimní sféru.“

Svatý otec vyjadřuje obavu nad neomezenou kontrolou systémů, které mají téměř globální vliv a přitom jsou řízeny několika málo komerčními společnostmi. „To vyvolává vážné obavy ohledně oligopolní kontroly algoritmických systémů a umělé inteligence, které jsou schopny jemně usměrňovat chování, a dokonce přepisovat lidské dějiny – včetně dějin církve.“

Výzva k odpovědnosti v éře AI

„Výzva, která nás čeká, spočívá v tom, abychom si tyto procesy uvědomili a řídili digitální inovace s ohledem na jejich ambivalentní charakter...“

Podle Lva XIV. není výzva, které čelíme, primárně technologická, ale antropologická. „Otázkou není, co dokáže stroj, ale co můžeme udělat my s použitím těchto mocných nástrojů, abychom rostli v lidskosti,“ píše Svatý otec. „Výzva, která nás čeká, spočívá v tom, abychom si tyto procesy uvědomili a řídili digitální inovace s ohledem na jejich ambivalentní charakter... Tento proces je možný, ale musí se opírat o tři pilíře: odpovědnost, spolupráci a vzdělávání. [...] Žádná technologie nemůže nahradit odpovědnost lidského srdce ani zastoupit pravdu skutečného vztahu.“

Papež definuje tři pilíře pro zdravý digitální rozvoj:

Odpovědnost: Svatý otec apeluje na všechny úrovně společnosti. U představitelů digitálních platforem žádá, aby zisk nebyl jediným kritériem a aby firemní strategie braly v úvahu důstojnost osob. Vývojáři AI musí zajistit transparentnost svých modelů, zatímco zákonodárci mají povinnost regulovat digitální prostor tak, aby chránili integritu informací před „klamavou simulací“, dezinformacemi a zneužitím tzv. deepfakes.

Spolupráce: Žádný sektor nemůže výzvám digitální revoluce čelit osamoceně. Podle papeže je nezbytné vytvořit ochranné mechanismy prostřednictvím širokého dialogu. Do budování „vědomého digitálního občanství“ musí být zapojeni všichni: od technologického průmyslu a akademiků přes umělce a novináře až po církev. Jen společné úsilí může zajistit, že inovace budou sloužit společnému dobru.

Vzdělávání: Tento pilíř míří k posílení kritického myšlení jednotlivců. Papež volá po nové formě „AI gramotnosti“, která lidem pomůže pochopit psychologické mechanismy digitálního světa a odhalit skryté zájmy stojící za výběrem informací. Lidé se musí naučit odhalovat předsudky (bias) algoritmů, zodpovědně nakládat s vlastní digitální stopou – chránit svou tvář, obraz a hlas – a předcházet tak kyberšikaně či digitálním podvodům. „Tato gramotnost by měla být integrována do širších iniciativ celoživotního vzdělávání a zasáhnout i seniory a marginalizované členy společnosti, kteří se tváří v tvář rychlým technologickým změnám často cítí vyloučeni a bezmocní.“

Pokoj začíná u vnímání lidskosti druhých

V závěru poselství papež vyzývá křesťany, aby byli „tkalci autentických vztahů“. Komunikace by neměla hledat souhlas za každou cenu ani používat agresivní slova. „Mír totiž začíná u každého z nás: ve způsobu, jakým se díváme na druhé, jak jim nasloucháme a jak o nich mluvíme. [...] Pamatujme na toto: žádná technologie nemůže nahradit odpovědnost lidského srdce ani zastoupit pravdu skutečného vztahu,“ připomíná Lev XIV.

Svatý otec vybízí, aby lidská komunikace odrážela Boží tvář a slovo, a stala se tak nástrojem společenství, svobody a lásky.

-dv-