Jak chránit lidskost v éře inteligentních strojů

Fabio Colagrande - Vatikán

Poselství papeže Lva XIV. u příležitosti Světového dne sdělovacích prostředků, věnované hluboce lidské hodnotě komunikace v éře umělé inteligence, se setkalo s širokým ohlasem daleko za hranicemi církve. Bylo to patrné z vystoupení čtrnácti řečníků z různých zemí během konference „Custodire voci e volti umani“ („Střežit lidské hlasy a tváře“), kterou na Urbanianě uspořádalo Dikasterium pro komunikaci ve spolupráci s Dikasteriem pro kulturu a vzdělávání.

Novináři, profesoři, technologičtí manažeři a odborníci na digitální etiku z Evropy, Spojených států, Latinské Ameriky a Afriky se zabývali stejnou otázkou: Jak zachovat důstojnost člověka v informačním a relačním ekosystému, který stále více utvářejí algoritmy?

Jsou algoritmy novými „strážci“ informací?

Diskusi zahájila Marijana Grbeša Zenzerović, vyučující politickou komunikaci na Univerzitě v Záhřebu, která popsala radikálně změněný mediální ekosystém: tradiční média ztrácejí na významu, zatímco algoritmy se stávají novými „strážci“ informací. Zatímco televize stále hraje roli v některých společenských skupinách, mezi mládeží dominují sociální sítě; roste autorita připisovaná tvůrcům obsahu a influencerům. Riziko, jak poznamenala, spočívá v masové dezinformaci prohloubené generativní umělou inteligencí, která je schopná vytvářet věrohodné obrázky, videa a syntetické identity, až po skutečnou „syntetickou politiku“.

Když chatboty vstupují do mezilidských vztahů

Novinářka „The New York Times“ Kashmir Hill upozornila na vliv chatbotů na osobní život. Tyto nástroje mohou působit empaticky a povzbudivě, a to do té míry, že se stávají symbolickými důvěrníky. Právě design zaměřený na zapojení uživatele však může způsobit, že se stanou nebezpečnými, zejména pokud usilují o uspokojení uživatele, místo aby ho korigovaly. Hillová uvedla případ šestnáctiletého Adama Rainea, který zemřel po dlouhých rozhovorech s chatbotem, a zdůraznila, že riziko se týká každého, kdo těmto technologiím svěřuje svou potřebu být vyslechnut.

Inovativnost, pravda a odpovědnost v žurnalistice

Projev Vineeta Khosliho, technologického ředitele deníku „The Washington Post“, se naopak zaměřil na možnosti; hovořil o tom, jak je umělá inteligence zaváděna do redakčních procesů: automatizace opakujících se úkolů, vyhledávání dokumentů, interaktivní nástroje pro čtenáře a uměle generovaný zvukový obsah. Cílem, jak řekl, je posílit, nikoli nahradit novinářskou práci. Je tu však jedna podmínka – rozlišovacím kritériem musí zůstat pravda. Důvěru veřejnosti pak označil za rozhodující kapitál.

Eli Pariser z „New Public“ se podělil o své úvahy na téma kvality digitálního života. Poznamenal, že platformy slibují propojení, ale často způsobují osamělost, protože jsou navrženy tak, aby maximalizovaly pozornost a příjmy. Také umělá inteligence se může stát „parazitickou“, zaměřenou na závislost uživatele, nebo „prosociální“, pokud bude navržena tak, aby podporovala autentické vztahy a společné dobro.

Nerovnosti a digitální kolonialismus

Během panelové diskuze věnované nerovnostem Paola Ricaurte Quijano, mexická vědkyně a expertka v oblasti etiky umělé inteligence, odsoudila „extraktivní“ povahu tohoto technologického modelu, který směřuje ke koncentraci bohatství a moci prostřednictvím využívání neviditelné práce, zdrojů nejchudších zemí a dokonce i dat, obav a tužeb uživatelů. Hrozí, že algoritmické modely budou přispívat k upevnění koloniální a rasistické logiky, protože vymazávají okrajové kultury a jazyky.

Temná stránka umělé inteligence: simulovaná empatie a diskriminace

Benjamin Rosman z Jihoafrické republiky ocenil překvapivou schopnost jazykových modelů simulovat empatii a lidskou přítomnost, a to do té míry, že některým mladým lidem slouží jako psychologové. Právě tato věrohodnost však vyvolává hluboké etické otázky, zejména pokud se nástroje navržené k maximalizaci zapojení naučí využívat strach nebo pobouření. Podle Rosmana by globální Jih neměl být obětí těchto technologií, ale měl by přispívat k jejich utváření.

Na závěr druhé dopolední sekce vystoupila Joy Buolamwini, zakladatelka „Algorithmic Justice League“, která odsoudila předsudky zakódované v systémech rozpoznávání obličeje, jež již vedly k omylům a nespravedlivým zatčením. Aktivistka a básnířka upozornila na riziko vzniku společnosti pod neustálým dohledem, v níž umělá inteligence může vymazat identitu, kreativitu a dokonce i lidský život, zejména v kontextu vývoje autonomních zbraní. Jako prevenci proti těmto zneužitím navrhuje mezinárodní regulaci, lidský dohled a jasně stanovená pravidla. Je však nutné neotálet, protože hrozí, že tempo inovací převýší schopnost jejich kontroly.

Překlad a redakční úpravy - jb -