Profesor z Sapienzy: Magnifica humanitas pogłębia debatę o AI

Fabio Colagrande – Watykan

„(...) tak zwane sztuczne inteligencje nie przeżywają doświadczeń, nie posiadają ciała, nie doświadczają radości ani cierpienia, nie dojrzewają w relacjach (...)”. Te słowa Leona XIV z punktu 99 encykliki Magnifica humanitas stanowią, zdaniem Waltera Quattrociocchiego, jeden z najważniejszych fragmentów pierwszej encykliki poświęconej sztucznej inteligencji.

TUTAJ AUDIOBOOK MAGNIFICA HUMANITAS PO POLSKU

W wywiadzie dla mediów watykańskich profesor informatyki na Uniwersytecie Sapienza w Rzymie oraz dyrektor Center of Data Science and Complexity for Society podkreśla, że dokument papieski pomaga przenieść debatę publiczną na głębszy poziom.

Poza debatą między entuzjazmem a strachem

Zdaniem Quattrociocchiego encyklika „przesuwa wskazówkę debaty, która dotąd oscylowała między naiwnym entuzjazmem a katastroficznymi wizjami”, podejmując temat z perspektywy metodologicznej i epistemologicznej. Zachęca bowiem do refleksji nad tym, czym jest wiedza, jak powstaje i jakie są jej granice.

Kluczową kwestią – zauważa uczony – nie jest rozstrzyganie, czy maszyny myślą, czy nie, lecz zrozumienie, „w jakim stopniu technologie te zmieniają warunki i kryteria, dzięki którym społeczeństwo buduje wiedzę, osąd, prawdę, a także relacje międzyludzkie”.

Jego zdaniem tekst Leona XIV jest szczególnie trafny, ponieważ dostrzega, że wyzwanie nie ma wyłącznie charakteru technicznego ani antropologicznego, lecz dotyczy samego procesu uczenia się.

To pierwsza encyklika Leona XIV   (@Vatican Media)

„Dzisiaj – wyjaśnia – wiarygodność językowa, czyli to, co optymalizują duże modele językowe (Large Language Models), wchodzi w interakcję z odpowiedzialnością ludzkiego osądu, splata się z nią i staje się niemal nierozdzielna.”

Symulacja osądu

Jednym z najczęściej spotykanych nieporozumień jest utożsamianie jakości odpowiedzi chatbota z naturą procesu, który ją generuje.

„Widzimy język i natychmiast jesteśmy skłonni sądzić, że został on wytworzony przez coś, co rozumuje w sposób podobny do nas. Tymczasem wcale tak nie jest” – mówi profesor.

Modele językowe – wyjaśnia Quattrociocchi – tworzą spójne i przekonujące teksty dzięki statystycznym korelacjom, nie posiadając jednak doświadczenia świata ani zdolności do weryfikowania informacji.

Odwołując się do badań swojego zespołu zatytułowanych „Symulacja osądu”, naukowiec stwierdza, że w przypadku złożonych zadań systemy te nie są w stanie formułować rzeczywiście wiarygodnych ocen.

TUTAJ PEŁNY TEKST ENCYKLIKI PO POLSKU

„Nie mamy do czynienia z osądem, lecz z jego symulacją; nie mamy interakcji, lecz symulację interakcji”.

Różnica jest zasadnicza: człowiek działa w określonym kontekście normatywnym, potrafi rozpoznać błąd i poddać refleksji własne decyzje. Modele językowe natomiast funkcjonują w obrębie „czysto statystycznego przybliżania słów”.

Przejrzystość, odpowiedzialność i nowe uprzedzenia

Szczególnie niepokojący jest wpływ na procesy poznawcze i kulturowe. „W imponującym tempie wzrosła liczba osób wypowiadających się na tematy, których nie znają, i padających ofiarą choroby pewnej wiedzy, czyli epistemii” – mówi Quattrociocchi. Termin ten został ukuty przez zespół badaczy kierowany przez naukowca, aby opisać komfortową iluzję posiadania wiedzy pewnej i zweryfikowanej.

Prezentacja encykliki Magnifica humanitas   (@Vatican Media)

Jak zauważa badacz, wielu użytkowników całkowicie deleguje modelom językowym tworzenie treści, nie dysponując jednocześnie narzędziami pozwalającymi na ich weryfikację. W rezultacie do przestrzeni publicznej trafiają informacje „doskonale opakowane, ale w rzeczywistości puste i niezdolne do obrony w racjonalnym rozumowaniu”. Zdaniem Quattrociocchiego jest to zjawisko, które może coraz bardziej utrudniać odróżnienie prawdziwej wiedzy od jej braku.

Bardziej dojrzała debata

W zakończeniu profesor informatyki wyraża uznanie dla wkładu, jaki encyklika wnosi do współczesnej debaty. Magnifica humanitas – podkreśla – „przedstawia bardzo trzeźwą i znacznie mniej obciążoną infantylizmem oraz naiwnością wizję, które wynikają z niewystarczającej znajomości tematu”, przenosząc dyskusję na bardziej dojrzały poziom.

Profesor z Sapienzy liczy, że encyklika Leona XIV pogłębi debatę o sztucznej inteligencji   (@Vatican Media)

Końcowa refleksja dotyczy pytania, które – zdaniem Quattrociocchiego – przewija się przez cały dokument papieża Leona XIV:

„Co oznacza dla naszego społeczeństwa powierzanie maszynom, które jedynie symulują interakcję i symulują osąd, zadań wymagających relacji i prawdziwego sądu, skoro same nie wiedzą, czym jest relacja ani czym jest osąd?”