Pesquisador italiano: “Magnifica humanitas” convida a não delegar o julgamento

Fabio Colagrande – Vatican News

“(…) as ditas inteligências artificiais não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações (…)”. Essas palavras do Papa Leão XIV, no número 99 da Magnifica humanitas, representam, segundo Walter Quattrociocchi, um dos pontos mais significativos da primeira encíclica dedicada à Inteligência Artificial. Em entrevista à mídia vaticana, o professor titular de Ciência da Computação da Universidade La Sapienza de Roma e diretor do Center of Data Science and Complexity for Society destaca como o documento pontifício contribui para levar o debate público a um nível mais profundo.

Além do debate entre entusiasmo e medo

Segundo Quattrociocchi, a encíclica “desloca o foco da discussão, que oscila entre o entusiasmo ingênuo e o catastrofismo”, abordando a questão a partir de uma perspectiva metodológica e epistêmica, ou seja, convidando a refletir sobre o que é o conhecimento, como ele se forma e quais são seus limites. O ponto decisivo, observa ele, não é determinar se as máquinas pensam ou não, mas compreender “até que ponto essas tecnologias estão transformando as condições e os critérios através dos quais uma sociedade constrói conhecimento, julgamento e verdade, e também as relações”. Em sua opinião, o texto de Leão XIV é particularmente perspicaz ao reconhecer que o desafio não é apenas técnico ou antropológico, mas diz respeito ao próprio processo de aprendizagem. “Hoje — explica ele — a plausibilidade linguística, aquela que é otimizada pelos Large Language Models, interage, se interconecta e se torna quase indivisível da responsabilidade do julgamento humano”.

A simulação do julgamento

Um dos equívocos mais comuns consiste, de fato, em confundir a qualidade do resultado de um chatbot com a natureza do processo que o gera. “Nós vemos a linguagem e somos imediatamente levados a pensar que ela foi produzida por algo que raciocina de maneira semelhante à nossa, mas isso não é verdade alguma”. Os modelos linguísticos, explica ele, produzem textos coerentes e convincentes por meio de correlações estatísticas, sem ter experiência do mundo nem capacidade de verificar as informações.

Citando uma pesquisa de seu grupo de trabalho, intitulada “A simulação do julgamento”, Quattrociocchi afirma que, para tarefas complexas, esses sistemas não são capazes de produzir avaliações realmente confiáveis. “Não temos um julgamento, mas uma simulação do julgamento; não temos uma interação, temos uma simulação da interação”. A diferença é substancial: o ser humano opera em um contexto normativo, sabe reconhecer o erro e questionar suas próprias decisões; os modelos linguísticos, por outro lado, movem-se no âmbito da “mera aproximação estatística das palavras”.

Quando a plausibilidade substitui a verificação

Para o professor e pesquisador da Sapienza, o principal risco não é tanto a alucinação do algoritmo, mas sim sua invisibilidade. “O risco, mais do que quando o erro da máquina se manifesta, é quando ele não se manifesta”. “O ponto crítico — explica ele — é uma sociedade que substitui progressivamente a verificação pela plausibilidade percebida”. Se tradicionalmente o conhecimento nasce da comparação de fontes e da verificação de hipóteses, os sistemas generativos tendem a comprimir tudo em um resultado já pronto e linguisticamente credível.

No campo da informação, esse fenômeno se entrelaça com as dinâmicas da economia da atenção. As redes sociais, observa Quattrociocchi, premiam o que chama a atenção mais do que o que informa. Nesse contexto, os Large Language Models “simplificam e industrializam essa produção de conteúdo capaz de persuadir o usuário” e, embora não tenham sido projetados para manipular, “conseguem muito bem manipular”.

Transparência, responsabilidade e novos “viéses”

Ao comentar a observação do Papa de que as Inteligências Artificiais são, na verdade, “cultivadas” e não “construídas” — e, portanto, crescem de forma autônoma —, Quattrociocchi destaca que esses sistemas são “o que há de mais distante do conceito de normativo que possa existir”. Por isso, ele considera enganoso interpretá-los por meio de categorias que os assimilam ao ser humano. A abordagem ética que invoca a transparência da IA acaba sendo, portanto, insuficiente, pois, explica ele, não basta simplesmente abrir o código ou publicar os dados de treinamento. “O problema é entender como o sistema chega a uma resposta, que sinal utiliza e, sobretudo, que atalho incorpora”.

O grupo de pesquisa do "Center for Data Science and Complexity for Society" da Sapienza em fevereiro de 2026

Particularmente preocupante é o efeito sobre os processos cognitivos e culturais. “Aumentou de forma impressionante o número de pessoas que falam sobre assuntos que não conhecem e acabam sendo vítimas da doença do conhecimento certo, ou seja, da epistemia” (termo cunhado por um grupo de pesquisadores liderado por Quattrociocchi para descrever a ilusão reconfortante de possuir um conhecimento certo e verificado). Muitos usuários — observa o estudioso — delegam, portanto, integralmente aos modelos linguísticos a produção de conteúdos sem possuir as ferramentas necessárias para verificá-los. O resultado é a introdução no espaço público de informações “perfeitamente embaladas, mas que, na verdade, são vazias e não resistem ao raciocínio”. Uma dinâmica que, segundo Quattrociocchi, corre o risco de tornar cada vez mais difícil distinguir entre saber e não saber.

Uma discussão mais madura

Nas conclusões, o professor de Informática expressa apreço pela contribuição oferecida pela encíclica ao debate contemporâneo. A Magnifica humanitas, afirma, “traz uma visão muito lúcida e muito menos presa a infantilismos e ingenuidades que nascem do pouco conhecimento do assunto”, colocando a discussão em um terreno mais maduro. O desejo final diz respeito a uma reflexão, cada vez mais necessária, sobre a questão que – segundo Quattrociocchi – permeia todo o documento do Papa Leão XIV: “o que implica para nossa sociedade delegar a máquinas que simulam a interação e simulam o julgamento, sem saber o que é relação e o que é julgamento?”.