Permanecer humanos na era dos algoritmos

Andrea Tornielli

Na era da inteligência artificial, com a dignidade humana correndo o risco de ser ofuscada pelas enormes concentrações de poder tecnológico fora de qualquer controle e por novas formas de desumanização, o Papa Leão nos exorta ao “dever urgente” de permanecermos profundamente humanos. Na época das polarizações e da violência, que vê expandir-se uma “cultura do poder” com a guerra reabilitada como instrumento de política internacional, o Sucessor de Pedro nos pede para fazer a tecnologia avançar “sem que o coração regrida”. Ele nos convida a aceitar o limite e a fragilidade da humanidade sem considerá-los, como faz a ideologia tecnocrática, um erro a ser corrigido. Ele nos exorta a olhar para o mundo não pela ótica dos grandes, mas de baixo para cima, com os olhos de quem sofre, a partir dos últimos. Com os olhos de um Deus que tomou sobre si nossa fraqueza, transformando-a em um lugar de salvação, porque “mesmo quando as máquinas se destacam pela eficiência, o centro da história continua sendo um rosto humano que pede para ser olhado”.

“Magnifica humanitas”, a primeira encíclica de Leão XIV, não é, antes de tudo, um texto analítico sobre inteligência artificial, nem entra em detalhes sobre processos em constante evolução. Trata-se, antes, de uma “summa” que aplica os princípios da Doutrina Social à nossa época — a era da IA —, consolidando e atualizando os pontos fundamentais do magistério. É um texto que também põe fim ao equívoco daqueles que, confiando na liberdade absoluta dos mercados e das novas tecnologias, tendem a descartar como ensinamento discutível o magistério papal sobre o pedido de um governo humano compartilhado da IA, sobre a ecologia integral, sobre as estruturas econômicas que se tornam “estruturas de pecado”, sobre o não à guerra.

O Papa, que assumiu o nome do autor da “Rerum novarum”, na era da revolução digital, pede a cada um de nós que assuma um papel ativo, pois a construção da “civilização do amor” se realiza graças a “uma soma de pequenas e tenazes fidelidades”, capazes de conter a desumanização. Uma tarefa, portanto, que diz respeito a todos nós, e de perto.

Leão nos recorda que “as injustiças não nascem apenas de escolhas erradas dos indivíduos, mas também de estruturas, mecanismos, ordenamentos econômicos e culturais que geram desigualdade” e que “não é humano um desenvolvimento que aumenta o consumo de alguns, transferindo custos e danos para outros, ou que relega regiões inteiras a papéis subordinados”, como infelizmente está acontecendo hoje também no âmbito das novas tecnologias e dos recursos que elas exigem. Na encíclica, lê-se que é “doutrina certa” da Igreja a função social da propriedade privada e, hoje, entre os bens universalmente destinados a todos, “devemos incluir também as novas formas de propriedade: patentes, algoritmos, plataformas digitais, infraestruturas tecnológicas, dados”, para evitar que surjam ou se consolidem novas formas de exclusão e privação de liberdade. A técnica, de fato, não é um simples instrumento, e quando se torna critério, “acaba por determinar o que importa e o que pode ser descartado”, reduzindo “as pessoas a engrenagens de um sistema a ser tornado cada vez mais eficiente”.

Hoje, o controle das plataformas, das infraestruturas, dos dados e da capacidade computacional “não é prerrogativa dos Estados, mas de grandes atores econômicos e tecnológicos”, que estabelecem as condições de acesso, as regras de visibilidade e as próprias possibilidades de participação. Quando tal poder se concentra em poucas mãos, “tende a tornar-se opaco e a escapar ao controle público”, trazendo consigo o risco de um desenvolvimento distorcido “que gera novas dependências, exclusões, manipulações e desigualdades”.

O Papa, reiterando a superação da teoria da “guerra justa”, pede que o uso da inteligência artificial no campo de batalha seja submetido às mais rigorosas restrições éticas, pois “não existe algoritmo que possa tornar a guerra moralmente aceitável”. Além disso, a inteligência artificial tornou-se um elemento determinante para orientar a opinião pública por meio da manipulação de imagens e conteúdos, tornando cada vez mais difícil distinguir o verdadeiro do falso. Muitas são, ainda, as incógnitas que dizem respeito ao mercado de trabalho. A encíclica lembra, a esse respeito, que não é mais possível confiar apenas na “mão invisível” do mercado: cabe à política a tarefa de orientar as dinâmicas econômico-tecnológicas para o bem comum, promovendo trabalho digno, inclusão social e uma distribuição equitativa dos benefícios da inovação.

Manter-se humano, controlar os processos, evitar – também neste campo – monopólios que acabam por aumentar o poder de poucos em detrimento da vida de muitos: o caminho indicado pelo Pontífice não ergue barreiras nem rejeita a priori o uso da IA. Pelo contrário, ele destaca os muitos aspectos positivos e as inúmeras aplicações úteis, mas, ao mesmo tempo, explica que não basta fazer uma reflexão ética sobre o propósito bom ou mau para o qual ela é utilizada. É indispensável, de fato, intervir antes e questionar também como um sistema é projetado e qual a visão de pessoa e de sociedade que está inscrita nos dados e nos modelos que o orientam. Para isso, são necessários marcos jurídicos adequados, vigilância independente, educação dos usuários e, acima de tudo, mais uma vez, “uma política que não abdique de sua tarefa”. Caso contrário, a mudança será governada apenas por lógicas tecnocráticas e será apresentada como “necessária e inevitável”, acabando assim por impor regras “ditadas” por quem possui os dados, as infraestruturas e as capacidades de computação.

É necessário, portanto, “desarmar” a IA, ou seja, “romper essa equivalência entre poder técnico e direito de governar”. Não para renunciar à tecnologia, mas para impedir que ela domine o ser humano: ela deve ser tornada discutível, contestável e, portanto, habitável. Justamente para não abdicarmos de nossa humanidade, tão frágil e tão “magnífica”.