A encíclica de Leão XIV: a IA deve servir à humanidade, não ao poder de poucos

Isabella Piro – Vatican News

“A magnífica humanidade criada por Deus encontra-se hoje diante de uma escolha decisiva: erguer uma nova torre de Babel ou construir a cidade onde Deus e a humanidade habitam juntos”. O incipit da primeira encíclica de Leão XIV – Magnifica humanitas, “sobre a salvaguarda da pessoa humana na era da inteligência artificial” – resume suas razões fundamentais e seu objetivo. Publicada hoje, segunda-feira, 25 de maio, foi assinada pelo Pontífice no último dia 15 de maio, no 135º aniversário da promulgação da Rerum novarum de Leão XIII. E de seu predecessor, o Papa Prevost recolheu a herança, escrevendo uma encíclica social que aborda um dos principais desafios da época contemporânea: a inteligência artificial. Dividida em cinco capítulos, Magnifica humanitas parte de um pressuposto: a tecnologia não é uma “força antagônica em relação à pessoa” (4), nem “um mal em si mesma” (9). No entanto, ela “não é neutra, pois assume o rosto daqueles que a concebem, a financiam, a regulam e a utilizam”. Daí, o apelo do Pontífice para “construir o bem” e “permanecer humanos”, seguindo a lógica da corresponsabilidade corajosa e da comunhão.

A Doutrina Social da Igreja

O primeiro capítulo – Um pensamento dinâmico fiel ao Evangelho – repercorre a Doutrina Social da Igreja (DSI) no magistério recente e no Concílio Vaticano II, destacando “o seu caráter dinâmico” (17). Longe de ser “um manual de princípios e normas a serem aplicados”, a DSI é antes uma “teologia da comunhão na história” (27) que orienta a leitura dos acontecimentos à luz do Evangelho. No segundo capítulo, Leão XIV enumera os Fundamentos e princípios da Doutrina Social da Igreja: entre os primeiros, inclui a dignidade da pessoa, criada à imagem e semelhança de Deus; a inviolabilidade dos direitos humanos, entre os quais o direito à vida “desde a concepção até ao seu fim natural”; o reconhecimento dos direitos das minorias, com especial atenção às mulheres, para que sejam verdadeiramente ouvidas e valorizadas (57).

LEIA AQUI O TEXTO INTEGRALE DA ENCÍCLICA DE LEÃO XIV "MAGNIFICA HUMANITAS" 

É inaceitável subjugar uma nação

Quanto aos princípios da DSC, Leão XIV aponta cinco: o primeiro é o bem comum, “forma social da dignidade reconhecida a cada um” (59). Em um ponto, o Papa é particularmente firme: “A promoção do bem comum nunca pode ser separada do respeito ao direito dos povos de existir, de preservar sua identidade e de contribuir com sua originalidade para a família das nações”. Consequentemente, “qualquer tentativa ou projeto de eliminar ou subjugar uma nação é gravemente imoral e, portanto, inaceitável” (64).

A tecnologia não deve estar nas mãos de poucos

O segundo princípio diz respeito à destinação universal dos bens: aí e em outros pontos da encíclica, Leão XIV insiste na necessidade de que as tecnologias não se concentrem nas mãos de poucos, alimentando a disparidade entre os incluídos e os excluídos da revolução digital (67). Daí decorrem o terceiro e o quarto princípios, a saber, a subsidiariedade (68) – que exige a superação do paternalismo e do assistencialismo em favor da corresponsabilidade – e a solidariedade (73), “princípio e virtude” que se opõe à indiferença.

A justiça social

O quinto princípio da DSC é a justiça social: na era digital, ela deve garantir a todos um acesso equitativo às oportunidades, proteger os mais vulneráveis, combater o ódio e a desinformação e submeter o uso das tecnologias ao controle público. Leão XIV aponta os migrantes como um “teste decisivo” nesse campo: a maneira como a sociedade os trata demonstra “se a ideia de justiça é guiada pelo medo ou pela fraternidade”. Daí, o apelo tanto para salvaguardar “o direito à esperança” daqueles que são forçados a partir, garantindo-lhes vias seguras e legais, acolhimento digno e integração; quanto para promover “o direito de permanecer” de cada um em sua terra, em paz e segurança, enfrentando “as causas profundas” das migrações (81). O Pontífice entende que os cinco princípios acima mencionados se dirigem também à Igreja, chamada a “um exame de consciência”, a ouvir as “vítimas de abusos espirituais, econômicos, institucionais, sexuais, de poder e de consciência”, pois isso “é parte integrante de um caminho de justiça, que compreende o reconhecimento do dano, a reparação justa e a prevenção” (89).

Leão XIV e o Arcebispo Paolo Rudelli, substituto da Secretaria de Estado.   (@Vatican Media)

Um código ético para a IA

O terceiro capítulo – Técnica e domínio. A grandeza da pessoa humana diante das promessas da IA – ressalta que é preciso abordar a IA com cautela, mantendo clareza sobre as responsabilidades em todas as suas etapas (accountability) e apostando em políticas e marcos jurídicos adequados, vigilância independente e educação dos usuários. Acima de tudo, é necessário um código ético submetido a critérios de justiça social compartilhada, pois “não serve uma IA mais moral se essa moral for decidida por poucos” (107). Sem deixar de lado o impacto ambiental das novas tecnologias, que exigem grandes quantidades de energia e água, afetando a Criação (101).

Desarmar a IA

É preciso “desarmar a IA” – prossegue Leão XIV – para subtraí-la à lógica da competição militar, econômica e cognitiva; para romper a equivalência entre poder técnico e direito de governar; para subtraí-la aos monopólios e impedir que domine o humano. Amplo espaço é dedicado à crítica do transumanismo e do pós-humanismo, que interpretam o progresso como a superação dos limites do humano. Em vez disso, o limite não é um defeito a ser eliminado, mas uma dimensão constitutiva da pessoa, pois é na fragilidade e na finitude que amadurecem a relação e a abertura a Deus e ao outro. Fazer a tecnologia crescer eliminando os limites do humano significa, portanto, fazer o coração regredir. Magnífica e, ainda assim, ferida, a humanidade “não deve ser substituída nem superada”. A tecnologia pode aliviar seus sofrimentos e abrir-lhe novas possibilidades, mas não deve negá-la naquilo que lhe é próprio: “a capacidade de relação e de amor” (126). Diante da IA, a verdadeira alternativa não está entre o entusiasmo e o medo, mas entre duas formas de construir o progresso: a serviço da pessoa e dos povos ou das lógicas do poder (129).

Uma ecologia da comunicação

No quarto capítulo – Preservar o humano na transformação. Verdade, trabalho, liberdade –, a encíclica defende uma “ecologia da comunicação” baseada na verdade. O Papa pede transparência nos critérios de seleção de conteúdos, proteção dos dados pessoais, um jornalismo sério fundamentado na argumentação e na verificação, uma nova consciência no uso “correto e crítico” da IA e a integração dos conhecimentos. Uma comunicação transparente e leal é exigida também da Igreja, sobretudo nos casos de injustiças e abusos. É fundamental também o apelo a uma aliança educativa renovada, para que nos jovens não se apague “o desejo de fazer perguntas” por causa de máquinas perfeitas que fazem parecer inútil o pensamento humano (140). Leão XIV pede ainda que se aposte na escola como lugar onde se aprende a “buscar e amar a verdade” (147).

A dignidade do trabalho

Na “quarta revolução industrial” representada pela transição digital, o Pontífice ressalta então a importância de proteger a dignidade do trabalho, projetando sistemas centrados na pessoa e não apenas no desempenho. A tecnologia pode certamente aliviar o homem de tarefas pesadas ou repetitivas, mas não deve levar ao desemprego em nome da redução de custos e do aumento do lucro. Nesse sentido, espera-se também uma renovação das organizações sindicais.

Paz e desenvolvimento

O Pontífice destaca, em seguida, a necessidade de superar o PIB como parâmetro do grau de desenvolvimento de um país, apostando, em vez disso, na dignidade do trabalho, na prosperidade compartilhada, na redução das desigualdades e na preservação do meio ambiente. A finança pela finança é, de fato, diferente da finança para o desenvolvimento (159-160). E, seguindo os passos de São Paulo VI, destaca-se a interdependência entre paz e desenvolvimento, almejando uma cooperação internacional capaz de definir estratégias comuns, sobretudo em favor dos países e dos grupos mais vulneráveis, pois a prosperidade contribui para a paz “somente se for difundida, inclusiva e sustentável” (163). É forte, ainda, a referência à família, fundada na união estável entre um homem e uma mulher: ela é “bem social primário”, “célula fundamental e insubstituível de toda organização comunitária” (165), que deve ser apoiada também por meio de políticas do trabalho em favor da estabilidade e de ritmos humanos, para assim proteger a capacidade social de “construir o futuro”.

A “arquitetura da visibilidade”

Por fim, a questão da liberdade humana: numa época em que as plataformas digitais são projetadas para capturar o tempo dos usuários e explorar suas fragilidades, é preciso fortalecer a liberdade interior de cada um, enfrentando também o risco do controle social decorrente da coleta massiva de dados e do uso de sistemas algorítmicos. Perfilar, prever e orientar comportamentos, de fato, é “um novo poder” (171) que corre o risco de discriminar os mais fracos. O Papa deplora, em particular, a “arquitetura da visibilidade” que amplifica apenas o que é visível, moldando as opiniões.

Novas formas de escravidão e novo colonialismo

A IA também gera novas formas de escravidão, como a dos “corpos marcados, mutilados, consumidos” (173) daqueles que trabalham na extração das “terras raras” necessárias à tecnologia. Portanto, a luta contra as novas formas de escravidão é outro “teste decisivo para o discernimento ético” da transformação digital. Leão XIV ressalta que “a Igreja renova sua firme condenação contra toda forma de escravidão, tráfico e mercantilização de pessoas”. Ao mesmo tempo, o Papa pede “sinceramente perdão” pelo atraso com que a Igreja, no passado, condenou “o flagelo da escravidão” (174-176). A encíclica também faz referência às “novas terras raras do poder”, ou seja, as informações vitais – por exemplo, sobre saúde e demografia – utilizadas para orientar estratégias econômicas: trata-se de uma face inédita do colonialismo que transforma vidas pessoais em informações exploráveis, tornando o ambiente digital um “espaço de predação” (178-179).  

Superar a teoria da “guerra justa”

No quinto capítulo — A cultura do poder e a civilização do amor —, Leão XIV volta seu olhar para a guerra: “A revolução digital está modificando a gramática dos conflitos” e, sem uma abordagem ética, as decisões sobre a vida e a morte das pessoas serão cada vez mais impessoais, com o recurso à força considerado uma “opção imediata e viável” (182-183). Na base de tudo está uma “cultura do poder” que normaliza a guerra e a reabilita como “instrumento de política internacional”, favorecendo o rearmamento. Sobre a opinião pública pesam hoje também as narrativas midiáticas polarizadoras, bem como “uma preocupante perda de memória histórica” que priva de uma visão de longo prazo (191). Consequentemente, hoje a paz não é mais entendida como uma tarefa a ser assumida, mas como um intervalo entre os conflitos. Por isso, Leão XIV reitera que – sem prejuízo do direito à legítima defesa no sentido mais estrito – é preciso superar a teoria da “guerra justa”, promovendo, em vez disso, o diálogo, a diplomacia e o perdão (192).

Nenhum algoritmo torna a guerra moralmente aceitável

O Papa Prevost não deixa de deplorar o crescimento da indústria bélica, a corrida aos armamentos nucleares e o surgimento de novos atores armados – entre os quais os jihadistas – que visam perpetuar os conflitos como fonte de poder e de renda. É clara, ainda, a advertência contra o uso de armas ligadas à IA, pois “não existe algoritmo que possa tornar a guerra moralmente aceitável”. São necessárias restrições éticas rigorosas, compartilhadas internacionalmente, baseadas na responsabilidade pessoal e na proteção dos civis, pois “toda tecnologia que facilita atacar sem ver o rosto do outro abaixa o limiar moral do conflito” (199).

A crise do multilateralismo

A cultura do poder decorre também da crise do multilateralismo e do surgimento de um “multipolarismo desordenado e conflituoso” (201). A força do direito é substituída pelo direito do mais forte; as lógicas do poder prevalecem sobre a construção da paz e as instituições criadas para zelar pelo destino comum dos povos estão agora enfraquecidas. A esse respeito, o Papa deseja para a ONU “reformas profundas” que superem a atual crise de valores em favor do bem comum (226).

A civilização do amor

O cristão é chamado a responder à cultura do poder construindo “a civilização do amor” e escolhendo entre alimentar a lógica da força ou zelar pela paz. O Papa aponta cinco “caminhos de responsabilidade”: desarmar as palavras dizendo a verdade; construir a paz na justiça; assumir o olhar das vítimas tomando posição, pois há conflitos em que “não é justo permanecer neutro”; cultivar “um saudável realismo” que busque caminhos de paz viáveis com os fatos, não apenas com palavras. Por fim, relançar o diálogo, passando de uma cultura do poder para uma cultura da negociação. É decisivo também “o diálogo entre as religiões”, portador de uma mensagem de paz: “Quem usa o nome de Deus para legitimar o terrorismo, a violência ou a guerra trai o seu rosto” é a advertência de Leão XIV (223).

A magnífica humanidade

Ao concluir a carta, o Pontífice convida os fiéis a viver as novas tecnologias à luz do Evangelho, seguindo “um itinerário de vida cristã sóbrio e exigente”. Para que, mesmo na era da IA, todos possam testemunhar “a beleza de uma magnífica humanidade habitada por Deus”.