Especialistas em IA: uma "voz moral" que nenhum incentivo irá submeter
Edoardo Giribaldi – Cidade do Vaticano
"Poderia parecer estranho", admite ele, que o cofundador da Anthropic, uma das empresas de inteligência artificial mais influentes, entre no debate aberto pela primeira encíclica do Papa Leão XIV, Magnifica humanitas, dedicada à salvaguarda da pessoa humana na era da IA. No entanto, é precisamente no coração deste território, marcado pelo lucro, competição geopolítica e ambição desenfreada, que se sente a necessidade de uma voz capaz de resistir aos "incentivos", de proferir palavras "incômodas", de recordar aquilo que as máquinas jamais possuirão: corpo, consciência e senso moral.
Uma voz que também denuncie o lado oculto do progresso. As crianças no Sul Global obrigadas a trabalhar dias inteiros em meio a poeira tóxica e materiais triturados para extrair as terras raras necessárias para alimentar o "fluxo de cálculo" do mundo digital. Governos incapazes de "olhar além do PIB". É por isso que o debate sobre inteligência artificial não é "neutro". Recordar hoje a centralidade da pessoa humana significa intervir em um contexto de fratura histórico, suspenso entre o desespero e a tentação prometeica de se tornar a própria divindade. Nesse cenário, a voz do Pontífice aparece não como uma "interferência indesejada", mas como a continuação de uma longa vigilância iniciada há 135 anos com a Rerum Novarum: desmascarando os ídolos de cada época. Os de hoje imaginam a humanidade como "engrenagens do Estado, agentes de mercado ou instrumentos de uma ordem algorítmica", redimíveis apenas pelas promessas do pós-humanismo e do transhumanismo. Mas, em uma época em que "o poder faz a razão" e, ainda assim, cresce mais rápido do que a sabedoria necessária para governá-lo, a verdadeira urgência permanece a mesma: redescobrir o valor profundamente humano das limitações.
É assim que algumas vozes renomadas no campo das novas tecnologias enquadraram a primeira encíclica do Papa Leão XIV, Magnifica humanitas, sobre a proteção da pessoa humana na era da inteligência artificial. A apresentação do documento teve lugar nesta segunda-feira, 25 de maio, na Sala do Sínodo, na presença do Pontífice, e incluiu comentários de Christopher Olah, cofundador da Anthropic, uma empresa estadunidense de influência global no campo das novas tecnologias, e responsável pela pesquisa sobre a interpretabilidade da IA; Anna Rowlands, docente de Teologia Política, incluindo a Doutrina Social da Igreja e Ética Teológica da Migração Humana no Departamento de Teologia e Religião da Universidade de Durham, Reino Unido; e Leocadie Lushombo, docente de Teologia Política e Pensamento Social Católico na Escola Jesuíta de Teologia da Universidade de Santa Clara, Califórnia (Jesuit School of Theology della Santa Clara University.
Olah: IA, "personagem fictícia" que fala ao humano
Olah se apresenta como alguém que escolheu trabalhar na área de IA para o bem da humanidade. No entanto, não esconde a estrutura de "restrições" dentro da qual trabalha, que, às vezes, "pode entrar em conflito com fazer a coisa certa". Essas são pressões novas e antigas, das quais é praticamente impossível não ser influenciado. Daí a necessidade de pessoas "de fora" do sistema, capazes de exercer uma crítica consciente e gerar o "impulso e a pressão" que podem realmente fazer a humanidade avançar. Magnifica humanitas se encaixa nessa linha, buscando um terreno comum compartilhado por Anthropic e Leão XIV, bem como outros líderes de diferentes tradições religiosas: "Se essa tecnologia deve chegar, é preciso que ela funcione bem, para nossa casa comum e para as gerações futuras". Olah enfatiza que as questões relacionadas à IA não se limitam aos cientistas da computação, porque esses sistemas não funcionam como o projeto complexo de, por exemplo, uma ponte ou um avião. De fato, eles operam em uma estrutura que replica o cérebro humano, posicionando-se em uma linha "mais tênue" do que a imagem da ficção científica de "robôs frios e calculistas". Além disso, são desenvolvidos por meio de processos que permanecem um tanto misteriosos. "Se isso ajudar, às vezes descrevo assim: é um pouco como dar vida a um personagem fictício. E agora estamos entrando em um mundo extraordinário onde esses personagens fictícios falam conosco, são ativos e têm empregos."
"Continuamos a encontrar coisas misteriosas, até mesmo perturbadoras"
O cofundador da Anthropic então se concentra em três aspectos abordados na encíclica do Papa Leão XIII. O primeiro diz respeito ao dever para com os pobres do mundo, à luz da possibilidade real de a IA substituir o trabalho em larga escala. "Se isso acontecer, apoiar as pessoas que ela substituir será um imperativo moral de proporções históricas", reconhece Olah, especialmente considerando como o desenvolvimento de novas tecnologias está "concentrado em um punhado de nações ricas".
O segundo aspecto é a "necessidade de imaginação moral e de ambição para a realização humana": questões que já preocupam muitos pais, "comprometidos com a mente de seus filhos". Por fim, surge a "necessidade de discernimento sobre a natureza dos modelos de inteligência artificial".
Olah, que lidera uma equipe de pesquisa que estuda a estrutura interna desses sistemas, não mede palavras: "Continuamos a encontrar coisas misteriosas, até mesmo perturbadoras. Detectamos estruturas que espelham as descobertas da neurociência humana. Encontramos evidências de introspecção. Não sei o que isso significa, mas acho que exige discernimento constante."
O Início de um "projeto global de boa vontade"
O pronunciamento de Olah se conclui com um pedido: que "uma parte mais ampla do mundo", especialmente as suas instituições, independentemente do âmbito de pertença, imitem a ação do Papa: "levar essa questão a sério, examiná-la cuidadosamente e direcionar os acontecimentos para um caminho melhor". "Precisamos de críticos competentes para dizer aos laboratórios quando eles estão errados. Precisamos de vozes morais que os incentivos não possam silenciar." Magnifica humanitas representa, portanto, "o início de uma longa colaboração", um "projeto global de boa vontade" capaz de conduzir "a um futuro cheio de esperança para a magnífica humanidade".
Lushombo: salvaguardar a Verdade
Uma das primeiras advertências da encíclica, identificada por Lushombo, é a "salvaguarda da verdade". Embora as máquinas possam, "em certo sentido", fornecê-la ao disponibilizar informações precisas, não lhes deve ser atribuída a "responsabilidade pessoal de expressar juízos". De fato, uma IA não possui experiências corporais ou sensoriais, não amadurece por meio de relacionamentos e não assimila conceitos como a distinção entre o bem e o mal. Na Magnifica humanitas, afirma o professor, Leone também se concentra na preservação da liberdade interior, reconhecendo que as estruturas das plataformas digitais são "projetadas para capturar o tempo e o olhar dos usuários, explorando suas fragilidades".
O relacionamento no conhecimento
A verdade, afirma o Papa no documento, não é apenas "racional", mas também "relacional" e, portanto, sujeita a revisões e trocas que surgem das realidades concretas, especialmente as mais pobres, porque elas "nos dizem como é o mundo". Esses conceitos encontram expressão nas diversas culturas do planeta: na América Latina, na dinâmica de "convivência e conjunto, no cotidiano"; na África, na filosofia Ubuntu, segundo a qual "sou humano porque pertenço. Participo, compartilho"; na Ásia, no ideograma coreano 정, que indica "o senso de conexão emocional, pelo qual as pessoas veem os outros como fundamentalmente conectados a si mesmas".
Um novo "extrativismo colonial"
Magnifica humanitas, continua Lushombo, convoca o Sul Global a não perder seus valores humanos devido à IA, que torna o aprendizado transacional e excessivamente autônomo, e as culturas menos desenvolvidas "ainda mais vulneráveis ao extrativismo colonial". O Papa escreve a esse respeito: "O colonialismo em nossos dias mostra uma nova face. Ele não apenas domina os corpos, mas também se apropria dos dados, transformando vidas pessoais em informações exploráveis".
Não delegar poder a quem pode manipular
Em relação às implicações práticas da IA, a Magnifica humanitas destaca três desafios, segundo Lushombo: sociopolítico, pedagógico e intelectual. Usar novas tecnologias para o bem significa "dar voz às pessoas de maneiras que não eram possíveis antes", possibilidades às quais a IA oferece acesso. Isso deve ser feito tendo em mente que tudo o que circula on-line "molda a imaginação", especialmente a dos mais jovens. O conhecimento, portanto, não é "um monopólio de poder ou influência, nem é colonial, como muitas vezes é a inteligência artificial tecnológica". Seu desenvolvimento desenfreado sufoca o desejo de fazer perguntas, o único caminho verdadeiro para o conhecimento. Como escreve Leone: "Se não tomarmos cuidado, um sistema educacional desprovido de amor pela verdade pode se formar, no qual o fluxo incessante de informações substitui o exercício da pesquisa, da reflexão e do discernimento". Seria inaceitável sacrificar esse "impulso transcendental" à IA, delegando maior poder "àqueles que podem manipular o sistema de informação com mais eficácia e usá-lo para seu próprio benefício".
"Olhar para além do PIB"
Na Magnifica humanitas, o Papa também denuncia os desenvolvimentos tecnológicos que ampliam a desigualdade entre ricos e pobres, "seguindo os padrões da globalização econômica". Nesse sentido, a encíclica apela à necessidade de proteger os trabalhadores, muitas vezes substituídos pela IA, instando-nos a "olhar além do PIB". Especialmente no Sul global, observa Leone, "adolescentes e crianças trabalham em condições perigosas triturando materiais dos quais se extraem terras raras" para que "o fluxo de cálculos não seja interrompido".
Muitos governos, explica Lushombo, priorizam esse tipo de aquisição, mesmo quando tais materiais não são essenciais para o desenvolvimento humano integral. Além disso, esses mesmos recursos são frequentemente usados para fortalecer o potencial militar dos países mais poderosos. Como afirma a Encíclica, conclui o professor, "as ferramentas que temos hoje são insuficientes diante das mudanças provocadas pela inteligência artificial, pelas novas estruturas de mercado e pela intensificação da concorrência, que muitas vezes negligencia a sustentabilidade social". Líderes políticos, sindicatos, empresas e cientistas devem, portanto, trabalhar juntos rapidamente para criar regulamentações eficazes e compartilhadas internacionalmente.
O Indivíduo no centro
A reflexão do Papa na Magnifica humanitas não é "neutra", pois as visões incorporadas pelas tecnologias atuais não são equidistantes, segundo Rowlands. O professor enfatiza o apelo para "transformar os modos dominantes de poder em formas de poder compartilhado e medir os desenvolvimentos tecnológicos por sua contribuição para um progresso social e ético autêntico".
Enquanto a encíclica do Papa Francisco de onze anos atrás, Laudato si', alertava para um "paradigma tecnocrático que mede o valor humano pela utilidade", a primeira encíclica de Leão XIV esclarece que, para superar tais padrões, é necessário primeiro salvaguardar a pessoa, centrada em Jesus Cristo. Essa ideia está longe de ser um clichê, mas sim atingiu um "ponto de ruptura", gerando duas reações diametralmente opostas, porém igualmente danosas: por um lado, dor e desespero; por outro, o "desejo de transcender nossa humanidade buscando nos tornarmos nossas próprias divindades". Magnifica humanitas, por outro lado, propõe uma existência livre desses grilhões, fazendo com que a voz da Igreja ressoe em uma questão social que alguns podem interpretar como "interferência indesejada". No entanto, observa o professor, é precisamente tarefa da comunidade eclesial "acompanhar a humanidade em sua busca pelo verdadeiro bem e promover a unidade". Isso é possível promovendo uma visão que vai além dos indivíduos entendidos como "engrenagens do Estado, agentes de mercado ou instrumentos de uma ordem algorítmica".
O valor dos limites
Desde a Encíclica Rerum Novarum de Leão XIII, de 1891, há mais de 135 anos a Igreja desmascara os "falsos ídolos presentes nas ideologias de cada época". Magnifica humanitas alerta contra a visão difundida hoje de que a humanidade é "salva" pela IA ou por suas perspectivas pós-humanistas e transhumanistas. Reafirma o valor dos limites contra aquelas crenças que "apresentam a autonomia total, a automação radical, as ambições de uma consciência artificial e a superação das limitações humanas como objetivos salvíficos", mas que acabam gerando "novas dependências, exclusões, manipulações e desigualdades".
O homem contemporâneo e o poder
A tradição das Encíclicas, no entanto, também conta uma "história positiva" de tecnologias que aliviam o sofrimento humano, expandem a liberdade e satisfazem as necessidades humanas. Isso nem sempre acontece com as tecnologias atuais, que "carregam culturas e sustentam arquiteturas morais". Onde o poder da inovação não pertence mais aos Estados, mas a alguns poucos atores privados muito ricos, "cujas culturas escapam ao controle do interesse público e correm o risco de se apresentarem como um novo império".
No documento, o Papa resume a situação atual com uma observação do teólogo Romano Guardini: "O homem moderno não foi educado no uso correto do poder". Como, então, podemos retornar às origens? Essa é a questão que permeia a encíclica, um incentivo a fazer a sua parte, rompendo o vínculo entre os "falsos realismos" que normalizam a guerra e a dominação social, automatizam a realidade e reduzem o indivíduo a dados. "O poder gera a razão", mas "nada mais é do que força que, sob a máscara, revela relações empobrecidas". Magnifica humanitas, conclui Rowlands, nos ajuda a compreender que o desejo de poder, o que Santo Agostinho chama de libido dominandi, "pode ser louvado pelo mundo como força, mas é desprezo por Deus e pelo próximo e nunca é uma virtude cristã".
Obrigado por ter lido este artigo. Se quiser se manter atualizado, assine a nossa newsletter clicando aqui e se inscreva no nosso canal do WhatsApp acessando aqui
