Especialistas sobre IA: “explosão de criatividade, mas é preciso colocar freios”

Eugenio Murrali - Vatican News

Para Dmitry Volkov, a Inteligência Artificial é como um carro: ela nos permite acelerações extraordinárias, mas, quando desenvolvemos um carro excelente, especialmente se for de corrida, “devemos prestar muita atenção à criação de freios muito eficazes e confiáveis para impedir que ele acabe batendo contra a parede”. O filósofo e empreendedor tecnológico, fundador do International Center for Consciousness Studies, resume com essa imagem as possibilidades da tecnologia que está transformando nossa época e que a terceira conferência anual do ICCS está discutindo em profundidade, com as perguntas — mesmo as incômodas — necessárias para analisar o impacto da IA sobre a humanidade.

A IA é realmente criativa?

Iniciado na terça-feira (01/09) na Universidade Roma Tre, em Roma, o evento do ICCS – Creativity: Minds and Machines, Criatividade: mentes e máquinas – seguiu na quarta-feira (02/09) na Casina de Pio IV, no Vaticano, e continuou até esta quinta-feira (03/09), primeiro na Universidade Gregoriana e, por fim, na sala da Protomoteca do Campidoglio. O congresso reuniu filósofos, neurocientistas e figuras de destaque internacionais da Inteligência Artificial para debater e tentar entender se a IA pode ser realmente criativa.

Por enquanto, segundo Volkov, uma coisa é certa: a IA pode ajudar os seres humanos a se tornarem mais criativos: “acho que ela estimulará a criatividade humana, obviamente, mas há muitos ‘mas’, muitas coisas das quais precisamos estar cientes”. Daí a necessidade de estarmos conscientes e de criar esses “freios”, sem os quais os incidentes são inevitáveis.

Um empreendimento coletivo

O filósofo Pietro Perconti, cofundador do ICCS, acredita que não seja “absurdo falar de criatividade artificial. Naturalmente, é preciso adotar uma longa série de ressalvas e ser muito prudente. O tipo de criatividade que emana das máquinas é diferente e pode ser apreciada como uma espécie de empreendimento coletivo, em vez de como fruto do gênio do artista individual, como estamos acostumados a considerá-la no Ocidente”.

Vídeos e manipulação

Benefícios e perigos. Os vídeos são um exemplo perfeito. Volkov lembra que “por muitos anos, produzir um vídeo, filmar um filme ou criar um desenho animado era uma atividade que apenas pouquíssimas pessoas podiam realmente realizar”. Para isso, de fato, é preciso aprender a desenhar, é preciso animar as imagens no computador, enquanto a IA agora permitiu que milhares de pessoas criassem seus próprios filmes ou desenhos animados; em resumo, que se expressassem. O filósofo, porém, faz uma advertência, pois, como subproduto do que ele define como uma “explosão de criatividade”, surgem os deepfakes, as manipulações de fotos, vídeos ou imagens que causam danos às pessoas.

A identidade visual da conferência ICCS

O comportamento adulador

A Inteligência Artificial frequentemente tende a agradar ao usuário. Essa tendência é definida como “sycophantic”, ou seja, aduladora. “O comportamento sycophantic – adverte Volkov – às vezes leva uma pessoa a obter recompensas por seu narcisismo e por ideias que não têm fundamentos suficientes. E essa é uma característica importante da qual devemos estar cientes”. É uma atitude da máquina que pode ser atenuada: “os novos modelos disponíveis atualmente são, na verdade, muito mais independentes e autônomos”.

IA e consciência

É legítimo, a esta altura, perguntar-se se a IA é ou pode se tornar consciente. A posição de Volkov é bastante elaborada: “na filosofia, temos, de fato, um termo técnico específico para definir a consciência: chamamos de ‘qualia’”. Os qualia, termo latino derivado de “quale”, indicam os aspectos qualitativos das experiências conscientes. Eles correspondem a “uma sensação específica, uma sensação subjetiva, algo que se sente exatamente neste momento. Por exemplo — esclarece ele — ver o vermelho. Se vejo o vermelho, me parece que estou vendo o vermelho, estou convencido de que estou vendo o vermelho; esse é um dos qualia simples e básicos”. Continuando a explicação, o filósofo chega a esta conclusão pessoal: “acho que os estudos ainda estão em uma fase muito inicial. Mas, em geral, acredito que os seres humanos sejam sistemas mecanicistas e que veremos fenômenos semelhantes também nos computadores. Portanto, em determinado momento, seremos capazes de ver uma IA consciente e teremos que aprender a lidar com ela”.

Registro da conferência na Casina Pio IV

A pessoa no centro

Durante o encontro no Vaticano, como explica Perconti, a discussão teve um objetivo ambicioso: “tentar entender se é possível, se faz sentido, imaginar relações entre seres humanos e companheiros artificiais — relações de amizade, de assistência e sentimentais”. Os intelectuais reunidos no Vaticano se perguntam até que ponto esses laços podem ser produtivos e, por outro lado, até que ponto deveriam nos preocupar. Nesse debate, eles têm em mente a mensagem da encíclica Magnifica Humanitas, de Leão XIV: “o que diz a encíclica — as pessoas no centro — não é apenas uma exigência religiosa, é uma exigência humana”.

Educar para as relações

Perconti esclarece que o que os orienta é justamente “o ponto central da encíclica: cuidar dos seres humanos; as pessoas são o mais importante”. E continua: “visto que nosso mundo está se transformando em um mundo de relações digitais, como é possível levar em conta essa preocupação humanística central em um mundo que, ao mesmo tempo, está se digitalizando?”. Para o filósofo, há uma resposta: “é preciso ser educado nas relações com a Inteligência Artificial, e trata-se essencialmente de enfrentar uma fase pública de educação”.