10 Julho 2026
"Extremo risco representa a IA autônoma com seus bilhões e bilhões de algoritmos. Foi delegado a ela decisões que escapam ao controle humano. Podemos delegar nosso destino sem renunciarmos à nossa liberdade de fazermos o nosso próprio caminho? Essa é questão filosófica e antropológica da maior gravidade. Os humanos acabam renunciando ao que é intrínseco à sua humanidade: a liberdade de fazer a sua própria história."
O artigo é de Leonardo Boff, ecoteólogo, filósofo e autor. Escreve para a revista LIBERTA do ICL.
Eis o artigo.
O tom geral da encíclica Magnifica Humanitas do Papa Leão XIV é, de modo geral, positivo. Chega até a ver a IA como um instrumento a serviço do ato criador de Deus. Mas dá-se conta dos riscos e ameaças que ela pode representar. Ao largo e ao longo de toda a sua exposição, lança a pergunta fundamental: que imagem de ser humano ela pressupõe e alimenta? Que tipo de sociedade quer construir? Não se trata apenas de verificar se seus efeitos são benéficos ou maléficos. Trata-se de identificar e submeter à crítica seus pressupostos antropológicos e sociais. Se melhoram ou não a condição humana e se introduzam uma maior justiça social a nível planetário.
1. A centralidade da razão como vontade de poder e de controle
Eu diria que a IA comparece como a expressão mais alta do paradigma da modernidade. Seus pais fundadores, Descartes, Newton, Copérnico, Francis Bacon e outros, colocaram como valor axial a razão. Mas não qualquer razão. A razão a serviço do poder como dominação de pessoas, classes, países (colonialismo) e principalmente da natureza. Famosa é a frase atribuída a Francisc Bacon, o fundador do método científico: “devemos torturar a natureza como o esbirro faz com sua vítima, até arrancar-lhe todos os segredos”.
A razão foi logo traduzida numa prática e assim deu origem à tecnociência que domina a nossa história até os dias de hoje, encontrando seu point d’honneur na IA.
Esta centralidade da razão (ratio e logos) se serviu especialmente da física e da matemática, categorias válidas, mas incapazes de captar adequadamente a natureza dos seres vivos. Esse paradigma dificilmente integrou outras dimensões humanas, como a do coração (éros e pathos) que representam o mundo das excelências, do amor, da amizade, da compaixão, da ética e da espiritualidade.
Levada a seu extremo, criou seres humanos com uma espécie de lobotomia: tornaram-se insensíveis aos valores intangíveis, especialmente, à compaixão para com os que sofrem, à observância dos direito humanos, ao respeito e ao cuidado para com a natureza.
Para esses pais fundadores, o mundo natural não possui sentido em si, a não ser quando posto a serviço dos seres humanos. Da mesma forma, a Terra que, na tradição dos povos, sempre foi tida como a Grande Mãe, a geradora de toda a vida, a Pachamama dos andinos e a Gaia dos modernos. Tais pensadores a consideraram apenas como uma res extensa, uma realidade estendida e um reservatório de recursos, do qual se pode criar e acumular riqueza.
Esta cosmologia subjaz à IA. Ela é a razão desencarnada e desgarrada do corpo, por isso, artificial. Também dos sentimentos reais e não apenas virtuais, das situações existenciais da condição humana como a alegria, a tristeza, a decepção, o sofrimento e o amor que exige presença real, a carícia e o afeto sensível e não apenas virtual. Nisso reside a limitação de todas as plataformas de IA. Elas podem falar do amor, suscitar no usuário, sentimentos amorosos, mas não é ela que lhe enxuga as lágrimas, que garante fidelidade e lealdade do amor real.
Há vários tipos de IA, cada qual a serviço de certos propósitos. O Papa se refere às ameaças que elas podem representar, todas praticamente de domínio privado, ao menos no Ocidente. Neurólogos como Miguel Nicolelis tem observado que neurônios celebrais estão sendo negativamente afetados pelo excesso de exposição à ondas eletromagnéticas. Steven D. Shaw cunhou uma expressão assumida pela comunidade científica: rendição cognitiva.
Essa rendição significa que mais e mais pessoas renunciam a pensar por elas mesmas e delegam à IA o pensamento pessoal e se fazem seguidores de seus comandos. Assim não o faz a inteligência natural que é reflexa, inclui a dúvida, a incerteza, a busca e o real que faz resistência e está continuamente mudando.
Politicamente esta delegação pode permitir que os extremismos tomem conta da sociedade. Na linguagem do exímio intelectual francês Jacques Attali, “a barbárie poderá ser provável; o político”, afirma ele, “é como uma rolha flutuando à deriva na tempestade das paixões”.
2. Os riscos da IA autônoma
Extremo risco representa a IA autônoma com seus bilhões e bilhões de algoritmos. Foi delegado a ela tomar decisões que escapam ao controle humano. Podemos delegar nosso destino sem renunciarmos à nossa liberdade de fazermos o nosso próprio caminho? Essa é questão filosófica e antropológica da maior gravidade. Os humanos acabam renunciando ao que é intrínseco à sua humanidade: a liberdade de fazer a sua própria história.
Ela pode internamente tomar decisões que prejudicam porções da humanidade. No seu limite, pode considerar que a inteira humanidade ou grande parte dela representam um obstáculo à sua própria reprodução e desenvolvimento e decida eliminá-la. Uma vez construída, dificilmente pode ser posta sob algum controle. Ela capta esse intento e se antecipa montando as suas defesas.
Especialmente a empresa Palantir cabe aqui ser citada e denunciada. No lugar da Antrophic, cujo fundador foi Dario Amodei, uma das maiores plataformas, possuía alguns parâmetros éticos a ponto de renunciar às duas solicitações feitas pelo governo de Trump que a havia contratado: de controlar o mais possível a população norte-americana e fazer uso bélico dela. Ela negou-se prontamente a esse uso. Em seu lugar entrou imediatamente a Palantir, a mais perversa de todas, pois sua meta não é tanto econômica, mas de poder controlar o mais possível inteiras populações e permitir seu uso para fins bélicos. Isso foi feito com precisão na Faixa de Gaza por parte do exército israelense e na guerra dos EUA contra o Irã.
Por este simples exemplo podemos nos dar conta a que pode levar a exacerbação da razão humana, separada da totalidade complexa e multifacetada do humano a ponto de pôr a civilização e a vida em risco.
Mas cremos ainda da razoabilidade da razão, submetida a uma instância mais alta, à sabedoria existencial, que poderá impedir que a razão seja totalmente irracional ao construir um meio de autodestruição. A vida se mostrou sempre mais forte contra todos os ataques que no processo evolucionário e histórico se fizeram contra ela. Por isso a esperança nunca pode ser abandonada. A alternativa a ela seria o suicídio, que jamais teria a última palavra. Vale o esperançar de Paulo Freire, vale dizer, criar as condições e meios para a esperança se tornar viável e vencedora. Todas as plataformas de IA estariam a serviço da vida e de sua expansão.
Leia mais
- Leão XIV proclama o segredo mais bem guardado da Igreja Católica em ‘Magnifica Humanitas’. Artigo de Thomas Reese
- "A possibilidade de a IA assumir a maioria dos empregos é muito real". Entrevista com Jonathan Haidt, psicólogo social
- A inteligência artificial desencadeia uma guerra civil no mundo MAGA e Trump ainda não se posicionou
- O manifesto perturbador da Palantir recebe uma enxurrada de críticas: algo entre o tecnofascismo e um vilão de James Bond
- O que 'Magnifica Humanitas' não entendeu sobre a Torre de Babel, Neemias e IA. Artigo de Cathleen Chopra-McGowan
- Guerra: os EUA tragados pela Era Palantir. Artigo de Janet Abou-Elias e William D. Hartung
- O fascismo do fim dos tempos – e o refúgio dos bilionários. Artigo de Naomi Klein e Astra Taylor
- O iluminismo sombrio. Artigo de Manfred Back e Luiz Gonzaga Belluzzo
- Palantir, o olho que tudo vê (e aquele que se mete em todas as confusões): "Somos a primeira empresa a ser completamente anti-woke"
- Uma análise mais aprofundada da encíclica de Leão XIV: o propósito do ensino social católico na era da IA. Artigo de Thomas Reese
- Com sua primeira encíclica, o Papa Leão XIV acerta em cheio
- Magnifica Humanitas, o pensamento radical de Leão XIV sobre os desafios do presente
- Magnifica Humanitas: Leão XIV e a era da IA. Artigo de Frei Betto
- Magnifica Humanitas: o que a primeira encíclica do Papa Leão XIV nos alerta sobre a IA. Artigo de Christian Stähler Padilha
- Em encíclica sobre IA, o Papa Leão XIV alerta para as ameaças da tecnologia e dos centros de dados à criação
