Leão XIV, em sua primeira encíclica, alerta contra o tecnofascismo: "Quem controlar a IA imporá sua visão moral"

Magnifica Humanitas alerta para os perigos das novas tecnologias e do controle de uma elite que “arrisca nos levar a novas atrocidades”. Rejeita a ideia de guerra justa e pede perdão pela escravidão.

O artigo é de Íñigo Domínguez, jornalista, publicado por El País, 25-05-2026.

Eis o artigo.

O título da primeira encíclica de Leão XIV, Magnifica Humanitas (as duas primeiras palavras em latim do texto, como é tradição), já constitui seu programa diante dos algoritmos, da inteligência artificial e de uma nova sociedade marcada pela tecnologia: reafirma o que nos torna humanos. Mas, além do espiritual, é um documento poderoso com uma clara carga política, que não esconde o novo adversário identificado pela Igreja: o tecnofascismo nascente teorizado pelas teorias pós-humanas e transumanas do Vale do Silício e por muitos dos ideólogos ligados a Donald Trump. O subtítulo do texto de 110 páginas é "Sobre a Custódia da Pessoa Humana na Era da Inteligência Artificial".

Para o Papa, formado em matemática, isso representa uma nova ordem global na qual “quem controla a IA imporá sua própria visão moral, que se tornará a infraestrutura invisível dos sistemas”. Ele alerta que “pequenos grupos altamente influentes podem moldar a informação e o consumo, influenciar os processos democráticos e impactar a dinâmica econômica em seu próprio benefício, contradizendo a justiça social e a solidariedade entre os povos”. Portanto, ele apela aos Estados para que intervenham a fim de estabelecer regras, regulamentar a tecnologia e controlar a propriedade dos dados.

De forma semelhante, no âmbito internacional, ele defende o multilateralismo e o papel da ONU e das organizações internacionais. Ele também analisa os perigos da IA ​​em termos de seu impacto ambiental, seu papel no local de trabalho e na educação e, claro, seu uso na guerra. Além disso, em uma de suas muitas alusões claras à atual administração da Casa Branca, Leão XIV declara que “hoje, mais do que nunca, é importante reiterar a necessidade de superar a teoria da 'guerra justa', invocada com muita frequência para justificar qualquer guerra, sem prejuízo do direito à autodefesa, entendida no sentido mais estrito”.

Defensor ferrenho do diálogo e dos mais vulneráveis, ele acredita que “precisamos de uma política mais proativa, capaz de desacelerar onde tudo está acelerando e de proteger os espaços onde as comunidades podem continuar a participar e questionar”. Robert Prevost usa a metáfora da Torre de Babel para descrever os riscos atuais: “A idolatria do lucro que sacrifica os fracos, a uniformidade que atenua as diferenças, a pretensão de uma linguagem única capaz de traduzir tudo, até mesmo o mistério da pessoa, em dados e retornos. Este é o risco da desumanização”.

Leão XIV, eleito há um ano, escolheu esse nome em homenagem a Leão XIII, o papa que iniciou a doutrina social da Igreja com a encíclica Rerum Novarum (Das Coisas Novas) em 1891, em resposta à desumanização da Revolução Industrial e à ascensão do comunismo. A referência é tão clara que ele assinou sua primeira encíclica no mesmo dia, 15 de maio, por acreditar que o mundo enfrenta uma mudança de época semelhante. E, de fato, Leão XIV assume uma posição firme, seguindo os passos do Papa Francisco. Como prova de sua consciência do desafio atual e de sua disposição para o diálogo, o

Papa Prevost compareceu pessoalmente à apresentação do documento nesta segunda-feira, perante uma plateia de representantes acadêmicos e diplomáticos. Esta é a primeira vez que um papa faz isso; até então, era um prelado proeminente que o apresentava em coletiva de imprensa.

Além disso, entre os palestrantes estava Christopher Olah, de 38 anos, ateu e cofundador da Anthropic, uma das principais empresas de IA, mas com uma característica peculiar: ele se opôs a Trump e ao uso de sua tecnologia no Pentágono. Em seu discurso, ele agradeceu ao Papa e reconheceu a necessidade de “vozes morais que os incentivos não possam influenciar”.

O problema do esquecimento da memória histórica

Robert Prevost, que durante meses manteve um perfil discreto, mas que nos últimos meses emergiu com uma personalidade distinta ao confrontar Donald Trump, confirma com este documento que é um dos principais antagonistas das políticas da Casa Branca e do populismo de extrema-direita. Porque, alerta ele, sem “uma reflexão ética e humanizadora, o crescente poder dos sistemas digitais corre o risco de nos conduzir a novas atrocidades, não menos vergonhosas do que as do passado que hoje deploramos, enquanto continuamos a nos apresentar como sociedades 'avançadas' e 'civilizadas'”.

O Papa acredita que “vivemos numa época de notável cegueira espiritual e cultural”, na qual “um falso pragmatismo nos convida a cortar as raízes da memória (...), acreditando ilusoriamente que as atrocidades do século XX não podem mais ser repetidas”. “Na realidade, as mesmas dinâmicas estão ressurgindo em novas formas”, alerta. Contra isso, ele proclama uma “civilização do amor” e insiste em nunca perder de vista a humanidade: “Nenhum sistema de cálculo, por mais sofisticado que seja, pode gerar um coração que se doa, nem uma consciência capaz de discernir o bem”.

Leão XIV diagnostica claramente o efeito nocivo das redes sociais e dos novos modos de comunicação, e não hesita em prever uma deriva totalitária: “A opinião pública está se tornando progressivamente orientada e acostumada a narrativas midiáticas polarizadas, muitas vezes amplificadas por algoritmos que valorizam o confronto e a oposição. Também estamos testemunhando uma preocupante perda da memória histórica. O desaparecimento gradual de testemunhos diretos do Holocausto e das duas guerras mundiais facilita a reescrita seletiva ou distorcida do passado, em um clima onde notícias falsas e manipulação narrativa obscurecem as lições aprendidas.”

Contra o “extremismo religioso e o fanatismo identitário”

Um dos fenômenos em curso que ele destaca é uma aliança entre niilismo e pragmatismo: “O extremismo religioso e o fanatismo identitário aliam-se ao economicismo irracional, enquanto a política recorre prontamente à desinformação, ao ridículo do adversário e à construção sistemática de medos e ressentimentos. Assim, a diversidade do outro é cada vez mais percebida como uma ameaça.”

Ele é o primeiro papa agostiniano, e o texto carrega claramente a marca de Santo Agostinho, a visão da Cidade de Deus. Num mundo onde a questão central é a luta entre o bem e o mal, ele nos convida a abraçar a humanidade, com todos os seus problemas e imperfeições, e acredita num horizonte de esperança porque acredita que a humanidade também é capaz de grandes feitos. Ele nos lembra que isso nunca aconteceu sem “resistência, interesses mesquinhos e inércia cultural”. Ele destaca que “a história pode mudar quando pelo menos um homem ou uma mulher realmente leva a sério a dignidade de todos”, e o primeiro exemplo que ele cita, de forma bastante intencional, é o movimento pelos direitos civis nos Estados Unidos, liderado por Martin Luther King Jr. O Papa convoca a todos a trabalharem para “fazer a tecnologia crescer sem que o coração se acovarde”.

“Desarmar a IA”

Nessa batalha ideológica, o Papa acredita que a inteligência artificial “não é moralmente neutra”, mas sim uma arma. Por isso, ele defende o “desarmamento da IA ​​(...) removendo-a da lógica da corrida armamentista, que hoje não é apenas militar, mas também econômica e cognitiva”. “Desarmar significa romper com essa equivalência entre poder tecnológico e o direito de governar. Desarmar não significa renunciar à tecnologia, mas impedir que ela domine a humanidade. Significa retirá-la dos monopólios, tornando-a debatível, refutável e, portanto, habitável. (...) A IA já é um ambiente no qual estamos imersos e um poder que devemos enfrentar. Portanto, não basta regulá-la; é preciso desarmá-la e torná-la acolhedora”, resume ele.

No discurso que proferiu na segunda-feira, ao final da apresentação do texto, ele enfatizou ainda mais esse ponto. Chegou a comparar a IA à bomba atômica e afirmou que ela deve ser “libertada da lógica que a transforma em instrumento de dominação, exclusão e morte”. “Assim como a energia nuclear, ela deve estar a serviço de todos e do bem comum”, concluiu.

O Papa também expressa, no documento, sua preocupação com a “normalização da guerra”: “Quando a memória histórica se embota e os critérios éticos que protegem os civis e os mais vulneráveis ​​se enfraquecem, torna-se mais fácil apresentar a violência como necessária, inevitável ou até mesmo ‘limpa’”. A esse respeito, ele observa que “a tentação de construir uma identidade coletiva contra um inimigo ressurge, alimentando narrativas em que todos se apresentam como vítimas, justificando, assim, a vingança”. “A simplificação em estruturas simplistas — ‘eu primeiro’, ‘amigo-inimigo’, ‘nós contra vocês’ — facilita decisões, muitas vezes irresponsáveis, que minam a confiança mútua entre as nações. A força do direito internacional é, portanto, substituída pela suposta ‘lei do mais forte’”, conclui.

O perigo do pós-humanismo e das pessoas de “segunda classe”

No cerne da encíclica, o Papa refuta diretamente as teorias de Elon Musk, Peter Thiel e dos gurus visionários do Vale do Silício: o transumanismo e o pós-humanismo. “Embora essas hipóteses permaneçam em grande parte especulativas, elas estão ganhando relevância porque modificam o imaginário coletivo e, consequentemente, orientam decisões sociais, econômicas e políticas”, alerta ele. “Se os seres humanos forem tratados como matéria a ser aperfeiçoada ou superada, torna-se mais fácil aceitar que alguns possam ser considerados menos úteis, menos desejáveis, menos dignos. Em nome do progresso, pode-se chegar a pensar em ‘sacrifícios necessários’ e fazer com que os mais vulneráveis ​​paguem o preço por uma suposta otimização da espécie”, afirma.

Prevost insiste que algumas correntes pós-humanistas chegam a levantar “a existência de seres humanos de 'segunda classe', a serviço dos interesses de elites que se percebem como superiores: uma perspectiva perturbadora, que se torna ainda mais séria quando combinada com instrumentos tecnológicos que expandem exponencialmente o poder de controle e seleção”.

Mas o Papa vai além, ampliando a análise para incluir a exploração global, não apenas devido ao impacto ambiental das novas tecnologias, mas também por causa de “novas formas de escravidão” e um neocolonialismo “com uma face sem precedentes”. Isso surge, argumenta ele, de “mecanismos estruturais de dívida que mantêm populações inteiras em condições de dependência”. “Uma parte significativa do funcionamento da economia digital depende do trabalho silencioso de milhões de seres humanos, empregados em atividades invisíveis, mas essenciais: etiquetagem de dados, moderação de conteúdo — muitas vezes terrível — e treinamento de modelos. Em muitos casos, são jovens, principalmente mulheres, que trabalham arduamente por salários mínimos. (...) Não basta invocar a eficiência ou elogiar os benefícios da inovação se estes se baseiam em uma cadeia de exploração que é deliberadamente mantida oculta.”

Nesses trechos, surge o papa americano, que viveu metade da vida no Peru e conhece intimamente o Sul Global. Ele explica que “as injustiças surgem não apenas das decisões equivocadas de indivíduos, mas também de estruturas, mecanismos e sistemas econômicos e culturais que produzem desigualdade quase automaticamente”. Portanto, ele clama pela “reconstrução dos laços rompidos e pela reintegração daqueles que foram excluídos, levando em consideração as feridas infligidas pelas injustiças: guerras, colonialismo, discriminação racial ou de gênero, violência contra povos inteiros e exploração”.

Novo colonialismo e perdão pela escravidão

Leão XIV denuncia um novo colonialismo que “não só domina os corpos, como também se apropria dos dados, transformando vidas pessoais em informação explorável”. “Territórios inteiros, especialmente aqueles com menor relevância geopolítica e maior fragilidade estrutural, estão sendo atravessados ​​por uma nova lógica de extração: a dos fluxos de saúde, dos perfis epidemiológicos, dos mapas genéticos e dos dados demográficos.”

Aqui, o Papa oferece inesperadamente um mea culpa histórico pelos erros da Igreja Católica em permitir a escravidão: “Não podemos negar ou minimizar a demora com que a Igreja e a sociedade condenaram o flagelo da escravidão”. Ele especifica que isso só ocorreu no século XIX, novamente com Leão XIII. Portanto, explica ele, “a memória da cumplicidade e da cegueira do passado diante da injustiça da escravidão torna-se para nós um chamado à vigilância”.

O tratamento dado aos imigrantes é o fator que define uma sociedade

O Papa vincula todos os seus argumentos a uma espécie de teste decisivo que determina se uma sociedade é justa ou se desviou do caminho: “Um teste decisivo para a justiça social hoje é representado pela condição dos migrantes, refugiados e todos aqueles forçados a se deslocar por causa da pobreza, da violência, das mudanças climáticas e dos desastres naturais. A maneira como uma sociedade os trata mostra se sua ideia de justiça é guiada pelo medo ou pela fraternidade.”

Aqui, Prevost apresenta um argumento em duas frentes, que vem delineando ao longo do último ano: reconhecer o direito de partir, mas também trabalhar para garantir o direito efetivo de permanecer. “A justiça social, nesta área, implica pelo menos dois compromissos complementares. Por um lado, proteger o direito à esperança daqueles que são forçados a partir, garantindo-lhes vias seguras e legais, condições de acolhimento dignas e processos de integração genuínos. Por outro lado, promover também o direito de permanecer na própria terra em paz e segurança, abordando as causas profundas que impulsionam a migração, incluindo aquelas ligadas às injustiças econômicas e à crise climática.”

Isso sugere que a questão da migração tem duas falhas fundamentais, uma no ponto de origem e outra no destino, e que ambas devem ser abordadas se uma solução genuína for desejada. Portanto, ele destaca que “o desenvolvimento que aumenta o consumo de alguns em detrimento de outros, ou que relega regiões inteiras a papéis subordinados, impedindo-as de expressar todo o seu potencial, não é humano”. Ele insiste: “O verdadeiro progresso não aumenta o bem-estar de alguns degradando ecossistemas, transferindo custos para as comunidades mais vulneráveis ​​ou comprometendo as condições de vida das gerações futuras”.

Existem inúmeros alertas contra o capitalismo desenfreado: “É preciso lembrar que a liberdade econômica não é absoluta e deve sempre ser avaliada em função do bem comum e da dignidade de cada pessoa”. Afirma-se que “emprego decente e significativo” é parte essencial da sociedade, e não “uma variável dependente unicamente do lucro”. “Uma sociedade justa requer uma forte presença do Estado e instituições civis capazes de transcender a mera lógica da eficiência, direcionando explicitamente recursos, criatividade e regulamentações em favor dos mais vulneráveis”, conclui.

A encíclica chega a apresentar propostas relativas à política fiscal, destacando o alarmante aumento da desigualdade em todo o mundo: “São necessárias leis justas e instrumentos de redistribuição para corrigir os desequilíbrios, inclusive por meio de sistemas tributários que aliviem o fardo sobre os mais vulneráveis ​​e exijam mais daqueles com maiores recursos”. E acrescenta: “A tributação, a proteção social e as políticas industriais devem corrigir os desequilíbrios criados pela concentração de riqueza e poder”.

“A verdadeira alternativa não é entre entusiasmo e medo, mas entre duas formas de construção: o progresso que serve os indivíduos e as comunidades, ou o progresso que os subjuga à lógica do poder”, conclui o Papa. Ele é enfático ao denunciar que “aqueles que possuem poderosos recursos técnicos e econômicos (...) têm grande capacidade de provocar mudanças culturais e, em última instância, de convencer um número significativo de pessoas sobre a verdade a respeito dos seres humanos, do mundo, do sentido da existência, da família e até mesmo de Deus”. Esta é uma clara referência à deriva messiânica em curso nos Estados Unidos, que tenta apropriar-se da mensagem cristã.

Agradecemos à imprensa por revelar os casos de pedofilia

O texto enfatiza a degeneração da informação pública, que considera deliberada e motivada por profundos interesses políticos: “Quando a questão da verdade perde sua relevância e prevalece um pragmatismo que se contenta com o que parece útil ou eficaz, a vida democrática se enfraquece”. Defende uma “ecologia da informação” e a necessidade de um “jornalismo sério”.

Neste ponto, o Papa inclui um detalhe inédito em uma encíclica, o documento papal mais importante, ao agradecer à imprensa pelo seu trabalho na denúncia da pedofilia na Igreja: “Alguns jornalistas comprometidos com a verdade desempenharam um papel fundamental ao trazer à luz as injustiças e os abusos. A eles, gostaria de reiterar as palavras do Papa Francisco ao se dirigir aos jornalistas do Vaticano: 'Agradeço-lhes também pelo que revelam sobre o que não está funcionando na Igreja, por nos ajudarem a não varrer as coisas para debaixo do tapete e pela voz que deram às vítimas de abuso'”.

Arendt, 'O Senhor dos Anéis' e 'Guernica'

Em suma, o Papa acaba por se juntar à legião de citações de Hannah Arendt, que se tornam cada vez mais relevantes, e alude a As Origens do Totalitarismo: “O desinteresse pela verdade leva lenta, mas inexoravelmente, ao totalitarismo, para o qual, como escreveu a filósofa Hannah Arendt, os sujeitos ideais não são tanto aqueles que estão ideologicamente convencidos, mas sim 'pessoas para quem já não existe distinção entre fato e ficção (isto é, a realidade da experiência) e entre verdadeiro e falso (isto é, as normas do pensamento)'”.

Em outra das citações, o Papa tem seu momento de cultura pop com uma referência a O Senhor dos Anéis. Ele se aprofunda bastante no assunto, já que este romance é uma referência para movimentos de extrema-direita, a começar pela própria Giorgia Meloni, e Prevost enfatiza que um personagem de Tolkien, “um escritor católico”, descreveu a responsabilidade humana desta forma (ele não o nomeia, mas é Gandalf, segundo a mídia italiana): “Não nos cabe controlar todas as marés do mundo, mas fazer o que estiver ao nosso alcance para o bem dos dias em que vivemos”.

Existem outras alusões marcantes e altamente significativas, como quando ele destaca que a cultura e a arte, “quando autênticas, salvaguardam essa chama, impedindo a normalização do mal”. Ele então cita três exemplos: “a Nona Sinfonia de Beethoven como um desejo de unidade”, uma referência óbvia à Europa; Guernica, “como uma denúncia da desumanização”; e o filme A Lista de Schindler, “como um convite para não relegar o passado ao esquecimento”.

Aviso sobre o uso de celulares por menores de idade

Há outros aspectos novos e surpreendentes para uma encíclica: o Papa alerta para o risco para as crianças de “terem um telemóvel pessoal muito cedo e usá-lo sem a supervisão de um adulto”. Ele vê famílias sobrecarregadas, “com dificuldade em resistir sozinhas ao condicionamento de modelos de negócio que monetizam a atenção e o tempo”, e por isso apela à intervenção das autoridades: “É necessário opor-se, com decisões públicas de grande alcance, aos interesses imediatos das plataformas – concentrados em poucas mãos – quando estes entram em conflito com o bem dos menores”.

Prevost também defende a educação pública. Ele identifica o combate às “desigualdades gritantes no acesso à educação básica e superior” como um dos desafios mais importantes. Para isso, afirma que os estados devem investir os recursos necessários “para garantir educação de qualidade para todos, seja apoiando adequadamente o sistema público de ensino, seja sustentando instituições privadas”, mas alerta:

“Quando uma parcela significativa da educação, em vários níveis, é confiada a instituições privadas, pode acontecer que, na ausência de apoio público adequado, o acesso à escola se torne excessivamente dependente da condição econômica das famílias”.

Em todo caso, o Papa oferece um horizonte de esperança e confiança na humanidade. Como solução, ele propõe cinco caminhos de “responsabilidade diária e pública”, que ele lista da seguinte forma: “Palavras desarmantes, construção da paz por meio da justiça, adoção da perspectiva das vítimas, cultivo de um realismo saudável e retomada do diálogo e do multilateralismo”.

A Carta Encíclica Magnifica Humanitas pode ser lida, em português, aqui.

Leia mais

• Christopher Olah: "Na IA encontramos coisas misteriosas, até mesmo perturbadoras, estados que refletem alegria, satisfação, medo, dor e inquietação."
• A encíclica de Leão XIV, a resposta da doutrina para aprimorar o algoritmo
• "Sou um ex-Vale do Silício arrependido, e o Vaticano é crucial para conter seu poder excessivo”. Entrevista com Tristan Harris
• Papa Leão XIV, antropólogo e ateu no Vaticano: os interesses da inteligência artificial por trás da encíclica
• Encíclica do Papa Leão XIV: "Vamos desarmar a IA e permanecer humanos"
• "Magnifica Humanitas": O Vaticano e o algoritmo. Artigo de Antonio Spadaro
• Teólogos morais católicos e especialistas em ética apoiam a abordagem antropogênica no embate governamental sobre IA
• Por que a Anthropic está ajudando no lançamento da encíclica do Papa Leão XIV?
• A encíclica do Papa Leão XIV chega em boa hora: a inteligência artificial levanta questões que só a religião pode responder
• Um novo humanismo na era da Inteligência Artificial. Encíclica do Papa Prevost
• Vaticano tem falado muito sobre inteligência artificial. Um guia introdutório antes da encíclica do Papa
• "Somos um desejo, não um algoritmo!" Papa pede aos jovens da Sapienza que transformem "sua inquietação em profecia"
• Papa apresentará pessoalmente sua primeira encíclica, ‘Magnifica humanitas’, na próxima segunda-feira
• “Magnifica humanitas”: aguardando a encíclica
• Primeira encíclica de Leão XIV, uma caminhada na corda bamba – também para a Igreja. Artigo de Katharina Goldinger