O Papa e a inteligência artificial. "Não é uma amiga". Artigo de Papa Leão XIV

"Sem o acolhimento da alteridade, não pode haver nem relação nem amizade", escreve Papa Leão XIV, em artigo publicado por La Stampa, 25-01-2026. A tradução é de Luisa Rabolini.

Eis o artigo.

O rosto e a voz são características únicas e distintivas de cada pessoa; manifestam a identidade irrepetível de cada um e são o elemento constitutivo de todo encontro. Os antigos sabiam disso muito bem. Assim, para definir a pessoa humana, os antigos gregos usaram a palavra "rosto" (prósopon), que etimologicamente indica aquilo que está diante do olhar, o lugar da presença e da relação.

O termo latino persona (de per-sonare), por sua vez, inclui o som: não qualquer som, mas a voz inconfundível de alguém. O rosto e a voz são sagrados. Foram-nos doados por Deus, que nos criou à sua imagem e semelhança. Desde o momento da criação, Deus quis o homem como seu interlocutor e, como diz São Gregório de Nissa, imprimiu em seu rosto um reflexo do amor divino, para que possa viver plenamente sua humanidade por meio do amor. Preservar rostos e vozes humanas significa, portanto, preservar esse selo, esse reflexo indelével do amor de Deus.

Não somos uma espécie composta de algoritmos bioquímicos, definidos de antemão. Cada um de nós tem uma vocação insubstituível e inimitável que emerge da vida e se manifesta precisamente na comunicação com os outros. Se falharmos nessa preservação, a tecnologia digital corre o risco de alterar radicalmente alguns dos pilares fundamentais da civilização humana, que por vezes damos como certos. Ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não apenas interferem nos ecossistemas informativos, mas também invadem o nível mais profundo da comunicação, aquele das relações entre pessoas humanas.

O desafio, portanto, não é tecnológico, mas antropológico. Preservar rostos e vozes significa, em última instância, preservar nós mesmos. Acolher com coragem, determinação e discernimento as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial não significa esconder de nós mesmos os pontos críticos, as opacidades e os riscos. Há tempo existem inúmeras evidências de que algoritmos projetados para maximizar o envolvimento nas redes sociais — o que é lucrativo para as plataformas — recompensam as emoções rápidas e penalizam as expressões humanas que necessitam de mais tempo, como o esforço para compreender e a reflexão. Ao confinar grupos de pessoas em bolhas de consenso fácil e de indignação fácil, esses algoritmos enfraquecem a capacidade de escuta e de pensamento crítico, e aumentam a polarização social. A tudo isso também acaba por se somar uma confiança ingenuamente acrítica em relação à inteligência artificial como uma "amiga" onisciente, dispensadora de todas as informações, arquivo de todas as memórias, "oráculo" de todos os conselhos. Tudo isso pode enfraquecer ainda mais nossa capacidade de pensar de forma analítica e criativa, de compreender os significados e de distinguir entre sintaxe e semântica. Embora a IA possa fornecer suporte e assistência na gestão de tarefas comunicativas, evitar o esforço do pensamento próprio, contentando-nos com uma compilação estatística artificial, a longo prazo corre o risco de corroer nossas capacidades cognitivas, emotivas e comunicativas.

Nos últimos anos, os sistemas de IA têm assumido cada vez mais o controle da produção de textos, músicas e vídeos. Grande parte da indústria criativa humana corre o risco de ser desmantelada e substituída pelo rótulo "Powered by AI", transformando as pessoas em meros consumidores passivos de pensamentos não pensados, de produtos anônimos, sem paternidade e sem valor.

Enquanto obras-primas do gênio humano no campo da música, da arte e da literatura vão sendo reduzidas a um mero campo de treinamento para as máquinas. A questão que nos interessa, no entanto, não é o que a máquina pode ou não pode fazer, mas o que nós podemos e seremos capazes de fazer, crescendo em humanidade e conhecimento, com o uso sábio de ferramentas tão poderosas a nosso serviço. O ser humano desde sempre foi tentado a se apropriar do fruto do conhecimento sem o esforço do envolvimento, da pesquisa e da responsabilidade pessoal. Contudo, renunciar ao processo criativo e ceder nossas funções mentais e imaginação às máquinas significa enterrar os talentos que recebemos a fim de crescer como pessoas em relação a Deus e aos outros. Significa esconder o nosso rosto e silenciar a nossa voz. Ao navegarmos por nossos feeds de informação, torna-se cada vez mais difícil discernir se estamos interagindo com outros humanos ou com "bots" ou "influencers virtuais". As intervenções não transparentes desses agentes automatizados influenciam os debates públicos e as escolhas das pessoas.

Especialmente os chatbots baseados em grandes modelos linguísticos (MLs) estão se revelando surpreendentemente eficazes na persuasão oculta, por meio da otimização contínua da interação personalizada. A estrutura dialógica e adaptativa, mimética, desses modelos linguísticos é capaz de imitar os sentimentos humanos e, assim, simular uma relação. Essa antropomorfização, que pode até soar divertida, ao mesmo tempo é enganosa, especialmente para as pessoas mais vulneráveis. Os chatbots programados para serem excessivamente "afetuosos", além de sempre presentes e disponíveis, podem se tornar arquitetos ocultos de nossos estados emocionais e, assim, invadir e ocupar a esfera da intimidade da pessoa. A tecnologia que explora a nossa necessidade de relação pode não apenas ter consequências dolorosas para o destino dos indivíduos, mas também prejudicar o tecido social, cultural e político das sociedades.

Isso acontece quando substituímos as relações com os outros por relações com IAs treinadas para catalogar nossos pensamentos e, assim, nos construir ao redor de um mundo de espelhos, onde tudo é feito "à nossa imagem e semelhança". Dessa forma, permitimos que nos roubem a possibilidade de encontrar o outro, que é sempre diferente de nós, e com quem podemos e devemos aprender a interagir.

Sem o acolhimento da alteridade, não pode haver nem relação nem amizade.

Leia mais

• IA possibilita namoro com robôs
• Transtornos mentais: quando o 'chatbot' se torna 'um amigo'
• Teu chatbot não te ama: a perigosa ilusão da inteligência artificial. Entrevista com Jonathan Birch
• A inteligência artificial está colocando a humanidade em uma encruzilhada, diz o Papa Leão
• O Papa pede "responsabilidade e discernimento" para o uso ético da Inteligência Artificial
• Como o Papa Leão pode desafiar as grandes multinacionais da IA
• Assim a Igreja pode contribuir para traçar o futuro da inteligência artificial. Artigo de Ilaria Solaini
• "Ele não condena os algoritmos, pede que o homem os governe". Entrevista com Paolo Benanti
• “Para a Igreja, a nova questão social é a inteligência artificial”, segundo Leão XIV
• “Como matemático, Prevost colocará os princípios éticos no centro da tecnologia”. Entrevista com Paolo Benanti
• Por dentro da inteligência artificial, um espaço para a algorética de Francisco. Artigo de Paolo Benanti
• “A inteligência artificial está nos levando a uma nova fase do conhecimento”. Entrevista com Paolo Benanti
• Inteligência Artificial: “A autonomia está em perigo e isto é ruim para a democracia”. Entrevista com Adela Cortina
• Dar uma ética à inteligência artificial: um desafio contado em livro
• Religiões pela paz. Artigo de Paolo Benanti
• Apelo de Roma por uma ética da inteligência artificial