O pontífice e o alarme sobre a IA que rouba o futuro. Artigo de Franco Garelli

"Sua imersão em mundos digitais, Leão XIV parece nos dizer, corre o risco de levá-las – mais cedo ou mais tarde – a recorrer à IA também para se perguntarem qual é o sentido da existência ou para perguntar qual o conceito de bem e mal a ser privilegiado, o que obviamente justifica a preocupação generalizada".

O artigo é de Franco Garelli, sociólogo italiano, publicado por La Stampa de 23-06-2025. A tradução é de Luisa Rabolini. 

Eis o artigo.

No discurso proferido pelo Papa Prevost no simpósio de cientistas sobre IA que terminou ontem no Vaticano, é clara a referência à maneira como a Doutrina Social da Igreja se posiciona em relação ao uso da tecnologia. Sua intenção (também evidente na escolha do nome) é seguir os passos do Papa da Rerum Novarum, reafirmando assim a centralidade da questão social para todo o catolicismo e para o mundo inteiro, que ontem (entre os séculos XIX e XX) se referia aos temas do trabalho, da condição trabalhista, da solidariedade cristã, enquanto hoje diz respeito ao desafio lançado à humanidade pela Inteligência Artificial.

Não há sinal de obscurantismo nesses primeiros discursos de Leão XIV sobre as novas tecnologias, não há fechamentos para os desenvolvimentos da ciência e da pesquisa nesses campos. Contudo, o reconhecimento de que elas constituem um "potencial extraordinário para o bem da humanidade" ou de que já trazem benefícios hoje, por exemplo, no setor da saúde, é sempre equilibrado por advertências veementes sobre a necessidade de que não seja "uma mera acumulação de dados", de que a IA não seja identificada com "a autêntica sabedoria". Considerando-as, portanto, "ferramentas a serviço do homem", capazes de promover "autêntica igualdade".

Em suma, para a Igreja, os processos tecnológicos estão sempre "sob especial observação", pelo entusiasmo que criam e pelas possíveis distorções que desencadeiam. Um uso distorcido da ciência e da tecnologia pode alimentar uma nova ideia do humano, uma vontade de poder que rompe o antigo equilíbrio entre homem e tecnologia, onde o primeiro não é mais o senhor da situação. Daí o posicionamento da Igreja na primeira fila (junto com grupos de outras sensibilidades culturais) ao lembrar a todos para "continuar sendo humanos", não perder essa identidade única e preciosa.

Uma identidade ameaçada, por exemplo, pelo "novo capitalismo de vigilância", pelo receio fundado de que os traços de conhecimento disseminados na internet permitam que centros de poder oculto controlem e direcionem nossas escolhas e existências. A apreensão também se estende à digitalização acelerada, que além de produzir situações de trabalho cada vez mais abstratas e "desumanas", também apresenta – como sabemos – os casos de trabalhadores que são demitidos em decorrência de um algoritmo. A Igreja, no entanto, dirigiu seus juízos mais incisivos ao transumanismo, o movimento científico, cultural e tecnológico que – graças a possibilidades técnico-manipulativas cada vez mais sofisticadas – visa não apenas reduzir o sofrimento e melhorar as capacidades físicas e cognitivas humanas, mas também superar os atuais limites biológicos e modificar a condição humana. A preocupação em relação à IA certamente não atinge esses níveis, mas para a Igreja a cautela é imprescindível, assim como o estudo aprofundado.

Posições aprofundadas sobre o tema da IA são precisamente o que todos esperam agora do Papa Prevost, dada a relevância social que hoje se reconhece a esse fenômeno e considerando sua formação científico-matemática. Há rumores de que ele já nomeou grupos de especialistas para trabalhar em vista de sua primeira encíclica, que deverá ser dedicada a esse tema, talvez a ser revisada durante as "férias" de agosto no redescoberto Castel Gandolfo. Enquanto isso, seus discursos desses últimos dias contêm dois pontos que despertam a curiosidade pública sobre esses temas. O primeiro é a referência que ele fez à Inteligência Artificial "generativa" (identificada na pesquisa em saúde), que, portanto, evoca a ideia de que também existem outros tipos de IA, cujo aprofundamento torna a reflexão da Igreja mais exigente, entra no mérito de questões complexas, não se limita a enunciar princípios éticos básicos e, portanto, poderá esclarecer melhor tanto os fiéis quanto os homens de boa vontade que aguardam uma sua palavra sobre um tema tão decisivo e complexo. O segundo ponto diz respeito ao impacto do fenômeno nas novas gerações, também destacado pelo Papa. Sua imersão em mundos digitais, Leão XIV parece nos dizer, corre o risco de levá-las – mais cedo ou mais tarde – a recorrer à IA também para se perguntarem qual é o sentido da existência ou para perguntar qual o conceito de bem e mal a ser privilegiado, o que obviamente justifica a preocupação generalizada.

Leia mais

• “Para a Igreja, a nova questão social é a inteligência artificial”, segundo Leão XIV
• Assim a Igreja pode contribuir para traçar o futuro da inteligência artificial. Artigo de Ilaria Solaini
• "Ele não condena os algoritmos, pede que o homem os governe". Entrevista com Paolo Benanti
• “Para a Igreja, a nova questão social é a inteligência artificial”, segundo Leão XIV
• “Como matemático, Prevost colocará os princípios éticos no centro da tecnologia”. Entrevista com Paolo Benanti
• Por dentro da inteligência artificial, um espaço para a algorética de Francisco. Artigo de Paolo Benanti
• “A inteligência artificial está nos levando a uma nova fase do conhecimento”. Entrevista com Paolo Benanti
• Inteligência Artificial: “A autonomia está em perigo e isto é ruim para a democracia”. Entrevista com Adela Cortina
• Dar uma ética à inteligência artificial: um desafio contado em livro
• Religiões pela paz. Artigo de Paolo Benanti
• Apelo de Roma por uma ética da inteligência artificial
• Papa Francisco no G7: “A inteligência artificial é um instrumento fascinante e tremendo”
• Apelo de Roma por uma ética da inteligência artificial
• “Para o Papa Francisco, a inteligência artificial é uma questão social”. Entrevista com Paolo Benanti
• O Papa aos sete grandes: “A IA não deve tornar-se um instrumento de guerra”
• G7: por que o Papa Francisco está se interessando pela inteligência artificial
• Arcebispo de Canterbury subscreve o “Apelo de Roma para a Ética da Inteligência Artificial”
• O que o Vaticano sabe sobre IA? Muito, na verdade
• Quem foi Leão XIII, o "papa dos trabalhadores" de quem Prevost recebeu o nome?
• Discurso do Papa. "Paz desarmada e que desarma, construamos pontes"
• O Conclave. Votos de todos os partidos e sim dos bergoglianos moderados
• Aquele missionário que uniu as Américas com uma paixão pelos números
• Papa Leão XIV. Desafios e expectativas. Algumas análises
• “O bispo é um pastor próximo ao povo, não um gestor”. Entrevista com Robert Francis Prevost, prefeito do Dicastério para os Bispos
• O papa Leão XIV, o seu nome, a sua vestimenta e o seu discurso. Artigo de Jung Mo Sung
• Prevost, eleito Papa Leão XIV: o cardeal americano cosmopolita e tímido
• Quem é o novo Papa Leão XIV? Robert Francis Prevost, o primeiro pontífice americano, bispo no Peru e uma das pessoas de confiança de Francisco