17 Junho 2025
Vídeos do Papa Leão XIV gerados por IA estão circulando nas redes sociais. Eles mostram o líder da Igreja Católica pregando algo que nunca disse. "Isso encerra um potencial assustador para abuso de poder e manipulação", afirma o especialista em ética Peter G. Kirchschläger, de Lucerna. Não há muito que o Vaticano possa fazer a respeito.
A entrevista é de Jaqueline Straub, publicada por Kath.ch, 16-06-2025.
Sermões em vídeo falsos do Papa Leão XIV, criados por IA, estão inundando a internet. Por quê?
Os chamados sermões em vídeo falsos baseados em IA infelizmente abrem a possibilidade de colocar na boca do Papa Leão XIV palavras que ele nunca disse ou diria. Isso abriga um potencial assustador para abuso de poder e manipulação.
Crentes estão caindo em massa em falsificações generalizadas, mesmo quando os vídeos são rotulados como gerados por IA. O que seria necessário para reduzir isso?
Por um lado, as deepfakes devem ser proibidas e severamente sancionadas, e as empresas multinacionais de tecnologia que os administram em suas plataformas de mídia social devem ser responsabilizadas de forma consistente. Por outro lado, habilidades para uma abordagem crítica às chamadas "mídias sociais", mais precisamente descritas como "mídias antissociais", devem ser especificamente promovidas na educação escolar e extracurricular.
Há, portanto, uma necessidade urgente de ação.
Com certeza. Os tomadores de decisão na política e nos negócios deveriam perceber que suas carreiras podem ser destruídas em poucas horas por uma deepfake e, finalmente, tomar medidas.
O que o Vaticano pode fazer contra essas deepfakes?
Infelizmente, o Vaticano sozinho não pode fazer muito para combater as deepfakes. Portanto, com base na minha pesquisa, seria necessário que o Vaticano, com outros Estados, impulsionasse a regulamentação global da esfera digital e da IA o mais rápido possível, bem como a criação de um órgão de fiscalização na ONU — uma Agência Internacional para Sistemas Baseados em Dados (IDA).
O que mais o Vaticano pode fazer?
O Vaticano pode publicar correções oficiais e comunicá-las repetidamente. E, em tópicos particularmente importantes, poderia comunicar pelo menos as linhas gerais das posições do Papa Leão XIV o mais rápido possível, numa tentativa de limitar um pouco o escopo para deepfakes.
Que perigo essas deepfakes representam para o Papa, a Igreja e até mesmo para a fé católica?
As deepfakes causam danos massivos e representam um grande perigo para o Papa, a Igreja e a fé católica, pois, com seu enorme alcance, podem enganar e iludir milhões de pessoas. Isso permite que as pessoas sejam deliberadamente manipuladas em relação a declarações e posições do Papa Leão XIV e da Igreja, bem como em relação a conteúdo religioso. Isso se mostra um enorme perigo no caso das deepfakes, pois alguns elementos delas persistem na mente das pessoas, apesar das correções oficiais.
Quem está interessado em espalhar declarações falsas do Papa Leão XIV nas redes sociais?
Como a criação de deepfakes é tão tecnicamente simples, os produtos correspondentes para a criação de deepfakes são onipresentes e facilmente acessíveis, as empresas multinacionais de tecnologia estão fazendo muito pouco ou nada para combater as deepfakes e a regulamentação e a fiscalização globais ainda são insuficientes, o círculo de potenciais perpetradores é, infelizmente, extremamente amplo. Dado o objetivo de manipular pessoas deliberadamente com tais deepfakes, tanto na esfera política e social quanto na esfera religiosa, isso é possível.
A agenda do Papa Leão XIV inclui o tema da IA. O que o senhor espera dele nesse sentido?
O Papa Leão XIV já reafirmou a posição do Papa Francisco, que adotou sugestões da minha pesquisa, a saber, uma estrutura global baseada em direitos humanos e o estabelecimento de uma Agência Internacional para Sistemas Baseados em Dados (IDA) na ONU para fazer cumprir essa regulamentação global. Ele descreveu a chamada IA como um dos maiores desafios dos próximos anos "para a defesa da dignidade humana, da justiça e do trabalho". Estou confiante de que Leão XIV continuará a defender a IA baseada em direitos humanos.
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
"É bem verdade que as novas tecnologias da informação têm poder de disseminação muito diferente de tudo o que conhecíamos a[...]
LER MAISO historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
