"Inteligência artificial: o desafio é preservar vozes e rostos humanos"

Graças à inteligência artificial e às novas tecnologias da comunicação, "a humanidade agora tem possibilidades impensáveis apenas poucos anos atrás". Mas também enfrenta riscos sem precedentes e dramáticos. O desafio? "Garantir que a humanidade continue sendo o agente orientador" da inovação. "O futuro da comunicação deve garantir que as máquinas sejam instrumentos a serviço e para a conexão da vida humana, e não forças que corroam a voz humana". Nesse cenário, "como católicos, podemos e devemos contribuir para que as pessoas — especialmente os jovens — adquiram a capacidade de pensamento crítico e cresçam na liberdade de espírito". É o que afirma o comunicado do Dicastério para a Comunicação, divulgado ontem, que anuncia o tema escolhido por Leão XIV para o 60º Dia Mundial das Comunicações Sociais: Preservar vozes e rostos humanos.

A reportagem é de Lorenzo Rosoli, publicada por Avvenire, 30-09-2024. A tradução é de Luisa Rabolini.

Esse dia será celebrado em 2026 em muitos países, incluindo a Itália, em 17 de maio, solenidade da Ascensão.

"Nos ecossistemas de comunicação atuais, a tecnologia influencia as interações de maneiras nunca antes vistas — desde os algoritmos que selecionam os conteúdos nos feeds de notícias até a inteligência artificial que redige textos e conversas inteiras", inicia a declaração do Vaticano.

Esses instrumentos oferecem possibilidades extraordinárias, mas "não podem substituir as capacidades unicamente humanas de empatia, ética e responsabilidade moral. A comunicação pública requer juízo humano, não apenas esquemas de dados”. E exige visão de longo prazo diante de riscos "reais".

A inteligência artificial, de fato, "pode gerar conteúdo cativante, mas enganoso, manipulador e prejudicial, replicar preconceitos e estereótipos presentes em dados de treinamento e amplificar a desinformação simulando vozes e rostos humanos. Também pode invadir a privacidade e a intimidade das pessoas sem o seu consentimento". Além disso, "uma dependência excessiva da IA enfraquece o pensamento crítico e as capacidades criativas, enquanto o controle monopolista desses sistemas suscita preocupações sobre a centralização do poder e as desigualdades". Portanto, conclui a nota, "é cada vez mais urgente introduzir a alfabetização midiática nos sistemas educacionais, à qual também deve ser adicionada a alfabetização no campo da IA" – o chamado MAIL, ou Alfabetização em Mídia e Inteligência Artificial.

Trata-se de temas particularmente caros a Leão XIV. Em seu primeiro encontro com os cardeais, em 10 de maio, o Papa recém-eleito explicou como havia escolhido o nome, inspirando-se em Leão XIII, que, "com a histórica encíclica Rerum Novarum, abordou a questão social no contexto da primeira grande revolução industrial". "Hoje", acrescentou, "a Igreja oferece a todos seu patrimônio de doutrina social para responder a uma nova revolução industrial e aos desenvolvimentos da inteligência artificial, que comportam novos desafios para a defesa da dignidade humana, da justiça e do trabalho".

De fato, "salvaguardar a dignidade inviolável de cada pessoa humana e respeitar as riquezas culturais e espirituais e a diversidade dos povos do mundo" deve ser o critério ético supremo para avaliar os benefícios e os riscos da IA, afirmou o próprio Prevost em sua mensagem de 17 de junho à Segunda Conferência Anual sobre Inteligência artificial, ética e governança empresarial. O desafio é realmente grave.

E Tim Berners-Lee, o pai da World Wide Web, que deu início a revolução da internet no CERN na década de 1990, nos lembra disso em um apelo lançado pelas páginas do The Guardian: "Hoje, a web não é mais livre. Aprendemos com as mídias sociais que o poder reside nos monopólios que controlam e coletam dados pessoais. Não podemos permitir que o mesmo aconteça com a inteligência artificial. Precisamos de uma organização sem fins lucrativos como o CERN para promover a pesquisa internacional em IA." E precisamos "aprender com os erros do passado" e "agir com urgência".

Leia mais

• A inteligência artificial está colocando a humanidade em uma encruzilhada, diz o Papa Leão
• O Papa pede "responsabilidade e discernimento" para o uso ético da Inteligência Artificial
• Como o Papa Leão pode desafiar as grandes multinacionais da IA
• Assim a Igreja pode contribuir para traçar o futuro da inteligência artificial. Artigo de Ilaria Solaini
• "Ele não condena os algoritmos, pede que o homem os governe". Entrevista com Paolo Benanti
• “Para a Igreja, a nova questão social é a inteligência artificial”, segundo Leão XIV
• “Como matemático, Prevost colocará os princípios éticos no centro da tecnologia”. Entrevista com Paolo Benanti
• Por dentro da inteligência artificial, um espaço para a algorética de Francisco. Artigo de Paolo Benanti
• “A inteligência artificial está nos levando a uma nova fase do conhecimento”. Entrevista com Paolo Benanti
• Inteligência Artificial: “A autonomia está em perigo e isto é ruim para a democracia”. Entrevista com Adela Cortina
• Dar uma ética à inteligência artificial: um desafio contado em livro
• Religiões pela paz. Artigo de Paolo Benanti
• Apelo de Roma por uma ética da inteligência artificial
• Papa Francisco no G7: “A inteligência artificial é um instrumento fascinante e tremendo”
• Apelo de Roma por uma ética da inteligência artificial
• “Para o Papa Francisco, a inteligência artificial é uma questão social”. Entrevista com Paolo Benanti
• O Papa aos sete grandes: “A IA não deve tornar-se um instrumento de guerra”
• G7: por que o Papa Francisco está se interessando pela inteligência artificial
• Arcebispo de Canterbury subscreve o “Apelo de Roma para a Ética da Inteligência Artificial”
• O que o Vaticano sabe sobre IA? Muito, na verdade