14 Junho 2024
Pela primeira vez, o Papa participará na reunião do G7, que se realizará de 13 a 15 de junho na região italiana da Apúlia. Ele falará no dia 14 de junho, durante sessão sobre inteligência artificial. La Croix entrevistou o teólogo italiano que o aconselhou sobre este tema.
A reportagem é de Loup Besmond de Senneville e Mélinée Le Priol, publicada por La Croix International, 13-06-2024.
O teólogo franciscano Paolo Benanti, membro e único italiano do Órgão Consultivo das Nações Unidas para a IA. Com 50 anos, o religioso Regular da Terceira Ordem é professor de Ética e Bioética, Ética da Tecnologia e Inteligência Artificial.
O Papa Francisco está pessoalmente interessado na inteligência artificial (IA), um tema que deverá abordar na sexta-feira, 14 de junho, na cimeira do G7?
O que importa para ele, independentemente do assunto, é o efeito sobre os pobres. É claro que lhe faltam conhecimentos técnicos, mas compreende que a IA pode ter um enorme impacto na pobreza. Neste sentido, considera que se trata de uma questão social, tal como os migrantes ou o ambiente.
Há cerca de uma década, o pensamento católico sobre a tecnologia estava muito focado no transumanismo e era altamente crítico. Hoje, a IA parece ser recebida de forma mais favorável pela Igreja. Por que essa mudança de tom?
Porque são duas coisas diferentes. O transumanismo é uma filosofia e uma ideologia. A inteligência artificial é uma tecnologia. Não é problemático em si, mas pelos seus efeitos na sociedade e nas intenções de quem o utiliza. Um “assistente virtual” instalado em um telefone celular pode ser o pior inimigo de um adolescente se encorajar escolhas erradas, mas também pode salvar a vida de um idoso se ele sofrer um acidente e usá-lo para pedir ajuda. Pode-se ter uma opinião firme sobre uma ideologia, não sobre uma tecnologia.
Na sua mensagem pela paz proferida em 2 de janeiro – de certa forma, o seu primeiro discurso sobre IA – o Papa Francisco enfatizou que a tecnologia não é neutra. Não molda o mundo do qual faz parte?
Tenha cuidado, este discurso é realmente sobre a paz: não é de forma alguma um tratado sistemático sobre IA! Dito isto, sou o primeiro a dizer que não existe uma tecnologia “neutra”. Todo objeto tecnológico gera uma mudança de poder. Por exemplo, o automóvel favoreceu o surgimento de um espaço público “feito para ele” há um século, que pouco se importa com a vontade de cada indivíduo em usar ou não o carro.
Mas só porque as tecnologias não são neutras não significa que sejam más. As empresas, pela minha experiência, não são inimigas do bem: muitas buscam um diálogo honesto e aberto. É claro que isso não garante que as coisas correrão bem. Mas ter discernimento, para usar as palavras do Papa, agora faz parte do negócio.
Às vezes fala-se de “lavagem ética”, onde as empresas tranquilizam o público enquanto continuam a implementar os seus sistemas. As abordagens deles à ética tecnológica parecem sinceras para você?
A ética não resolverá todos os problemas, mas pode ter efeitos positivos. O alinhamento com estes princípios dá às empresas uma vantagem na regulação do mercado: elas sabem que custará menos mais tarde cumpri-los.
A ética também dá sentido ao trabalho, num momento em que muitos colaboradores desejam desempenhar um papel positivo na sociedade. Isto é verdade tanto para os católicos como para os crentes de outras religiões. É por isso que o apelo do Vaticano à ética da IA (uma iniciativa tomada em 2020) foi alargado aos muçulmanos e judeus em 2023, e a outras religiões no próximo mês de julho.
De qualquer forma, parece-me claro que as empresas não deveriam poder se apropriar da questão ética. Isso já seria decidir que não queremos esta ética. Compreendo, evidentemente, que estejam profundamente interessados neste tema, mas não devemos ceder neste assunto.
Qual é a perspectiva católica sobre a IA?
A produção de textos magisteriais leva tempo. Ainda é cedo para esperar que a Igreja tenha uma reflexão sólida e estruturada, um tempo de amadurecimento é essencial. Não esqueçamos que há um ano e meio ninguém tinha ouvido falar do ChatGPT. Mas isto não nos impede, como teólogos, filósofos, católicos, de fazermos hoje um trabalho que irá, espero, informar o discernimento da Igreja para posições futuras.
Como a IA afeta a antropologia cristã? Podem estes chamados sistemas “inteligentes” relativizar o lugar do homem no topo da vida intelectual?
Não acredito que uma máquina possa mudar quem somos. A IA pode nos trancar em uma gaiola dourada, é claro. Mas a nossa dignidade, graças a Deus, nenhuma tecnologia pode tirar-nos.
O que é uma "gaiola dourada"?
O fato de trocarmos nossa liberdade por conforto. Quando vemos alguém digitando no teclado do telefone, podemos perguntar: os dedos estão controlando a máquina ou as notificações estão controlando? Em vez de nos dar a capacidade de satisfazer os nossos desejos mais profundos, estas ferramentas podem satisfazer necessidades secundárias. Devemos proteger as pessoas vulneráveis (os mais jovens, os mais velhos) desses efeitos.
O problema é que muitas pessoas pensam que estão usando IA apenas de forma limitada. Mas quem usa o Google está ligado a uma IA! Seu algoritmo decide o que verei ou não. Esses mecanismos nos guiam em uma direção: já é uma limitação da nossa liberdade. No entanto, a liberdade e a dignidade estão no centro da reflexão teológica sobre estes assuntos.
Você fala sobre “ética dos algoritmos”, mas nem todos definem esse termo como desejam?
Fui o primeiro a usar essa palavra em 2018 e acho que minha definição vale para todos. Só porque alguns chamam de “amor” o que na verdade é vício sexual não significa que a definição de amor muda.
A definição é diferente daquela de ética tecnológica?
Não. É uma ética da tecnologia que se aplica aos algoritmos. Trata-se de ver como eles moldam e transferem o poder dentro da sociedade. Um exemplo: na Itália, durante a pandemia de Covid-19, as marcações de vacinação eram marcadas por um algoritmo. Formalmente falando, é uma mudança de poder, tal como as pontes construídas por Robert Moses em Nova Iorque no início do século XX.
Neste contexto, a missão dos cristãos é iluminar este processo e depois agir. Devemos trazer luz. Sem se ater a um argumento puramente cristão! Quando falo com muçulmanos e judeus sobre a inteligência artificial e a sua regulamentação, especialmente no seio do comité da ONU (o comitê consultivo da IA, do qual sou membro), sinto que falamos a mesma língua.
Alguns acreditam que não devemos perguntar como tornar a IA aceitável ou ética, mas sim que tipo de sociedade a IA está criando e se queremos essa sociedade. O que você acha?
Esses são dois lados do mesmo problema. Definir a sociedade em que queremos viver também significa pensar sobre o que a IA é aceitável. Se digo que quero construir uma sociedade onde a dignidade seja o critério principal, significa que recuso tudo o que a prejudica. Por outro lado, se considero uma ferramenta inaceitável, é porque contribui para a construção de uma sociedade que não quero.
Como cristãos, temos um dever: suportar a complexidade. No catolicismo podemos pensar em realidades contraditórias. Jesus Cristo era homem e Deus. No domínio da IA, devemos fazer uma reflexão que tenha em conta esta complexidade, sem focar apenas na ferramenta.
Na sua opinião, que tipo de sociedade a IA está criando?
É muito diferente dependendo de onde você está no mundo. Isso faz parte da complexidade. Os Estados Unidos são impulsionados pelo mercado, a China pelo Estado. O novo regulamento europeu sobre IA (o AI Act, adotado no dia 21 de maio deste ano) ensinar-nos-á que tipo de sociedade somos capazes de construir na Europa.
A IA é usada hoje principalmente para otimizar fluxos, reduzir custos e, assim, acelerar o movimento da sociedade tal como ela é. Isto é ecologicamente sustentável e compatível com os requisitos da Laudato si' e da Fratelli tutti ?
Podemos certamente imaginar que a IA nos ajuda a ter uma sociedade mais sustentável ao acelerar a utilização digital. Se você assistir a um filme em streaming, ele consumirá menos energia do que se você for ao cinema, sentar em uma sala com ar condicionado e comer pipoca...
A IA é um multiplicador: pode multiplicar a riqueza, bem como as desigualdades e a injustiça. Ter ética na IA significa sempre colocar esses sistemas sob as lentes da reflexão e da crítica social. É o papel dos cristãos: pés no chão e cabeça no céu. Nosso papel é nos engajarmos na mudança social. Se não o fizermos, seremos parte do problema e não da solução.
"Heinrich, o que você pensa sobre religião?": a famosa pergunta de Gretchen do Fausto de Goethe dá uma indicação de que gêne[...]
LER MAISO primeiro a registrar os seus números foi o vaticanista do jornal Il Foglio, Paolo Rodari, que, no seu blog Palazzo Apostolico, [...]
LER MAIS
Um ano após o falecimento da médica e fundadora da Pastoral da Criança, Zilda Arns, o pensamento de voluntários de todo o paí[...]
LER MAIS
