A inteligência artificial (IA) está transformando a sociedade humana e as interações com muita rapidez, e o Vaticano e o clero católico estão acompanhando esse processo para se preparar para os debates éticos do futuro.

A reportagem é de Claire Giangravè, publicada por Crux, 28-03-2019. A tradução é de Luísa Flores Somavilla.

Em uma mesa redonda em Roma na semana passada, dois padres que estudam a relação entre IA e ética alertaram sobre os riscos de uma “corrida armamentista tecnológica” e de as pessoas ficarem cada vez mais parecidas com as máquinas à medida que as máquinas ficam cada vez mais humanas.

"Penso que, mais fundamentalmente, a realidade virtual, os robôs e a IA podem levar os seres humanos a tratarem uns aos outros como máquinas, perdendo o sentido de sua própria dignidade e sua função de mudar o mundo para o bem", disse o padre dominicano Ezra Sullivan, professor de teologia moral do Angelicum, ao Crux, por e-mail, no dia 22 de março.

"As pessoas podem passar a se enxergar não como agentes significativos, mas como objetos passivos de manipulação por máquinas ou elites poderosas", acrescentou, ressaltando que isso poderia levar a problemas de saúde mental e "mal-estar espiritual".

Sullivan participou do simpósio sobre ética e inteligência artificial “from Awe to Wisdom: Ethics in the Age of Artificial Intelligence”, no dia 20 de março, na Embaixada da Santa Sé nos EUA. O objetivo do evento foi reforçar a ordem executiva do presidente Donald Trump para investir recursos federais na crescente indústria da Inteligência Artificial.

O simpósio tentou abordar algumas das preocupações éticas cada vez mais proeminentes à medida que essa tecnologia se desenvolve com uma regulação tão limitada. Ao longo dos últimos anos, no papado de Francisco, o interesse do Vaticano em inteligência artificial aumentou muito.

Em uma entrevista recente para a agência de notícias italiana Vatican Insider, Dom Vincenzo Paglia, líder da Pontifícia Academia para a Vida, disse que Francisco pediu aconselhamento para mergulhar nas tecnologias que estão surgindo, bem como a IA.

Para o arcebispo, o incentivo do Papa tem como intuito a "compreensão das transformações que estão ocorrendo nessas novas fronteiras, para compreender como direcioná-las para que estejam a serviço das pessoas, respeitando e promovendo sua dignidade intrínseca".

Para aqueles que questionam o que a Igreja Católica tem a oferecer no campo da ciência e da tecnologia, Sullivan afirmou que, por sua experiência milenar com questões extremamente complexas, a Igreja tornou-se "especialista em humanidade", sendo capaz de adaptar esse conhecimento ao campo da Inteligência Artificial.

"A Igreja é capaz de abordar as questões humanas mais profundas em função dos objetivos mais elevados do coração", disse.

"De forma prática, com seu poder de comunhão, a Igreja torna-se um ponto de encontro para pessoas de boa-vontade de todas as religiões, etnias e ideologias políticas para discutir essas questões”.

Quais são os desafios éticas diante do desenvolvimento da IA atualmente? Segundo os especialistas, essa tecnologia - cada vez mais presente - tem aplicação em inúmeros campos, muitas vezes tornando a vida das pessoas melhor e mais fácil, mas por vezes tomando empregos e profissões inicialmente realizados por seres humanos.

Não há dúvida, advertiram, que o desenvolvimento das tecnologias automatizadas e da IA criará muito desemprego e que muitas pessoas não poderão receber uma nova formação compatíveis com os muitos outros trabalhos que a IA criará.

Há também outras armadilhas, mais insidiosas, escondidas na IA, segundo eles, que podem transformar essa tecnologia em uma força a favor da desigualdade.
Durante a conferência na embaixada dos EUA, o uso da IA em serviços financeiros foi discutido por Paul Nelson, cientista que faz parte do setor sobre questões financeiras do mundo digital da Agência dos Estados Unidos para o Desenvolvimento Internacional. Nesse campo, a IA pode ser usada para gerar caixas de diálogo em que se cria um algoritmo para responder a consultas humanas sobre um assunto específico e muitas vezes simular a interação humana.

Mas em outros serviços financeiros, como empréstimos, bem como outros setores em que houve forte penetração da IA, os vieses inerentes à programação podem levar a desigualdades. Para determinar se uma pessoa pode receber um empréstimo quando nunca teve conta bancária nem pontuação de crédito, o algoritmo da máquina pode considerar fatores como o bairro de residência, profissão, idade ou estado civil. Às vezes, esses cálculos são injustos com minorias étnicas, considerando-os inadequados para fazer empréstimos.

As máquinas de IA não são racistas, mas como argumenta ele, "um sistema de IA por si só é basicamente uma representação dos seres humanos que a criaram".
A inteligência artificial pode refletir os vieses humanos inerentes, mas às vezes também pode chegar a conclusões misteriosas por si só. Essencialmente, algumas tecnologias de IA coletam grandes quantidades de dados e usam um algoritmo para determinar a resposta apropriada. Porém, em alguns casos os algoritmos são tão complexos ou os dados tão díspares que os seres humanos não conseguem compreender as ligações que levaram as máquinas a uma determinada resposta, incluindo algumas que parecem eticamente duvidosas.

Se pensarmos que muitas máquinas de IA são capazes de aprender e, portanto, podem incorporar abordagens eticamente suspeitas de fontes externas, a situação fica ainda mais complexa.

De acordo com o padre franciscano Paolo Benanti, professor na Pontifícia Universidade Gregoriana e um dos organizadores de uma recente conferência organizada pela Pontifícia Academia para a Vida sobre ética e robôs, é essencial "devolver o controle de um possível viés para a sociedade".

"O algoritmo é muito egoísta", disse Benanti na mesa redonda, e os seres humanos precisam tomar as rédeas para evitar a promoção de desigualdade.

Com o crescimento do campo da IA, instituições, empresas e indivíduos podem ver nele oportunidade de ter riqueza e fama, sem preocupações éticas, alertou Sullivan.

A "corrida armamentista da tecnologia”, como chama o padre dominicano, significa que "no final, rentabilidade, reconhecimento e influência tornam-se o principal”.

Benanti disse que os desafios são bem-vindos, afirmando que "vivemos em um momento maravilhoso", em que podemos influenciar e instruir a sociedade e as tecnologias do futuro, mas também concluiu com um alerta.

"Conforme as máquinas ficam cada vez mais humanas, precisamos cuidar para não nos tornar máquinas."

Leia mais

• Um pacto entre ética e tecnologia: caso contrário, robôs e algoritmos mandarão nos seres humanos. Entrevista com Vincenzo Paglia
• "Não se fala mais da morte, a culpa é também de nós, cristãos". Entrevista com Vincenzo Paglia
• Paglia: “Sem Francisco, seria impossível pensar que Romero será canonizado”
• O impacto da quarta revolução industrial na sociedade
• É preciso uma reflexão ética sobre a tecnociência
• Papa: hoje existe o risco de dar vida à lógica das máquinas e dos dispositivos
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• Inteligência artificial: “Precisamos mesmo de esperar por um desastre?”
• Se a inteligência artificial se torna Deus, teólogos e cientistas se confrontam em Roma
• O irreversível avanço da inteligência artificial
• Ética e Inteligência Artificial. Dez áreas de interesse
• A ética da inteligência artificial é a mesma de outras novas tecnologias
• Inteligência artificial, desafio ético. Entrevista com Paolo Benanti
• Inteligência artificial - A disputa entre a busca da eficiência e os desafios ético-morais. Entrevista especial com Brian Green