Especialistas em inteligência artificial advertem sobre a 'corrida armamentista da tecnologia' em Roma

Revista ihu on-line

Cultura Pop. Na dobra do óbvio, a emergência de um mundo complexo

Edição: 545

Leia mais

Revolução 4.0. Novas fronteiras para a vida e a educação

Edição: 544

Leia mais

Ontologias Anarquistas. Um pensamento para além do cânone

Edição: 543

Leia mais

Mais Lidos

  • Do samba ao funk, o Brasil que reprime manifestações culturais de origem negra e periférica

    LER MAIS
  • ASA 20 Anos: Água potável é vida e bênção para a infância do Semiárido

    LER MAIS
  • Massacre de Paraisópolis é a falta do reconhecimento da cultura periférica, diz Raquel Rolnik

    LER MAIS

Newsletter IHU

Fique atualizado das Notícias do Dia, inscreva-se na newsletter do IHU


close

FECHAR

Enviar o link deste por e-mail a um(a) amigo(a).

Enviar

30 Março 2019

A inteligência artificial (IA) está transformando a sociedade humana e as interações com muita rapidez, e o Vaticano e o clero católico estão acompanhando esse processo para se preparar para os debates éticos do futuro.

A reportagem é de Claire Giangravè, publicada por Crux, 28-03-2019. A tradução é de Luísa Flores Somavilla.

Em uma mesa redonda em Roma na semana passada, dois padres que estudam a relação entre IA e ética alertaram sobre os riscos de uma “corrida armamentista tecnológica” e de as pessoas ficarem cada vez mais parecidas com as máquinas à medida que as máquinas ficam cada vez mais humanas.

"Penso que, mais fundamentalmente, a realidade virtual, os robôs e a IA podem levar os seres humanos a tratarem uns aos outros como máquinas, perdendo o sentido de sua própria dignidade e sua função de mudar o mundo para o bem", disse o padre dominicano Ezra Sullivan, professor de teologia moral do Angelicum, ao Crux, por e-mail, no dia 22 de março.

"As pessoas podem passar a se enxergar não como agentes significativos, mas como objetos passivos de manipulação por máquinas ou elites poderosas", acrescentou, ressaltando que isso poderia levar a problemas de saúde mental e "mal-estar espiritual".

Sullivan participou do simpósio sobre ética e inteligência artificialfrom Awe to Wisdom: Ethics in the Age of Artificial Intelligence”, no dia 20 de março, na Embaixada da Santa Sé nos EUA. O objetivo do evento foi reforçar a ordem executiva do presidente Donald Trump para investir recursos federais na crescente indústria da Inteligência Artificial.

O simpósio tentou abordar algumas das preocupações éticas cada vez mais proeminentes à medida que essa tecnologia se desenvolve com uma regulação tão limitada. Ao longo dos últimos anos, no papado de Francisco, o interesse do Vaticano em inteligência artificial aumentou muito.

Em uma entrevista recente para a agência de notícias italiana Vatican Insider, Dom Vincenzo Paglia, líder da Pontifícia Academia para a Vida, disse que Francisco pediu aconselhamento para mergulhar nas tecnologias que estão surgindo, bem como a IA.

Para o arcebispo, o incentivo do Papa tem como intuito a "compreensão das transformações que estão ocorrendo nessas novas fronteiras, para compreender como direcioná-las para que estejam a serviço das pessoas, respeitando e promovendo sua dignidade intrínseca".

Para aqueles que questionam o que a Igreja Católica tem a oferecer no campo da ciência e da tecnologia, Sullivan afirmou que, por sua experiência milenar com questões extremamente complexas, a Igreja tornou-se "especialista em humanidade", sendo capaz de adaptar esse conhecimento ao campo da Inteligência Artificial.

"A Igreja é capaz de abordar as questões humanas mais profundas em função dos objetivos mais elevados do coração", disse.

"De forma prática, com seu poder de comunhão, a Igreja torna-se um ponto de encontro para pessoas de boa-vontade de todas as religiões, etnias e ideologias políticas para discutir essas questões”.

Quais são os desafios éticas diante do desenvolvimento da IA atualmente? Segundo os especialistas, essa tecnologia - cada vez mais presente - tem aplicação em inúmeros campos, muitas vezes tornando a vida das pessoas melhor e mais fácil, mas por vezes tomando empregos e profissões inicialmente realizados por seres humanos.

Não há dúvida, advertiram, que o desenvolvimento das tecnologias automatizadas e da IA criará muito desemprego e que muitas pessoas não poderão receber uma nova formação compatíveis com os muitos outros trabalhos que a IA criará.

Há também outras armadilhas, mais insidiosas, escondidas na IA, segundo eles, que podem transformar essa tecnologia em uma força a favor da desigualdade.
Durante a conferência na embaixada dos EUA, o uso da IA em serviços financeiros foi discutido por Paul Nelson, cientista que faz parte do setor sobre questões financeiras do mundo digital da Agência dos Estados Unidos para o Desenvolvimento Internacional. Nesse campo, a IA pode ser usada para gerar caixas de diálogo em que se cria um algoritmo para responder a consultas humanas sobre um assunto específico e muitas vezes simular a interação humana.

Mas em outros serviços financeiros, como empréstimos, bem como outros setores em que houve forte penetração da IA, os vieses inerentes à programação podem levar a desigualdades. Para determinar se uma pessoa pode receber um empréstimo quando nunca teve conta bancária nem pontuação de crédito, o algoritmo da máquina pode considerar fatores como o bairro de residência, profissão, idade ou estado civil. Às vezes, esses cálculos são injustos com minorias étnicas, considerando-os inadequados para fazer empréstimos.

As máquinas de IA não são racistas, mas como argumenta ele, "um sistema de IA por si só é basicamente uma representação dos seres humanos que a criaram".
A inteligência artificial pode refletir os vieses humanos inerentes, mas às vezes também pode chegar a conclusões misteriosas por si só. Essencialmente, algumas tecnologias de IA coletam grandes quantidades de dados e usam um algoritmo para determinar a resposta apropriada. Porém, em alguns casos os algoritmos são tão complexos ou os dados tão díspares que os seres humanos não conseguem compreender as ligações que levaram as máquinas a uma determinada resposta, incluindo algumas que parecem eticamente duvidosas.

Se pensarmos que muitas máquinas de IA são capazes de aprender e, portanto, podem incorporar abordagens eticamente suspeitas de fontes externas, a situação fica ainda mais complexa.

De acordo com o padre franciscano Paolo Benanti, professor na Pontifícia Universidade Gregoriana e um dos organizadores de uma recente conferência organizada pela Pontifícia Academia para a Vida sobre ética e robôs, é essencial "devolver o controle de um possível viés para a sociedade".

"O algoritmo é muito egoísta", disse Benanti na mesa redonda, e os seres humanos precisam tomar as rédeas para evitar a promoção de desigualdade.

Com o crescimento do campo da IA, instituições, empresas e indivíduos podem ver nele oportunidade de ter riqueza e fama, sem preocupações éticas, alertou Sullivan.

A "corrida armamentista da tecnologia”, como chama o padre dominicano, significa que "no final, rentabilidade, reconhecimento e influência tornam-se o principal”.

Benanti disse que os desafios são bem-vindos, afirmando que "vivemos em um momento maravilhoso", em que podemos influenciar e instruir a sociedade e as tecnologias do futuro, mas também concluiu com um alerta.

"Conforme as máquinas ficam cada vez mais humanas, precisamos cuidar para não nos tornar máquinas."

Leia mais

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

Especialistas em inteligência artificial advertem sobre a 'corrida armamentista da tecnologia' em Roma - Instituto Humanitas Unisinos - IHU

##CHILD
picture
ASAV
Fechar

Deixe seu Comentário

profile picture
ASAV