Em uma recente conferência sobre os desafios da inteligência artificial, o Prof. Dr. Christof Koch deixou claro em sua declaração que as apostas são altas: “Pela metade do século, a humanidade estará rodeada por agentes autônomos, altamente inteligentes, flexíveis, ubíquos e isso afetará profundamente nosso futuro – inclusive se nós teremos algum”.

 

A reportagem é de Gerard O'Connell, publicada por America, 26-10-2021. A tradução é de Wagner Fernandes de Azevedo.

 

Koch – que é cientista chefe do Programa Mindscope no Instituto Allen para Neurociência, em Seattle, EUA – estava falando para um grupo de centena de acadêmicos, diplomatas e jornalistas. A conferência ocorreu na Chancelaria do Vaticano, um Palácio Renascentista do século XV em Roma, e centrada no tema do “desafio da inteligência artificial para a sociedade humana e a ideia de pessoa humana”.

Esse foi o segundo evento no Vaticano para focar sobre a inteligência artificial, comumente abreviada como IA. Antes da Itália entrar em lockdown nacional no ano passado, a Pontifícia Academia para a Vida organizou um workshop sobre IA, em fevereiro de 2020. O workshop produziu um “Apelo por uma Ética da IA”, o qual foi assinado pela Microsoft, IBM, FAO e o governo italiano, além da Pontifícia Academia.

A conferência da semana passada adotou uma abordagem interdisciplinar, destacando a necessidade da comunidade internacional, governos, sociedade civil e comunidades religiosas abordarem a miríade de questões que cercam a IA. Organizada pelo secretário do Pontifício Conselho da Cultura, o bispo Paul Tighe, e pelo embaixador da Alemanha junto à Santa Sé, Bernard Kotsch, a conferência reuniu um painel de palestrantes de diversas áreas acadêmicas.

Ao abordar a questão de saber se a IA pode produzir consciência, Koch destacou o fato de que, pelo menos na maior parte do mundo de língua inglesa, os filósofos que estudam a cognição pensam que as coisas (incluindo as máquinas) podem ser consideradas inteligentes apenas em virtude do que são capazes de fazer, independentemente do que eles realmente são. Portanto, se um computador fosse hipoteticamente capaz de fazer tudo o que um cérebro humano poderia fazer, ele seria considerado “consciente”. Koch disse que “esta é a visão dominante no Vale do Silício e na mídia”.

No entanto, ele disse que rejeita essa teoria e argumentou que mesmo que uma máquina imite o comportamento consciente de um cérebro humano, ela ainda “não será consciente”. Mesmo se um computador fosse programado para executar uma simulação da atividade cerebral de um humano a ponto de se comportar como um humano, disse Koch, ainda seria uma “farsa profunda”. Isso ocorre porque, ao contrário dos humanos, os computadores “não existem para si próprios”.

Outro palestrante, Matthias Lutz-Bachmann, professor de filosofia da Universidade Goethe, em Frankfurt, Alemanha, examinou os desafios filosóficos levantados pela IA para a nossa compreensão da pessoa humana e perguntou qual papel a IA pode desempenhar no futuro para sociedades modernas pluralistas e democráticas.

Ele falou sobre como a inteligência artificial já está sendo usada em países como Rússia e China para minar a dignidade humana, inclusive ajudando governos a suprimir a liberdade de expressão. Nessas sociedades, disse ele, “a ordem normativa do estado de direito democrático está em perigo e a visão de George Orwell de 1984 torna-se realidade”.

Lutz-Bachman disse que só podemos enfrentar esses desafios “nas condições estáveis de democracias bem organizadas e sistemas jurídicos muito fortes”, bem como no direito internacional para proteger os direitos humanos. “Caso contrário”, disse ele, “a realidade virtual da IA irá desestabilizar as democracias nacionais”.

De fato, Lutz-Bachman apontou como a internet já se tornou uma “arma contra as democracias”, inclusive por meio da disseminação de desinformação. “A internet, suas regras e algoritmos, devem ser colocados sob controle público legal para prevenir suas forças destrutivas”, disse ele.

Outro palestrante, o jesuíta James Keenan, professor no Boston College, propôs usar o conceito de vulnerabilidade humana para enfrentar os desafios colocados pela IA. “O contrário da vulnerabilidade não é poder ou fraqueza, mas dominação”, disse ele, que segundo ele é semelhante ao pecado original da humanidade. “A tendência humana de fugir da imagem vulnerável de Deus leva ao seu oposto, a dominação”.

Keenan disse que, nas discussões éticas sobre a IA, é crucial manter essas questões gerais em mente, especialmente quando existe uma grande tentação na indústria de tecnologia de se concentrar principalmente em como a IA pode aumentar os lucros.

Ele encerrou sua apresentação mudando o foco para os designers de software de IA. “Estou consideravelmente preocupado com o poder dominação do designer, porque, como na vida humana, o designer mais facilmente assume o padrão de dominação do que de vulnerabilidade”. Especialmente no reino da IA, disse o padre Keenan, a sociedade deve ser cautelosa com “a facilidade com que a dominação surge no horizonte humano”.

Outro palestrante para falar sobre a IA e o debate sobre ética foi Helen Alford, irmã dominicana, formada pela Universidade de Cambridge, que estudou engenharia antes de ingressar na vida religiosa. Atualmente é professora de economia e ética na Pontifícia Universidade Santo Tomás de Roma, vice-reitora da Faculdade de Ciências Sociais e membro da Pontifícia Academia de Ciências Sociais.

Visto que esses sistemas “terão um grande impacto na sociedade”, disse a irmã Alford, “a questão é: como podemos garantir que esse impacto seja orientado para o bem... mais que para o contrário?”.

Parecendo uma nota de esperança em meio às ansiedades da conferência sobre a dominação das máquinas, ela enfatizou que os humanos ainda têm agência no desenvolvimento de IA de uma forma ética. “Esses sistemas estão em nossas mãos”, disse a irmã Alford. “Podemos direcionar a maneira como eles se desenvolvem”.

 

Nota do Instituto Humanitas Unisinos - IHU

 

Amanhã, 28-10-2021, às 10h, ocorre a palestra "A digitalização nas formas de governar. Reflexões sobre o resgate do humano nas estruturas de poder", com o Prof. Dr. Alfonso Ballesteros, como parte da programação do Ciclo de Estudos "A condição humana: entre a biosfera, a tecnosfera e infosfera em tempos sindêmicos", promovido pelo Instituto Humanitas Unisinos. Mais informações neste link.

 

 

Leia mais

 

• Transumanismo e pós-humanismo no Antropoceno. Entrevista especial com José Manuel de Cózar
• Metaverso: entre a possibilidade de uma existência estendida e a escravidão algorítmica. Entrevista especial com Rafael Zanatta
• Distopia transumanista para um mundo pós-pandemia
• Metaverso. Novas possibilidades e desafios para a Igreja. Entrevista especial com Moisés Sbardelotto
• Encerrada a sessão plenária da Pontifícia Academia para a Vida. Uma linguagem ética para a inteligência artificial
• Por uma inteligência artificial humanística. Entrevista com Paolo Benanti
• Apelo de Roma por uma ética da inteligência artificial
• "Estudamos a inteligência artificial. O Papa nos pediu", afirma D. Vincenzo Paglia
• O Vaticano reúne especialistas mundiais em ética da inteligência artificial
• É possível confiar na inteligência artificial?
• A fantasia que a inteligência artificial nunca poderá ter
• “A inteligência artificial pode salvar o planeta, mas precisamos dos ‘colarinhos verdes’.” Entrevista com Luciano Floridi
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti