Ao longo de sua história, o cristianismo habitou com fina competência todos os domínios do saber, em favor de toda a família humana. Nesta passagem da história, marcada por uma permanente revolução tecnológica, o cristianismo não recua: trabalha generosamente com uma dedicação que honra a sabedoria do passado. Uma expressão desse compromisso é a conferência sobre a inteligência artificial, organizada pela Academia Pontifícia para a Vida, que acontecerá em Roma de 26 a 28 de fevereiro.

A iniciativa será articulada em duas sessões: a primeira, 26 e 27, intitulada "O 'bom' algoritmo? Inteligência artificial: ética, direito, saúde", será dedicada ao aprofundamento do tópico com intervenções de palestrantes de renome de todo o mundo. A segunda sessão, intitulada "RenAIssance. Por uma inteligência artificial humanística" acontecerá na manhã de 28: a Pontifícia Academia para a Vida apresentará a "Rome Call for AI Ethics", um documento que, como recentemente ilustrou Dom Vincenzo Paglia, presidente da Pontifícia Academia, pretende levar "a uma avaliação crítica dos efeitos dessas tecnologias, dos riscos que elas implicam, das possíveis vias de regulamentação, também no plano educacional".

Hoje - ele continuou – “fazer escolhas éticas significa tentar transformar o progresso em desenvolvimento. Significa direcionar a tecnologia para um humanismo centrado, precisamente, na dignidade da pessoa e de toda a família humana".

O documento será assinado por Brad Smith, presidente da Microsoft, e John Kelly III, vice-presidente executivo da IBM. O encontro também contará com a presença de David Sassoli, presidente do Parlamento Europeu, e Dongyu Qu, diretor geral da FAO. A “Rome Call for AI Ethics" será apresentada ao Papa Francisco, que se dirigirá aos participantes por meio de videochamada.

A entrevista é publicada por La Stampa, 24-02-0220. A tradução é de Luisa Rabolini.

Sobre inteligência artificial e o importante documento a ser apresentado em Roma, conversa com o Vatican Insider o frei franciscano da Terceira Ordem Regular, Paolo Benanti, 46 anos, professor de teologia moral, bioética, neurociência e ética de tecnologias na Pontifícia Universidade Gregoriana e membro da Pontifícia Academia para a Vida. Autor do recente volume "Le macchine sapienti" (Ed. Marietti), ele será um dos oradores da conferência em Roma.

Paolo Benanti participará do XIX Simpósio Internacional IHU Homo Digitalis. A escalada da algoritmização da vida, a ser realizado na Unisinos Porto Alegre, nos dias 19 a 21 de outubro de 2020.

Eis a entrevista.

Em primeiro lugar, com a expressão "inteligência artificial", o que se quer designar especificamente?

O termo indica uma área da ciência da computação nascida nos anos sessenta do século passado que passou por um longo inverno pois a teoria que foi desenvolvida na época parecia não funcionar. O despertar remonta ao início dos anos 2000, quando os algoritmos projetados na década de 1960, nutridos pelo grande poder computacional e pela enorme quantidade de dados disponibilizados no início deste século, mostraram não apenas que eles estavam formalmente corretos, mas também que podiam oferecer resultados práticos aplicáveis em muitos âmbitos. Esses algoritmos têm uma característica peculiar: eles superam o cânone padrão de programação porque o programador não precisa pensar em todas as eventualidades em que a máquina pode se encontrar e, portanto, indicar como agir nas diferentes situações: a máquina é treinada e, portanto, torna-se capaz de adaptar-se a determinados contextos. A máquina, portanto, goza de certa autonomia e parece mostrar alguns comportamentos que se assemelham àqueles inteligentes de um ser humano.

Vamos nos debruçar um pouco sobre o termo "inteligência". O Papa Francisco, no discurso proferido na última assembleia geral da Pontifícia Academia para a Vida, dedicada à robótica (2019), disse: "a denominação ‘inteligência artificial’, embora certamente de grande efeito, pode correr o risco de ser enganosa. Os termos ocultam o fato de que - apesar do desempenho útil das tarefas servis (é o significado do termo ‘robô’) - os automatismos funcionais permanecem qualitativamente distantes das prerrogativas humanas de saber e do agir. E, portanto, podem se tornar socialmente perigosos.

Isso mesmo: a distância existe, é preciso sempre reiterá-la para não gerar mal-entendidos. Minha impressão é que os cientistas e engenheiros da computação estejam cientes disso: eles geralmente usam o termo ‘inteligência’ para não designar qualidades propriamente humanas conferidas às máquinas, mas para descrever funções que tornam certos comportamentos da máquina - por exemplo, ler, abrir uma porta , reconheça um rosto ou um obstáculo - semelhantes ao de um ser humano. Tudo começou no final dos anos cinquenta do século passado com uma pergunta provocativa de Norbert Wiener, o pai da inteligência artificial: depois de ter construído um ratinho mecânico que se movia autonomamente dentro de um labirinto até completar todo o percurso, ele perguntou às pessoas presentes no experimento: ‘se um dia fosse construída uma máquina que sabe jogar xadrez, esta seria inteligente?’. Todos ficaram impressionados com o termo, que mais tarde foi adotado.

Os sistemas de inteligência artificial levantam questões relevantes e inéditos questionamentos: que ações as máquinas podem executar autonomamente e sob quais condições? E quais eles não deveriam fazer? E quem determina tudo isso? Como Monsenhor Paglia apontava recentemente, não basta raciocinar sobre a sensibilidade moral daqueles que pesquisam e projetam dispositivos e algoritmos, e nos confiar a ela; ao contrário, é “necessário trabalhar para estabelecer entes sociais intermediários que garantam representatividade à sensibilidade ética dos usuários, em todas as fases do processo. Trata-se, portanto, de evitar, ao mesmo tempo, atribuir um papel dogmático e gerencial, por um lado, à gestão política e, pelo outro, ao liberalismo tecnocrático”. Você diz que está na hora de uma algorética: o que entende com essa expressão?

Talvez alguém pense que o critério da prudência seja suficiente. Não é esse o caso: é sempre necessário, porque não sabemos como controlar totalmente os efeitos desses novos sistemas e não temos condições de prever as mudanças que eles acarretarão no plano social. Mas é insuficiente, dada a complexidade do assunto. Estamos passando por uma mudança de época: os sistemas de inteligência artificial estão produzindo uma mudança tanto na maneira como entendemos a realidade quanto na compreensão que o ser humano tem de si mesmo. É necessário elaborar novas categorias e novas ferramentas, incluindo técnicas que, por exemplo, saibam medir a segurança desses sistemas. É necessário criar uma regulamentação a mais justa possível, equitativa e responsável. Na minha opinião, e este será o cerne do meu discurso na conferência, é hora de escrever um novo capítulo da ética: a algorética. O objetivo é iniciar um trabalho interdisciplinar capaz de tornar realmente incisivos os valores que nos importam (como, por exemplo, justiça, equidade, solidariedade), conseguindo transferi-los para as máquinas por meio de algoritmos, ou seja, fornecendo diretrizes éticas às máquinas em uma linguagem que elas possam entender e utilizar.

Em nossa época, as ciências pretendem descrever os seres humanos como maquininhas engenhosas programadas e voltadas apenas para a satisfação egoísta das próprias necessidades, e reduzir o humano a funções biológicas determinadas e condicionadas por um punhado de células e genes. Existe o risco de os sistemas de inteligência artificial agravarem este perigoso reducionismo que trai a verdade do ser humano?

O risco é real. O Vale do Silício também é povoado por visionários hiper-reducionistas. A diferença deve sempre ser reiterada: a máquina funciona, o ser humano existe. Talvez, como nunca antes, o desenvolvimento tecnológico precise do pensamento teológico e filosófico para não esquecer a diferença entre ‘algo’ e ‘alguém’, entre ‘funcionar’ e ‘existir’. E os primeiros a perceber isso são os engenheiros, os técnicos de inteligência artificial: enquanto fornecem máquinas sofisticadas e poderosas, pedem para serem acompanhadas no caminho, para receber valores de referência. Quando converso com eles, por exemplo, sobre o mundo que eles querem deixar para seus filhos e as escolhas que isso implica, eles se iluminam. Percebi que eles pedem orientações: precisam perceber que, com seu trabalho, contribuem para a promoção e defesa do ser humano. Alguns dos pesquisadores mais brilhantes da Google se demitiram quando descobriram que alguns dispositivos haviam sido vendidos para os militares. E o deles não é um ato isolado. Uma mudança está ocorrendo nos grandes grupos estadunidenses: o lucro não basta mais para os funcionários. A frase que se repete cada vez mais frequentemente é ‘we need a purpose’, precisamos de um propósito, e deve ser maior que o mero lucro. Do mundo da tecnologia, especialmente no último ano e meio, está se elevando um pedido de ajuda.

A "Rome Call for AI Ethics", promovida pela Academia Pontifícia para a Vida, se insere nesse quadro: como está estruturado o documento? E que perspectivas abre para uma aliança ética em favor da vida humana?

A Pontifícia Academia para a Vida, angariando as solicitações de alguns importantes operadores no campo das tecnologias digitais (Microsoft e IBM), elaborou um texto de grande importância. O documento, cujo conteúdo não antecipo, pois será apresentado no dia 28, é composto por um preâmbulo e três seções: uma dedicada à ética, a segunda à educação e a última às questões normativas. Seis princípios éticos compartilhados são indicados. A call é, de fato, uma chamada feita a todos os homens de boa vontade que reconhecem a necessidade de trabalhar juntos para estabelecer princípios éticos, levando em consideração todo o caminho de elaboração dos sistemas de inteligência artificial, que parte da pesquisa e do projeto e vai até o uso que usuários ou instituições individuais podem fazer dele. Todos almejamos que esse modo de acompanhar o desenvolvimento tecnológico, que busca antecipar problemas e buscar soluções, em vez de intervir apenas a posteriori, possa ser proveitoso, fornecendo conteúdo de qualidade, força e apoio àquele movimento cultural recém-nascido que se questiona criticamente sobre a inteligência artificial. O objetivo é guiar a tecnologia para um humanismo que salvaguarde e promova sempre a dignidade do ser humano.

 

Nota de IHU On-Line:

O Instituto Humanitas Unisinos – IHU promove o XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida, a ser realizado nos dias 19 a 21 de outubro de 2020, no Campus Unisinos Porto Alegre.

 

Leia mais

• O Vaticano reúne especialistas mundiais em ética da inteligência artificial
• "Estudamos a inteligência artificial. O Papa nos pediu", afirma D. Vincenzo Paglia
• Um dicionário de teologia de acordo com a sensibilidade contemporânea. Artigo de Gianfranco Ravasi
• “O grande desafio de nosso tempo é não permitir que o desenvolvimento tecnológico se desligue da ética”. Entrevista com Emanuele Felice
• Inteligência artificial: a máquina capitalista que pensa como uma empresa. Artigo de Paolo Benanti
• ''Machine Behaviour'' e Inteligência Artificial: nomear os medos, governar os algoritmos. Artigo de Paolo Benanti
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• “Vivemos uma drogadição de imagens felizes, rápidas e banais”, constata Esteban Ierardo
• Novo ciclo tecnológico requer que a sociedade repense seu pacto fundador. Entrevista especial com Glauco Arbix
• Padre católico em Davos fala sobre inteligência artificial e fé
• A inteligência artificial e o fim do trabalho. Artigo de Andrea Komlos
• O pós-humanismo bate à porta: do Homo sapiens ao ciborgue
• De Davos ao Vaticano, por uma tecnologia do bem
• “Devemos impor limites ao digital”. Entrevista com Eric Vidalenc
• Igreja é voz moral diante do avanço da inteligência artificial. Entrevista com Brian Patrick Green
• Papa alerta sobre “nova barbárie” na era da inteligência artificial
• Tecnologia de controle social, baseada em inteligência artificial, já está presente em 75 países
• Capitalismo de Inteligência Artificial. Entrevista com Dyer-Witheford
• Inteligência artificial e ética: um estado da arte. Artigo de Paolo Benanti
• Inteligência Artificial, potência e terror
• Por que o papa Francisco está preocupado com o futuro dos robôs
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• Papa: hoje existe o risco de dar vida à lógica das máquinas e dos dispositivos
• Papa Francisco reúne-se com Brad Smith, presidente da Microsoft. "A tecnologia precisa da aliança entre ética, política e direito"
• Vaticano: instituições católicas reforçam debate sobre ética e inteligência artificial
• ONU: Inteligência Artificial cria assistentes virtuais sexistas
• Inteligência artificial e práticas cotidianas
• Inteligência artificial e pós-humanismo. Artigo de Giannino Piana