"Para o desenvolvimento da IA a serviço da humanidade e do planeta, são necessários regulamentos e princípios que protejam as pessoas - especialmente os fracos e os menos afortunados - e os ambientes naturais. A proteção dos direitos humanos na era digital deve ser colocada no centro do debate público, para que a IA possa atuar como uma ferramenta para o bem da humanidade e do planeta", escreve o teólogo e sacerdote italiano Paolo Benanti, frei franciscano da Terceira Ordem Regular e professor de Teologia Moral da Pontifícia Universidade Gregoriana, em Roma, em artigo publicado por L'Osservatore Romano, 29-02 a 01-03-2020. A tradução é de Luisa Rabolini.

Eis o artigo.

Em um palco dominado pela palavra "renAissance" - um jogo de palavras entre Renascimento e inteligência artificial (AI) - foi assinado a Rome Call for an Ai Ethics. Um apelo aberto por iniciativa da Academia Pontifícia para a Vida (Pav) e que, envolvendo indústrias, sociedade civil e instituições políticas, visa apoiar uma abordagem ética e humanística da inteligência artificial. A ideia dessa "chamada" para proteger a dignidade da pessoa humana e a casa comum nasce dos diálogos mantidos nos últimos dois anos entre a Academia e alguns de seus membros e parte do mundo tecnológico e industrial.

A ideia de não redigir um texto unilateral nem um texto diretamente normativo está ligada ao profundo desejo de promover um senso de responsabilidade compartilhado entre organizações, governos e instituições, com o objetivo de garantir um futuro em que a inovação digital e o progresso tecnológico estejam a serviço do gênio e da criatividade humana e não sua gradual substituição.

Na sexta-feira 28 de fevereiro, o documento teve as seguintes instituições entre os primeiros signatários: a Pav, com o arcebispo presidente Vincenzo Paglia; Microsoft, com o presidente Brad Smit; IBM, com o vice-presidente John E. Kelly III; a Fao, com o diretor geral Qu Dongyu; e o governo italiano, na pessoa da Ministra da Inovação Tecnológica e Digitalização, Paola Pisano.

Na sessão da manhã também participou Davide Sassoli, Presidente do Parlamento Europeu, que levou seus cumprimentos e elogiou a ideia da iniciativa, ressaltando a urgência desse confronto também na instituição da UE em Bruxelas, abrindo assim o caminho futuro para a Call.

O texto da Call está dividido em três partes: ética, educação e direitos e está disponível na internet no site.

No que diz respeito à ética, a chamada parte da consideração de que “Todos os homens nascem livres e iguais em dignidade e direitos. São dotados de razão e consciência e devem agir em relação uns aos outros com espírito de fraternidade", conforme expresso no artigo 1 da Declaração Universal dos Direitos Humanos. A partir dessa pedra angular, que hoje pode ser considerada como uma espécie de gramática universal, um elemento limiar, em uma comunidade global e plural, nascem as primeiras condições fundamentais que devem ser desfrutadas pela pessoa, liberdade e dignidade, que devem ser protegidas e garantidas na produção e no uso dos sistemas de inteligência artificial.

Os sistemas de IA devem, portanto, ser concebidos, projetados e implementados para servir e proteger os seres humanos e o meio ambiente em que vivem. Esse elemento serve para permitir que o progresso tecnológico seja um instrumento para o desenvolvimento da família humana, ao mesmo tempo em que respeita o planeta, ou seja, a casa comum. Para que isso aconteça, de acordo com a Call, três requisitos devem ser atendidos: a IA deve incluir todo ser humano, não discriminando ninguém; deve ter no centro o bem da humanidade e o bem de todo ser humano; deve ser desenvolvida de forma ciente da complexa realidade de nosso ecossistema e ser caracterizada pela maneira como cuida e protege o planeta com uma abordagem altamente sustentável, que também inclui o uso de inteligência artificial para garantir sistemas alimentares sustentáveis no futuro.

No que diz respeito à experiência que o usuário tem ao se relacionar com a máquina, a Call coloca no centro a primazia do ser humano: cada pessoa deve estar ciente de que interage com uma máquina e não pode ser enganada por interfaces que dissimulem o mecânico, dando-lhe aparências humana. A tecnologia baseada na inteligência artificial nunca deve ser usada para explorar as pessoas de forma alguma, especialmente as mais vulneráveis (principalmente crianças e idosos). Em vez disso, deve ser usada para ajudar as pessoas a desenvolver suas capacidades e para sustentar o nosso planeta.

Os desafios éticos tornam-se, portanto, desafios educacionais. Transformar o mundo através da inovação da IA significa comprometer-se a construir um futuro para e com as jovens gerações. Esse compromisso deve se traduzir em um empenho com a educação, desenvolvendo programas de estudo específicos que aprofundem as diferentes disciplinas, humanísticas, científicas e tecnológicas, para educar as gerações mais jovens.

A educação das gerações mais jovens precisa, portanto, de um empenho renovado e de uma qualidade cada vez maior: deve ser transmitida com métodos acessíveis a todos, que não discriminem e que possam oferecer oportunidades e tratamento iguais. O acesso à aprendizagem também deve ser garantido para os idosos, aos quais deve ser oferecida a possibilidade de acessar serviços inovadores de maneira compatível com seu momento de vida.

A partir dessas considerações, a Call observa que essas tecnologias podem se revelar extremamente úteis para ajudar as pessoas com deficiência a aprender e se tornar mais independentes, oferecendo ajuda e oportunidades de participação social (por exemplo, trabalho a distância para pessoas com mobilidade limitada, suporte tecnológicos para pessoas com deficiência cognitiva etc.).

Para que instâncias éticas e a urgência educacional não permaneçam uma mera voz, a Call descreve alguns elementos que gostariam de gerar uma nova época para o direito.

Para o desenvolvimento da IA a serviço da humanidade e do planeta, são necessários regulamentos e princípios que protejam as pessoas - especialmente os fracos e os menos afortunados - e os ambientes naturais. A proteção dos direitos humanos na era digital deve ser colocada no centro do debate público, para que a IA possa atuar como uma ferramenta para o bem da humanidade e do planeta.

Também será essencial considerar um método para tornar compreensíveis não apenas os critérios de decisão dos agentes algorítmicos baseados em IA, mas também seus propósitos e objetivos. Isso aumentará a transparência, a rastreabilidade e a responsabilidade, tornando o processo de tomada de decisão assistida por computador mais válido.

Projetar e planejar sistemas de inteligência artificial confiáveis implica promover a implementação de modalidades éticas que saibam chegar ao cerne dos algoritmos, o motor desses sistemas digitais. Para fazer isso, a Call fala de "algor-ética", ou seja, de princípios, uma espécie de guarda-corpo ético, que expressos por aqueles que desenvolvem esses sistemas se tornem operacionais na execução dos softwares. Na Call são listados os primeiros princípios algor-éticos que são reconhecidos como fundamentais para um correto desenvolvimento da IA.

O uso da inteligência artificial deve, portanto, seguir os seguintes princípios:

• transparência – em princípio, os sistemas de IA devem ser compreensíveis;
• inclusão – as necessidades de todos os seres humanos devem ser levadas em consideração para que todos possam se beneficiar e para que a todos os indivíduos possam ser oferecidas as melhores condições possíveis para se expressar e se desenvolver;
• responsabilidade – aqueles que projetam e implementam soluções de IA devem proceder com responsabilidade e transparência;
• imparcialidade – não criar ou agir de acordo com o preconceito, salvaguardando a equidade e a dignidade humana;
• confiabilidade – os sistemas de IA devem poder funcionar de maneira confiável;
• segurança e privacidade – sistemas de IA devem funcionar de modo seguro e respeitar a privacidade dos usuários.

Ludwig Wittgenstein, no Tractatus Logico-Philosophicus, escrevia: "As fronteiras da minha linguagem são as fronteiras do meu mundo". Parafraseando o filósofo do século passado, podemos dizer que, para não permanecer excluído do mundo das máquinas, para não criar um mundo algorítmico desprovido de significados humanos, devemos expandir nossa linguagem ética para que contamine e determine o funcionamento desses sistemas chamados "inteligentes". A inovação nunca como hoje precisa de uma rica compreensão antropológica para se transformar em uma autêntica fonte de desenvolvimento humano.

Nota de IHU On-Line:

Paolo Benanti participará do XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida, a ser realizado nos dias 19 a 21 de outubro de 2020, no Campus Unisinos Porto Alegre. 

Leia mais

• Vaticano, governo, Microsoft, IBM e Fao. Nasce a carta ética para a inteligência artificial
• Por uma inteligência artificial humanística. Entrevista com Paolo Benanti
• Apelo de Roma por uma ética da inteligência artificial
• O Vaticano reúne especialistas mundiais em ética da inteligência artificial
• Como lutar contra o racismo da inteligência artificial
• Inteligência artificial: a máquina capitalista que pensa como uma empresa. Artigo de Paolo Benanti
• Padre católico em Davos fala sobre inteligência artificial e fé
• A inteligência artificial e o fim do trabalho. Artigo de Andrea Komlos
• O fim do indivíduo. Viagem de um filósofo à terra da inteligência artificial
• Igreja é voz moral diante do avanço da inteligência artificial. Entrevista com Brian Patrick Green
• Digitalização, política e inteligência artificial
• Organizadores de dados: a face oculta da inteligência artificial
• Uma Inteligência Artificial, prestes a resolver o “problema dos três corpos”
• Como a inteligência artificial poderia acabar com a Humanidade - por acidente
• Inteligência artificial e automatização da pobreza
• Tecnologia de controle social, baseada em inteligência artificial, já está presente em 75 países
• Capitalismo de Inteligência Artificial. Entrevista com Dyer-Witheford
• Inteligência artificial e ética: um estado da arte. Artigo de Paolo Benanti
• Inteligência Artificial, potência e terror
• Inteligência artificial tenta prever quando as pessoas vão morrer
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• ONU: Inteligência Artificial cria assistentes virtuais sexistas
• Inteligência artificial e práticas cotidianas
• O irreversível avanço da inteligência artificial
• O trabalho e a inteligência artificial. Entre o temor e o otimismo
• Como revolucionar a nós mesmos. A política de Wittgenstein
• O aborto perdoado: "A excomunhão também pode cair". Entrevista com Vincenzo Paglia