A Pontifícia Academia para a Vida, a Microsoft, a IBM, a FAO e o governo italiano assinaram no sábado, 28 de fevereiro, o documento “Call for an AI Ethics” [Apelo por uma Ética da Inteligência Artificial], nascido para apoiar uma abordagem ética à inteligência artificial e promover, entre organizações, governos e instituições, um senso de responsabilidade compartilhada, com o objetivo de garantir um futuro em que a inovação digital e o progresso tecnológico estejam a serviço da genialidade e da criatividade humanas, e não da sua gradual substituição.

O documento é publicado por Pontifícia Academia para a Vida, 28-02-2020. A tradução é de Moisés Sbardelotto.

Eis o texto.

Introdução

A “Inteligência artificial” (IA) está provocando profundas mudanças na vida dos seres humanos e continuará a fazê-lo. A IA oferece um enorme potencial quando se trata de melhorar a coexistência social e o bem-estar pessoal, aumentando as capacidades humanas e possibilitando ou facilitando muitas tarefas que podem ser realizadas de modo mais eficiente e eficaz. No entanto, esses resultados não estão de forma alguma garantidos.

As transformações atualmente em curso não são apenas quantitativas. Acima de tudo, são qualitativas, pois afetam o modo como essas tarefas são realizadas e o modo como percebemos a realidade e a própria natureza humana, tanto que elas podem influenciar os nossos hábitos mentais e interpessoais. Novas tecnologias devem ser pesquisadas e produzidas de acordo com critérios que assegurem que elas realmente sirvam a toda a “família humana” (Preâmbulo, Declaração Universal dos Direitos Humanos), respeitando a dignidade inerente a cada um de seus membros e todos os ambientes naturais, e levando em conta as necessidades daqueles que são mais vulneráveis. O objetivo não é apenas garantir que ninguém seja excluído, mas também expandir aquelas áreas de liberdade que podem ser ameaçadas pelo condicionamento algorítmico.

Dada a natureza inovadora e complexa das questões levantadas pela transformação digital, é essencial que todos os envolvidos trabalhem juntos e que todas as necessidades afetadas pela IA sejam representadas. Este Apelo é um passo à frente com o objetivo de crescer com um entendimento comum e buscar uma linguagem e soluções que possamos compartilhar. Com base nisso, podemos reconhecer e aceitar responsabilidades que levem em conta todo o processo de inovação tecnológica, desde o design até a distribuição e o uso, encorajando o comprometimento real em uma variedade de cenários práticos. Em longo prazo, os valores e princípios que podemos incutir na IA ajudarão a estabelecer um marco que regule e atue como um ponto de referência para a ética digital, guiando nossas ações e promovendo o uso da tecnologia em benefício da humanidade e do ambiente.

Agora, mais do que nunca, devemos garantir uma perspectiva em que a IA seja desenvolvida com um foco não na tecnologia, mas sim no bem da humanidade e do ambiente, da nossa casa comum e compartilhada, e de seus habitantes humanos, que estão inextricavelmente conectados. Em outras palavras, uma visão na qual os seres humanos e a natureza estejam no centro do modo como a inovação digital é desenvolvida, na qual eles sejam apoiados em vez de gradualmente substituídos por tecnologias que se comportem como atores racionais, mas não são de forma alguma humanas. É hora de começar a se preparar para um futuro tecnológico em que as máquinas terão um papel mais importante na vida dos seres humanos, mas também um futuro em que fica claro que o progresso tecnológico afirma o brilho da raça humana e permanece dependente da sua integridade ética.

Ética

Todos os seres humanos nascem livres e iguais em dignidade e em direitos. Dotados de razão e de consciência, devem agir uns para com os outros em espírito de fraternidade (cf. Art. 1, Declaração Universal dos Direitos Humanos). Essa condição fundamental de liberdade e dignidade também deve ser protegida e garantida ao se produzir e usar sistemas de IA. Isso deve ser feito salvaguardando os direitos e a liberdade dos indivíduos para que eles não sejam discriminados por algoritmos devido à sua “raça, cor, sexo, língua, religião, opinião política ou outra, origem nacional ou social, fortuna, nascimento ou qualquer outra situação” (Art. 2, Declaração Universal dos Direitos Humanos).

Os sistemas de IA devem ser concebidos, projetados e implementados para servir e proteger os seres humanos e o ambiente em que vivem. Essa perspectiva fundamental deve se traduzir em um compromisso de criar condições de vida (tanto sociais quanto pessoais) que permitam que tanto grupos quanto membros individuais se esforcem para se expressar plenamente sempre que possível.

Para que um avanço tecnológico se alinhe ao verdadeiro progresso da raça humana e ao respeito ao planeta, ele deve atender a três requisitos. Deve incluir todo ser humano, não discriminando ninguém; deve ter o bem da humanidade e o bem de todo ser humano em seu coração; finalmente, deve estar atento à complexa realidade do nosso ecossistema e se caracterizar pelo modo como cuida e protege o planeta (nossa “casa comum e compartilhada”) com uma abordagem altamente sustentável, o que também inclui o uso da IA para garantir sistemas alimentares sustentáveis no futuro. Além disso, cada pessoa deve estar ciente quando estiver interagindo com uma máquina.

A tecnologia baseada em IA nunca deve ser usada para explorar as pessoas de forma alguma, especialmente aquelas mais vulneráveis. Ao invés disso, deve ser usada para ajudar as pessoas a desenvolver suas habilidades (empoderamento/capacitação) e para sustentar o planeta.

Educação

Transformar o mundo por meio da inovação de IA significa empreender a construção de um futuro para e com as gerações mais jovens. Esse empreendimento deve se refletir em um compromisso com a educação, desenvolvendo currículos específicos que abranjam diferentes disciplinas das humanidades, das ciências e da tecnologia, e na responsabilização pela educação das gerações mais jovens. Esse compromisso significa trabalhar para melhorar a qualidade da educação que os jovens recebem; isso deve ser realizado através de métodos que sejam acessíveis a todos, que não discriminem e que possam oferecer igualdade de oportunidades e tratamento. O acesso universal à educação deve ser alcançado mediante princípios de solidariedade e justiça.

O acesso à aprendizagem ao longo da vida também deve ser garantido aos idosos, que devem ter a oportunidade de acessar serviços offline durante a transição digital e tecnológica. Além disso, essas tecnologias podem ser extremamente úteis para ajudar as pessoas com deficiência a aprender e se tornar mais independentes: a educação inclusiva, portanto, também significa usar a IA para apoiar e integrar cada pessoa e todas as pessoas, oferecendo ajuda e oportunidades para a participação social (por exemplo, trabalho remoto para pessoas com mobilidade limitada, suporte tecnológico para pessoas com deficiência cognitiva etc.).

O impacto das transformações trazidas pela IA na sociedade, no trabalho e na educação tornou essencial a revisão dos currículos escolares, a fim de tornar realidade o lema educacional “ninguém será deixado para trás”. No setor educacional, são necessárias reformas a fim de estabelecer padrões altos e objetivos que possam melhorar os resultados individuais. Esses padrões não devem se limitar ao desenvolvimento de habilidades digitais, mas devem se focar em fazer com que cada pessoa possa expressar plenamente suas capacidades e trabalhar pelo bem da comunidade, mesmo quando não há benefícios pessoais a serem obtidos com isso.

Enquanto projetamos e planejamos a sociedade do amanhã, o uso da IA deve seguir formas de ação que sejam socialmente orientadas, criativas, conectivas, produtivas, responsáveis e capazes de ter um impacto positivo na vida pessoal e social das gerações mais jovens. O impacto social e ético da IA também deve estar no centro das atividades educacionais da IA.

O principal objetivo dessa educação deve ser conscientizar sobre as oportunidades e também sobre as possíveis questões críticas levantadas pela IA na perspectiva da inclusão social e do respeito individual.

Direitos

O desenvolvimento da IA a serviço da humanidade e do planeta deve se refletir em regulamentos e princípios que protejam as pessoas – particularmente os mais fracos e os menos privilegiados – e os ambientes naturais. O compromisso ético de todos os envolvidos é um ponto de partida crucial; para tornar realidade esse futuro, valores, princípios e, em alguns casos, regulamentos legais são absolutamente indispensáveis a fim de sustentar, estruturar e guiar esse processo.

Para desenvolver e implementar sistemas de IA que beneficiem a humanidade e o planeta, enquanto atuam como ferramentas para construir e guardar a paz internacional, o desenvolvimento da IA deve caminhar de mãos dadas com medidas robustas de segurança digital.

Para que a IA funcione como uma ferramenta para o bem da humanidade e do planeta, devemos colocar o tema da proteção dos direitos humanos na era digital no centro do debate público. Chegou a hora de questionar se as novas formas de automação e de atividade algorítmica requerem o desenvolvimento de responsabilidades mais fortes. Em particular, será essencial levar em consideração alguma forma de “dever de explicação”: devemos pensar em tornar compreensíveis não apenas os critérios de tomada de decisão dos agentes algorítmicos baseados em IA, mas também seus propósitos e objetivos. Esses dispositivos devem ser capazes de oferecer aos indivíduos informações sobre a lógica por trás dos algoritmos usados para tomar decisões. Isso aumentará a transparência, a rastreabilidade e a responsabilidade, tornando o processo de tomada de decisão auxiliado por computador mais válido.

Novas formas de regulação devem ser incentivadas a fim de promover a transparência e o cumprimento de princípios éticos, especialmente para tecnologias avançadas que apresentem maior risco de impactar os direitos humanos, como o reconhecimento facial.

Para alcançar esses objetivos, devemos definir desde o início do desenvolvimento de cada algoritmo uma visão “algorética”, isto é, uma abordagem da ética por design. Desenhar, projetar e planejar sistemas de IA nos quais possamos confiar envolve a busca de um consenso entre os tomadores de decisão políticos, as agências do sistema das Nações Unidas e outras organizações intergovernamentais, pesquisadores, o mundo da academia e representantes de organizações não governamentais em relação aos princípios éticos que devem ser incorporados a essas tecnologias. Por essa razão, os promovedores do Apelo expressam seu desejo de trabalhar juntos, neste contexto e em nível nacional e internacional, para promover a “algorética”, ou seja, o uso ético da IA, conforme definido pelos seguintes princípios:

1. Transparência: em princípio, os sistemas de IA devem ser explicáveis;

2. Inclusão: as necessidades de todos os seres humanos devem ser levadas em consideração para que todos possam se beneficiar e para que se ofereça a todos os indivíduos as melhores condições possíveis para se expressarem e se desenvolverem;

3. Responsabilidade: aqueles que projetam e desenvolvem o uso da IA devem proceder com responsabilidade e transparência;

4. Imparcialidade: não criar ou agir com tendenciosidade, salvaguardando, assim, a justiça e a dignidade humana;

5. Confiabilidade: os sistemas de IA devem poder funcionar de modo confiável;

6. Segurança e privacidade: os sistemas de IA devem funcionar com segurança e respeitar a privacidade dos usuários.

Esses princípios são elementos fundamentais de uma boa inovação.

Roma, 28 de fevereiro de 2020

 

Nota de IHU On-Line:

O Instituto Humanitas Unisinos – IHU promove o XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida, a ser realizado nos dias 19 a 21 de outubro de 2020, no Campus Unisinos Porto Alegre.

 

Leia mais

• Revolução 4.0. Novas fronteiras para a vida e a educação. Revista IHU On-Line, Nº 544
• Encerrada a sessão plenária da Pontifícia Academia para a Vida. Uma linguagem ética para a inteligência artificial
• Vaticano, governo, Microsoft, IBM e Fao. Nasce a carta ética para a inteligência artificial
• Por uma inteligência artificial humanística. Entrevista com Paolo Benanti
• O Vaticano reúne especialistas mundiais em ética da inteligência artificial
• Padre católico em Davos fala sobre inteligência artificial e fé
• "Estudamos a inteligência artificial. O Papa nos pediu", afirma D. Vincenzo Paglia
• Um dicionário de teologia de acordo com a sensibilidade contemporânea. Artigo de Gianfranco Ravasi
• “O grande desafio de nosso tempo é não permitir que o desenvolvimento tecnológico se desligue da ética”. Entrevista com Emanuele Felice
• Inteligência artificial: a máquina capitalista que pensa como uma empresa. Artigo de Paolo Benanti
• ''Machine Behaviour'' e Inteligência Artificial: nomear os medos, governar os algoritmos. Artigo de Paolo Benanti
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• Novo ciclo tecnológico requer que a sociedade repense seu pacto fundador. Entrevista especial com Glauco Arbix
• A inteligência artificial e o fim do trabalho. Artigo de Andrea Komlos
• De Davos ao Vaticano, por uma tecnologia do bem
• “Devemos impor limites ao digital”. Entrevista com Eric Vidalenc
• Igreja é voz moral diante do avanço da inteligência artificial. Entrevista com Brian Patrick Green
• Papa alerta sobre “nova barbárie” na era da inteligência artificial
• Tecnologia de controle social, baseada em inteligência artificial, já está presente em 75 países
• Capitalismo de Inteligência Artificial. Entrevista com Dyer-Witheford
• Inteligência artificial e ética: um estado da arte. Artigo de Paolo Benanti
• Inteligência Artificial, potência e terror
• Por que o papa Francisco está preocupado com o futuro dos robôs
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• Papa: hoje existe o risco de dar vida à lógica das máquinas e dos dispositivos
• Papa Francisco reúne-se com Brad Smith, presidente da Microsoft. "A tecnologia precisa da aliança entre ética, política e direito"
• Vaticano: instituições católicas reforçam debate sobre ética e inteligência artificial
• ONU: Inteligência Artificial cria assistentes virtuais sexistas
• Inteligência artificial e práticas cotidianas
• Inteligência artificial e pós-humanismo. Artigo de Giannino Piana