Uma IA mais ética?

Oito grandes empresas comprometem-se, sob os auspícios da Unesco, a construir uma inteligência artificial mais ética, mas essas iniciativas não vinculantes podem se revelar frágeis frente a seus interesses financeiros.

A reportagem é de Mélinée Le Priol, publicada em La Croix International, 07-02-2024. A tradução é de Moisés Sbardelotto.

Depois dos Estados, as empresas. Para desenvolver uma inteligência artificial que sirva ao bem comum, “não cabe apenas aos governos agir”, disse Audrey Azoulay, diretora-geral da Unesco no dia 5 de fevereiro, no centro de convenções Kranj, na Eslovênia.

Ali, às margens de um fórum mundial de dois dias da Unesco sobre o assunto, a francesa mostrou-se satisfeita por ter obtido “o mesmo compromisso concreto de grandes empresas”.

Oito empresas – Grupo Lenovo, LG AI Research, Mastercard, Microsoft, Salesforce, GSMA, INNIT e Telefónica – assinaram um acordo para “construir uma inteligência artificial mais ética”. Isso foi indicado pelo grande painel em que seus representantes colocaram simbolicamente suas assinaturas, sob os flashes dos fotógrafos e o incentivo de Azoulay.

Não vinculante

Pouco mais de dois anos antes, em novembro de 2021, os 193 Estados-membros da ONU já tinham se comprometido a respeitar os princípios promovidos pela Unesco em relação à implantação dessas tecnologias. Essa recomendação – não vinculante – instruiu-os a garantir a “proteção dos direitos humanos” durante a implantação da IA.

A recomendação da Unesco não será mais vinculante para essas oito empresas. Concretamente, elas se comprometem a implementar “procedimentos de avaliação e mitigação de riscos”, antes e depois da comercialização de seus sistemas de IA.

“O problema dessas iniciativas voluntárias é que elas podem desmoronar quando entrarem em conflito com interesses financeiros”, alerta Oliver Marsh, da ONG AlgorithmWatch, presente nesse “fórum mundial” na Eslovênia. O britânico lembra que a rede social digital X se retirou no ano passado do código europeu contra a desinformação online, depois de relaxar deliberadamente a moderação de conteúdos ilícitos. “Mas a recomendação da Unesco pode se revelar mais sólida. Ainda não sabemos”, acrescenta.

“Cabe a nós responsabilizar as empresas”

“Cabe a nós, sociedade civil, exigir que essas empresas signatárias sejam responsabilizadas”, afirma Vilas Dhar, da Fundação Patrick J. McGovern, uma agência filantrópica global com sede nos Estados Unidos, também presente na Eslovênia.

Enfatizando que o cidadão médio “não é tão impotente quanto ele pensa”, ele destaca as alavancas de ação ao seu alcance: escolhas de consumo, defesa de direitos e pressão junto a seu governo.

Esse fórum da Unesco sobre ética na IA ocorreu um dia depois de os 27 Estados-membros da União Europeia terem acordado, no dia 2 de fevereiro, com o projeto europeu de regulamentação da IA – uma validação que surgiu após intensas negociações destinadas a encontrar o equilíbrio certo entre inovação e segurança.

Leia mais

• Inteligência artificial ou sabedoria humana? A necessidade de superar os dualismos e habitar o devir da complexidade. Artigo de Moisés Sbardelotto
• O Papa: que as formas de inteligência artificial sirvam a causa da fraternidade e da paz
• Papa Francisco: “Não podemos permitir que algoritmos excluam a compaixão, a misericórdia e o perdão”
• Dia Mundial da Paz de 2024: Papa pede diálogo aberto sobre impacto da inteligência artificial
• O Cardeal Czerny alerta sobre o uso da IA ​​para fins de guerra: “É o que mais nos assusta”
• Tecnologia para a paz ou a guerra. Agora um tratado mundial vinculante. Artigo de Vincenzo Paglia
• A assertiva e contundente mensagem do Papa Francisco sobre IA. Artigo de Dora Kaufman
• Por que o papa Francisco está preocupado com o futuro dos robôs
• O Papa: "Hoje nos habituamos ao pão duro da desinformação"
• Reflexões sobre inteligência artificial e a paz à luz da mensagem do Papa. Entrevista com Silvano Tagliagambe
• O paradigma tecnocrático. O risco da máquina como último fim. Discurso de Papa Francisco em Budapeste
• O “Homo” é mais ou menos “sapiens”? A encruzilhada da inteligência artificial. Artigo de Vito Mancuso
• Seremos, por fim, servos de máquinas?
• “Pela primeira vez na história humana, a produção de conhecimento funde-se com a produção de lucro”. Entrevista especial com Nick Couldry
• Europa: regulamentação da inteligência artificial
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
• Inteligência artificial, branquitude e capitalismo: entrevista com Yarden Katz
• Ser humano e inteligência artificial: os próximos desafios do onlife. Entrevista com Luciano Floridi
• Inteligência artificial e pós-humanismo. Artigo de Giannino Piana
• Inteligência artificial: a nova dependência?
• Ainda seremos capazes de dominar a selva dos algoritmos? Entrevista com Aurélie Jean