23 Mai 2024
“Tão importante quanto, as Nações Unidas devem criar urgentemente uma Agência Internacional de Sistemas Baseados em Dados (IDA), um organismo global de monitoramento da inteligência artificial que promova a utilização segura, sustentável e pacífica da inteligência artificial, garanta que respeitem os direitos humanos e incentive a cooperação nesta área. Esta instituição também teria autoridade reguladora para ajudar a determinar a aprovação de produtos da IA no mercado”. A reflexão é de Peter G. Kirchschläger, em artigo publicado por El Economista/Project Syndicate, 20-05-2024. A tradução é do Cepat.
Peter G. Kirchschläger é professor de Ética, diretor do Instituto de Ética Social ISE da Universidade de Lucerna e professor visitante no Centro de Inteligência Artificial da Escola Politécnica Federal de Zurique.
Nos últimos anos, muitos cientistas e líderes tecnológicos soaram o alarme a respeito da inteligência artificial, emitindo advertências terríveis que não foram ouvidas desde o advento da era nuclear. Elon Musk, por exemplo, disse que “a inteligência artificial é muito mais perigosa do que as armas nucleares”, o que o levou a fazer uma pergunta importante: “Por que não temos uma supervisão regulatória? Isto é uma loucura”.
O falecido Stephen Hawking expressou uma observação semelhante: “A menos que aprendamos a nos preparar e evitar riscos potenciais, a IA poderá ser o pior acontecimento na história da nossa civilização. Ela traz perigos, como poderosas armas autônomas ou novas formas de alguns poucos oprimirem a maioria”.
Dadas as consequências potencialmente catastróficas da IA não controlada, existe uma clara necessidade de barreiras internacionais para garantir que esta tecnologia emergente (mais precisamente chamada de sistemas baseados em dados) esteja a serviço do bem comum. Especificamente, isso significa garantir que os direitos humanos sejam respeitados em todo o mundo, inclusive online.
Para esse fim, os governos devem introduzir regulamentos que promovam sistemas baseados em dados que procurem proteger os impotentes dos poderosos, garantindo que os direitos humanos sejam respeitados, protegidos, implementados e realizados ao longo do ciclo de vida desses sistemas, incluindo a concepção, o desenvolvimento, a produção, a distribuição e o uso.
Tão importante quanto, as Nações Unidas devem criar urgentemente uma Agência Internacional de Sistemas Baseados em Dados (IDA), um organismo global de monitoramento da IA que promova a utilização segura, sustentável e pacífica destas tecnologias, garanta que respeitem os direitos humanos e incentive a cooperação nesta área. Também teria autoridade reguladora para ajudar a determinar a aprovação de produtos da IA no mercado. Dadas as semelhanças entre os sistemas baseados em dados e as tecnologias nucleares, a Agência Internacional de Energia Atômica (AIEA) seria o melhor modelo para essa instituição, especialmente porque é uma das poucas agências da ONU que tem força.
O sucesso da AIEA demonstrou que somos capazes de agir com cautela e proibir a busca cega de avanços tecnológicos quando o futuro da humanidade e do planeta estiver em jogo. Depois dos bombardeios de Hiroshima e Nagasaki terem revelado as devastadoras consequências humanitárias da guerra nuclear, a pesquisa e o desenvolvimento no domínio da tecnologia nuclear foram restringidos para evitar resultados ainda piores. Isto foi possível graças a um regime internacional – a AIEA – com fortes mecanismos de aplicação.
Um número crescente de especialistas de todo o mundo pediu a criação de uma Agência Internacional de Sistemas Baseados em Dados e apoiou a criação de sistemas baseados em dados e no respeito pelos direitos humanos. The Elders, um grupo independente de líderes globais fundado por Nelson Mandela, reconheceu os enormes riscos da IA e a necessidade de uma agência internacional como a AIEA para “gerir estas poderosas tecnologias dentro de robustos protocolos de segurança” e garantir que sejam “utilizadas” de maneira coerente com o direito internacional e os tratados de direitos humanos. Assim, incentivam os países a apresentarem uma solicitação à Assembleia Geral da ONU para que a Comissão de Direito Internacional elabore um tratado internacional que estabeleça uma nova agência de segurança da IA.
Entre os defensores influentes de uma estrutura regulatória juridicamente vinculativa para a IA está Sam Altman, CEO da OpenAI, que lançou no final de 2022 o ChatGPT, o que deu início à corrida armamentista da IA. No ano passado, Altman solicitou a criação de uma autoridade internacional que pudesse, entre outras coisas, “inspecionar sistemas, exigir auditorias, verificar o cumprimento das normas de segurança (e) impor restrições aos graus de implementação e aos níveis de segurança”. Até o Papa Francisco enfatizou a necessidade de criar uma instituição multilateral que examine as questões éticas decorrentes da IA e regule o seu desenvolvimento e utilização através de “um tratado internacional vinculante”.
A ONU, por sua vez, destacou a importância de promover e proteger os direitos humanos nos sistemas baseados em dados. Em julho de 2023, o Conselho de Direitos Humanos adotou por unanimidade uma resolução sobre “Tecnologias digitais novas e emergentes e direitos humanos”, que observa que estas tecnologias “podem carecer de adequada regulamentação” e destaca a necessidade “de medidas eficazes para prevenir, mitigar e remediar impactos adversos dessas tecnologias sobre os direitos humanos”. Para esse efeito, a resolução exige o estabelecimento de quadros para avaliações de impacto, o exercício da devida diligência e a garantia de recursos efetivos, supervisão humana e responsabilidade jurídica.
Mais recentemente, em março, a Assembleia Geral da ONU adotou por unanimidade uma resolução sobre “Aproveitar as oportunidades proporcionadas pelos sistemas de inteligência artificial seguros e confiáveis para o desenvolvimento sustentável”. Esta resolução histórica reconhece que “os mesmos direitos que as pessoas têm offline também devem ser protegidos online, inclusive durante todo o ciclo de vida dos sistemas de inteligência artificial”.
Agora que a comunidade internacional reconheceu o imperativo de proteger os direitos humanos em sistemas baseados em dados, o próximo passo é óbvio: a ONU deve traduzir este consenso global em ação mediante a criação de uma Agência Internacional de Sistemas Baseados em Dados.
Não foi fácil incluir a igualdade de sexos no tratado que fundou as Nações Unidas. Bertha Lutz conseguiu-o. É, em parte, gra[...]
LER MAIS
