08 Junho 2024
São os próprios empregados que estão dizendo. Aqueles que trabalham em seu desenvolvimento. Treze trabalhadores e ex-trabalhadores de empresas de tecnologia publicaram uma carta aberta alertando sobre o perigo da inteligência artificial.
A reportagem é de Óscar F. Civieta, publicada por La Marea, 05-06-2024. A tradução é do Cepat.
Entre eles, há sete ex-trabalhadores da OpenAI (a empresa criadora do ChatGPT e dirigida por Sam Altman), quatro trabalhadores atuais (que não informam seus nomes na carta), um ex-empregado do Google DeepMind e um empregado atual da mesma empresa (que antes esteve na Anthropic). Também assinam Yoshua Bengio, Geoffrey Hinton e Stuart Russell, conhecidos como os ‘padrinhos da IA’, que já haviam alertado para estes riscos.
Embora apontem no primeiro parágrafo que a IA pode “trazer benefícios sem precedentes para a humanidade”, concentram-se principalmente no que descrevem como “riscos graves”.
Por exemplo, detalham “um crescimento das desigualdades existentes, da manipulação e a desinformação, e inclusive o perigo de que “se perca o controle dos sistemas autônomos de IA, o que pode provocar a extinção humana”. Além disso, lembram que as próprias empresas e os governos têm alertado a esse respeito.
Os signatários sustentam que estes riscos podem ser mitigados seguindo a orientação da comunidade científica. No entanto, afirmam que “as empresas de inteligência artificial têm fortes incentivos econômicos para evitar uma supervisão efetiva”.
Estas empresas “possuem informações suficientes sobre as capacidades e limitações de seus sistemas, a idoneidade das medidas de proteção que aplicam e os níveis de risco. Contudo, existem poucas normas que as obriguem a compartilhar essa informação com os governos, e nenhuma com a sociedade civil”.
“Enquanto não houver uma supervisão governamental destas empresas, nós, empregados e ex-empregados, somos os únicos com capacidade de lhes exigir responsabilidades”, afirmam. “O problema é que os acordos de confidencialidade nos impedem de expressar as nossas preocupações, exceto às próprias empresas”.
Queixam-se de que os denunciantes possuem pouca proteção e reconhecem que temem “represálias”, tendo em conta os exemplos em toda a indústria.
Terminam a carta reivindicando que as empresas de inteligência artificial se comprometam com vários princípios.
Em primeiro lugar, que não lhes façam assinar qualquer acordo que “proíba críticas à empresa, relacionadas aos riscos mencionados”, e que “não receberão represálias”.
Além disso, que as empresas implementem um sistema para que os trabalhadores (atuais e anteriores) tenham a possibilidade de expor suas inquietações “para a própria empresa, o público, os reguladores e uma organização independente, com experiência relevante, sempre e quando os segredos comerciais e outros interesses da propriedade estejam protegidos”.
Por fim, exigem que até que se efetive esta via de reivindicação, as empresas lhes permitam “compartilhar publicamente informações confidenciais relacionadas aos riscos da IA”.
"Ao sugerir que a baixa densidade populacional da Amazônia seria justificativa para a construção das hidrelétricas no local, a[...]
LER MAISO Movimento de Combate à Corrupção Eleitoral (MCCE), responsável pela criação da Lei da Ficha Limpa, afirmou nesta quarta-fe[...]
LER MAIS
