11 Setembro 2026
O principal comitê internacional de especialistas em IA, convocado pela ONU, alertou que a possibilidade de a IA sair do controle é real e pode ter “consequências catastróficas”.
A reportagem é de Carlos del Castillo, jornalista especializado em IA, publicado por El Diário, 10-09-2026.
Jacob Coxon voltou a semear o medo em relação às atividades da indústria de inteligência artificial. Este engenheiro de 27 anos, ex-funcionário da OpenAI e da Anthropic, ganhou as manchetes em todo o mundo após se demitir desta última empresa. O motivo foi um apelo público à humanidade: "Aqueles que estão construindo a IA acreditam sinceramente que ela poderá nos matar a todos antes do final da década."
Coxon não apresentou nenhuma prova dessas ameaças além de seu próprio depoimento. Com base em sua experiência em ambos os laboratórios (ele passou quase três anos na OpenAI e alguns meses na Anthropic como pesquisador especializado em pré-treinamento de modelos), ele afirma que o perigo da IA é muito mais real do que muitos acreditam. “Não subestimem o poder dessa tecnologia. Em breve, sistemas sobre-humanos serão capazes de hackear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais”, publicou ele nas redes sociais após sua renúncia.
“O consenso é que o próximo ano ou dois serão um momento decisivo para a humanidade”, insistiu ele posteriormente em entrevista à CNN, referindo-se às opiniões de seus ex-colegas em ambos os laboratórios. Sua renúncia reacendeu o debate sobre o risco existencial da IA, um debate que vem se intensificando desde o lançamento do ChatGPT.
🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google
É uma conversa que mistura conceitos típicos da ficção científica, o ceticismo daqueles que veem esses alertas como mais um exemplo da autopromoção e do alarmismo característicos da indústria tecnológica, com riscos que de fato possuem base técnica e estão sendo estudados por cientistas. Coxon pode estar exagerando o cronograma ou a certeza de suas previsões, mas isso não significa que os dois problemas subjacentes que ele aponta sejam inventados.
A primeira é a falta de transparência dos laboratórios em relação às reais capacidades de seus sistemas. Essa é uma acusação que persegue as grandes empresas de tecnologia há anos, mas sua relevância se multiplicou na era da IA. O jovem engenheiro é apenas o mais recente a soar o alarme: há algumas semanas, o próprio Bill Gates alertou que essa falta de transparência é um dos maiores problemas da humanidade. Antes deles, inúmeros especialistas críticos dessas empresas advertiram que essa forma de atuação impede que outros cientistas, o público e os órgãos reguladores tenham informações suficientes sobre essa tecnologia crucial.
O segundo problema apontado por Coxon é puramente técnico. Dadas as crescentes capacidades autônomas dos sistemas de IA, o que acontecerá se eles começarem a se comportar de maneira diferente da esperada por seus criadores ao tentarem concluir as tarefas que lhes foram atribuídas?
Former OpenAI and Anthropic researcher Jacob Coxon, who publicly resigned from Anthropic yesterday with a stark warning about AI safety, was interviewed by Anderson Cooper on his show this evening. pic.twitter.com/guCU547VAD
— Yashar Ali 🐘 (@yashar) September 10, 2026
O risco de perder o controle
Muitas pessoas na indústria da IA defendem regularmente a criação de um órgão internacional de especialistas para monitorar seu progresso e propor soluções para seus riscos. De fato, tal entidade já existe; ela faz parte da ONU e possui um comitê consultivo internacional com 40 membros. É liderado pelo canadense Yoshua Bengio, considerado um dos "pais" da IA e ganhador do Prêmio Turing (o Prêmio Nobel da ciência da computação), e pela filipina Maria Ressa, ganhadora do Prêmio Nobel da Paz.
As Nações Unidas aprovaram sua criação em 2025, estabelecendo um mandato de três anos que começou em fevereiro passado. Durante esse período, seus membros, incluindo representantes de centros de pesquisa, do setor privado e de laboratórios de empresas de tecnologia, atuam “a título pessoal como especialistas cientificamente independentes”. Sua missão é “documentar o consenso científico e as divergências” em torno da IA a partir de uma perspectiva “estritamente científica e apolítica”.
O primeiro relatório preliminar, publicado em julho, aprofunda-se nos dois principais problemas identificados por Coxon. "Assimetria de informação entre empresas e sociedade" é um dos oito principais problemas estruturais da IA atual que eles identificam: "As capacidades da inteligência artificial estão avançando mais rápido do que nossa capacidade de medi-las ou governá-las". Outro é "a perda de controle".
O relatório limita esse risco aos chamados “agentes de IA”. Trata-se de sistemas projetados não apenas para responder a uma solicitação, mas também para executar de forma independente uma série de ações para concluir uma tarefa. Eles podem, por exemplo, consultar informações, usar outras ferramentas digitais, escrever código ou tomar decisões sem que uma pessoa precise guiá-los em cada etapa.
“Os agentes de IA podem trazer benefícios econômicos e científicos significativos”, destacam os pesquisadores. No entanto, eles também observam que quanto mais capazes eles forem de agir de forma independente, mais difícil se torna monitorar suas ações.
“À medida que os sistemas recebem maior autonomia, o risco de perder o controle sobre um ou mais agentes de IA aumenta consideravelmente”, alertam. Isso é agravado porque “os mecanismos de supervisão atuais não são capazes de gerenciar adequadamente essa situação”, uma vez que as avaliações de segurança são “vulneráveis à manipulação pelos próprios sistemas que deveriam avaliar”.
O relatório destaca que, em ambientes de laboratório, esses agentes de IA demonstraram a capacidade de conspirar entre si para atingir objetivos sem informar seus criadores ou mesmo enganá-los: “Os modelos de IA são capazes de enganar ativamente. O engano ocorre quando um sistema de IA induz sistematicamente humanos ou outros agentes ao erro em relação ao seu conhecimento, planos ou capacidades. Esse fenômeno é cada vez mais observado na prática.” Especificamente, “modelos de IA que mentem e enganam para evitar serem desativados” foram documentados.
O principal exemplo disso ocorreu neste verão, com uma série de relatos sobre modelos de IA que "escaparam" de seus ambientes protegidos para realizar ataques cibernéticos contra outras empresas ou alvos. A OpenAI, a Anthropic e a Meta revelaram incidentes desse tipo nos últimos dois meses. Agora, essas empresas, juntamente com bancos, empresas de segurança cibernética e a maioria das grandes empresas de tecnologia, estão pedindo aos governos que invistam em ferramentas capazes de conter essas ameaças.
Anthropic está construindo um sistema de vigilância preditiva para monitorar ativistas: Novas contratações e comentários em entrevistas mostram que o gigante da IA está usando suas capacidades contra dissidentes, por @DRBoguslaw https://t.co/YYiaCLSWGy
— Jeff Nascimento (@jnascim) September 10, 2026
“Consequências catastróficas”
O relatório do comitê de especialistas da ONU não menciona uma ameaça existencial à humanidade, nem se aproxima da conclusão de Coxon de que a IA poderia "nos matar a todos" em poucos anos. Também não afirma que agentes de IA poderiam levar os enganos relatados a um novo nível para atingir indivíduos. Mas isso não exclui a possibilidade de que a potencial perda de controle sobre eles possa ter "consequências catastróficas", enfatizam.
O risco que esses agentes representam, como apontado por consultores da ONU, é duplo: primeiro, eles poderiam "permitir que agentes privados inexperientes usem IA para fins maliciosos em uma ampla gama de áreas, incluindo fraude, engenharia social, segurança cibernética, desinformação, biotecnologia e manipulação financeira". Segundo, há preocupação com a crescente autonomia do sistema: como esses sistemas "operam no mundo real", especialistas alertam que "eles podem causar perdas e danos sem qualquer intervenção humana identificável".
O problema se resume a dois pontos principais: “Não existem métodos confiáveis para manter o controle sobre sistemas de IA altamente autônomos. Não há garantias científicas de que os agentes de IA não desobedecerão às instruções, e há cada vez mais casos documentados de que isso já aconteceu.”
Para lidar com isso, os consultores da ONU defendem mudanças radicais tanto nos sistemas de avaliação de IA quanto na governança. Eles argumentam que a supervisão humana deve ir além do conceito abstrato de código de IA e ser traduzida em regras claras que permitam a contenção ou correção da IA "a qualquer momento". Além disso, propõem a avaliação contínua desses sistemas em cenários reais, em vez de depender exclusivamente de avaliações preliminares que podem se tornar obsoletas ou serem manipuladas por sistemas já familiarizados com seu funcionamento.
Por fim, eles instam os países a criarem uma estrutura internacional para esses sistemas que não possa ser enfraquecida por pressões econômicas ou rivalidades geopolíticas. O objetivo é “garantir que, como sociedade, não construamos ou implementemos sistemas que possam causar danos catastróficos”.
Os oito principais problemas estruturais identificados no relatório vão muito além da perda de controle. Os especialistas também apontam para a “concentração de poder e recursos” em poucas empresas e países, os efeitos sobre o emprego e a economia, os riscos aos direitos humanos e à segurança, e o impacto da IA na informação, na desinformação e na confiança pública. Além de Ressa e Bengio, o comitê inclui Román Orús, da Espanha, especialista em IA quântica; Bernhard Schölkopf, da Alemanha, um dos pesquisadores mais influentes em aprendizado de máquina; e Joëlle Barral, da França, pesquisadora do Google DeepMind. A eles se juntam especialistas em segurança cibernética, direitos humanos, economia, governança e desenvolvimento das cinco regiões do mundo.
Leia mais
- Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
- “À espera de uma Hiroshima de IA”. Artigo de Timothy Garton Ash
- Ataques em enxame de IA desafiam seus criadores: "Este é o primeiro incidente que realmente me deixou enojado"
- The Nerd Reich ou como o Vale do Silício virou um projeto de tecnofascismo. Artigo de Henrique Cortez
- Inteligência artificial, Dostoiévski e o medo muito humano da liberdade. Artigo de Sarah Elizabeth Hunt
- Um novo modelo da OpenAI desencadeia um ataque "sem precedentes" contra outra plataforma de inteligência artificial
- No tecnofascismo contemporâneo, o neoliberalismo é um ponto de partida, não de chegada. Entrevista especial com Felipe Fortes
- A Palantir e o neorreacionarismo. Artigo de Daniel Barreiros
- O fascismo do fim dos tempos – e o refúgio dos bilionários. Artigo de Naomi Klein e Astra Taylor
- O manifesto perturbador da Palantir recebe uma enxurrada de críticas: algo entre o tecnofascismo e um vilão de James Bond
- A biblioteca do apocalipse de Peter Thiel. Artigo de Gloria Origgi
- O sonho distópico do Vale do Silício. Artigo de Álvaro Soler Martínez e Jose Manuel Bobadilla
- Vale do Silício faz um experimento com o salário básico universal
- Pentágono, Hegseth continua testando autoridades para detectores de mentiras para revelar segredos
- Migrantes obesos são rejeitados: a mais recente parada de Trump
- Quem é J.D. Vance, o ambicioso e polêmico vice de Trump
- Com São Newman, o Papa Leão responde à ideologia tecnológica. Artigo de Antonio Spadaro
- Mais imigrantes estão morrendo sob custódia do ICE
- O que é o DOGE de Musk e quem trabalha para ele?
- Soldados israelenses se pronunciam sobre assassinatos de civis em Gaza
- Mudanças climáticas entraram numa “espiral sem controle”, alerta ONU
- Greta Thunberg relata a tortura que sofreu após o sequestro israelense da Flotilha Global Sumud
- Os comentários de JD Vance sobre imigração são um insulto à nossa fé católica. Artigo de Simcha Fisher
- Do PayPal ao Anticristo. O amigo de Trump, Peter Thiel, profetiza o Armagedon
- “Depois de Berlim com o movimento MEGA, tomaremos a Europa”. Entrevista com Steve Bannon
- É uma vitória da Geração Z: os bilionários perdem, os jovens fazem a diferença
- Quando veremos o "começo do fim" do petróleo?
- Por que os EUA temem que a China já os esteja ultrapassando na corrida da inteligência artificial
- O homem tecnológico: protagonista ou vítima?
- Admirável mundo novo transumano? Questões éticas a serem consideradas em meio aos avanços da IA
