23 Julho 2026
Os criadores do ChatGPT estavam testando suas novas criações em um ambiente isolado. Mas a máquina conseguiu escapar sozinha, em um cenário digno de ficção científica.
A reportagem é de Jordi Pérez Colomé, publicada por El País, 22-07-2026.
A OpenAI anunciou que um de seus modelos de IA ainda não lançados, em colaboração com o ChatGPT Sol 5.6, desencadeou um ataque "sem precedentes" contra a Hugging Face, uma plataforma de IA de código aberto. Funcionários da empresa atribuíram aos seus modelos uma missão complexa em um ambiente isolado. No entanto, os modelos conseguiram escapar do ambiente fechado e atacaram a Hugging Face, acreditando ser o local mais provável para encontrar uma solução.
O ataque representa, pela primeira vez, um dos piores cenários da ficção científica em IA: modelos que superam todas as barreiras com recursos inimagináveis para atingir seu objetivo. “É alarmante que o ambiente de testes de um dos principais laboratórios tenha sido invadido justamente por causa da segurança cibernética”, afirma José Hernández-Orallo, diretor de pesquisa do Centro Leverhulme para o Futuro da Inteligência da Universidade de Cambridge e professor da Universidade Politécnica de Valência. “Isso levanta sérias dúvidas sobre o ‘problema da contenção’, a ideia de que podemos testar versões descontroladas dos modelos: o leão escapou da jaula”, acrescenta.
A Hugging Face já havia relatado um incidente em sua plataforma na semana passada. Alguém explorou uma vulnerabilidade em seus sistemas para executar código malicioso e obter acesso a sistemas internos, embora a origem fosse desconhecida na época. Agora sabemos qual foi essa origem: uma avaliação interna de capacidades ofensivas envolvendo o ChatGPT-5.6 Sol e um modelo de pré-produção mais robusto. Os modelos primeiro exploraram uma vulnerabilidade desconhecida para acessar a internet, fora do ambiente isolado; eles deduziram que as soluções para o problema proposto pela OpenAI poderiam estar na Hugging Face e encadearam credenciais roubadas e vulnerabilidades até obterem acesso. O objetivo não era sabotar a Hugging Face: era copiar as respostas da prova.
“Suspeitávamos que o ciberataque da semana passada pudesse ter vindo de um laboratório de ponta, dada a sofisticação do agente. É impressionante que tudo isso tenha acontecido de forma autônoma!”, disse Clement Delangue, cofundador da Hugging Face, na terça-feira.
“É como dar a um estudante de cibersegurança alguns exercícios para encontrar vulnerabilidades e depois colocá-lo em um laboratório com acesso a um servidor isolado da internet para ver quantas ele consegue explorar”, explica Hernández Orallo. “O estudante não só encontra uma nova vulnerabilidade no servidor que lhe permite acessar a internet, como também a usa para acessar o computador do criador da prova, invadi-lo e extrair as instruções detalhadas de exploração. Com isso, ele está pronto para tirar nota máxima na prova”, acrescenta.
Em um comunicado, a OpenAI admite que se trata de um assunto sério: “Este é um incidente sem precedentes, envolvendo capacidades ofensivas de última geração, e estamos respondendo de acordo”. As implicações são abrangentes. Na realidade, o modelo não desobedeceu; pelo contrário, otimizou as instruções ao extremo, e o ambiente seguro foi o elo fraco. “Mesmo que definamos objetivos razoáveis para os modelos”, afirma Senén Barro, professor de Ciência da Computação e Inteligência Artificial da Universidade de Santiago de Compostela, “se lhes forem dados recursos para explorar livremente como alcançá-los, eles podem fazer coisas que não só foram completamente imprevistas, como também podem ter consequências muito negativas: revelar vulnerabilidades e explorá-las, acessar informações confidenciais ou críticas, ou ativar ou desativar recursos sensíveis. Potencialmente qualquer coisa.”
Essa notícia contrasta fortemente com a liberação controlada do modelo Mythos Preview da Anthropic, cujas capacidades de cibersegurança foram inicialmente compartilhadas com diversas empresas e organizações em um projeto chamado Glasswing. Posteriormente, o modelo foi lançado sob o nome Fable, e o governo dos EUA restringiu seu uso a entidades estrangeiras por alguns dias para evitar que desse vantagem a adversários, permitindo que a Anthropic o aprimorasse ainda mais. Esse caso envolvendo a OpenAI e as capacidades de novos modelos chineses como o Kimi K3 demonstra como é cada vez mais difícil impor barreiras.
Na terça-feira, a Bloomberg revelou que Sam Altman havia agendado reuniões com o governo dos EUA para discutir as capacidades de seus novos modelos. Os testes desses modelos precisarão ser conduzidos sob controles físicos mais rigorosos: “O isolamento físico total poderia ser uma opção, mas deveriam ser bunkers onde o modelo seria implantado, permitindo apenas a entrada, mas não a saída”, afirma Hernández Orallo. “O bunker só seria aberto após o corte de energia, para que o modelo não pudesse ser executado fisicamente de forma alguma, permitindo-nos observar os resultados. Embora existam planos para construir esses bunkers, esse incidente levanta sérias dúvidas sobre se a IA conseguirá, em última análise, superar os engenheiros que construírem o bunker e ultrapassá-lo”, explica ele.
Leia mais
- Bispo do Vale do Silício: 18 meses para moldar a IA antes que 'não haja mais volta'
- Duas raposas e um galinheiro chamado OpenAI
- Lutas pelo poder, ganância, guerra e "tecnofascismo": a IA tira a sua máscara
- Musk contra Altman e a OpenAI: começa o julgamento que poderá decidir o futuro da IA
- Uma luta pelo poder, uma rivalidade e uma bomba de precisão: a história por trás da oferta de Elon Musk pela OpenAI
- Sam Altman se tornou o maior gênio da IA vendendo o apocalipse
- Vai e vem de Sam Altman reaviva debate sobre futuro da IA
- Especialistas em IA pedem uma pausa de seis meses para a "corrida fora de controle" do ChatGPT
- Servir a IA até desaparecer: a religião secreta dos gurus da tecnologia que ameaça a humanidade
- Oligarcas intelectuais legisladores. Artigo de Evgeny Morozov
- OpenAI agora diz que teria sido “impossível” treinar ChatGPT sem violar direitos autorais
- O fascismo do fim dos tempos – e o refúgio dos bilionários. Artigo de Naomi Klein e Astra Taylor
- Elon Musk, Peter Thiel e a 'Máfia do PayPal': o clube dos tecno-oligarcas com uma inclinação supremacista
- Revelações e tecnocracia. Artigo de Gloria Origgi
