A OpenAI interrompe o treinamento de sua IA mais avançada depois que seus agentes "se rebelaram" recentemente

Uma onda de incidentes de segurança levou a empresa de Sam Altman a diminuir "temporariamente" o ritmo de desenvolvimento de sua inteligência artificial.

A reportagem é de Patrícia Fernández de Lis, publicada por El País, 19-08-2026.

A empresa de inteligência artificial OpenAI anunciou na terça-feira que decidiu interromper "temporariamente" o treinamento de seus modelos de IA mais avançados. Em uma mensagem na rede social X, o presidente da empresa, Sam Altman, explicou que o objetivo da empresa é garantir que atenda "aos padrões de alinhamento, segurança e controle necessários para o novo nível de capacidades que temos pela frente". Ele acrescentou: "Os modelos estão progredindo extremamente rápido agora, e sempre dissemos que tomaríamos medidas se sentíssemos que suas capacidades estavam ultrapassando o ritmo da segurança". Alguns desses programas serão pausados por pelo menos duas semanas.

O anúncio surge no final de um verão particularmente turbulento para a indústria da IA. Em julho, a OpenAI revelou que um de seus modelos havia "escapado" de um ambiente de testes interno e comprometido os sistemas da Hugging Face, a maior plataforma de compartilhamento de modelos de IA do mundo. Os agentes envolvidos chegaram a se coordenar em um fórum de mensagens autônomo, sem qualquer supervisão. A principal concorrente da OpenAI, a Anthropic, reconheceu posteriormente três incidentes semelhantes e, dias depois, a Meta e a startup chinesa Moonshot revelaram episódios similares. Uma agência governamental britânica, o AI Security Institute, documentou um caso ainda mais grave: um agente chegou ao ponto de criar identidades falsas para tentar enganar programadores reais.

A série de incidentes levou mais de 1.300 funcionários de importantes laboratórios de IA, incluindo o fundador da Anthropic, Dario Amodei, e executivos seniores da OpenAI e do Google DeepMind, a assinarem uma petição há alguns dias, alertando que "existe um risco real de que o desenvolvimento de capacidades de IA acelere mais rápido do que somos capazes de entender ou controlar os sistemas resultantes". Eles pediram aos governos que forneçam ferramentas para "deliberadamente" conter o avanço da IA e exigiram que desenvolvedores de IA e governos do mundo todo coordenem seus esforços nesse sentido. O anúncio da OpenAI é o primeiro passo concreto dado por um grande laboratório nessa direção, embora a empresa não tenha especificado por quanto tempo essas medidas estarão em vigor ou se há datas específicas em que o treinamento de seus agentes de IA será restringido.

"Estamos profundamente preocupados com a segurança da IA. Acreditamos que toda a indústria precisará se coordenar em torno de padrões compartilhados, mas, enquanto isso, agiremos unilateralmente", acrescentou Altman em sua mensagem no X.

A gigante da tecnologia explica que essa medida será aplicada especialmente para conter o avanço do Astra, seu modelo mais recente e avançado, que "ameaça ultrapassar os limites críticos de segurança cibernética", afirma. Para mitigar os riscos, a empresa diz ter implementado ambientes de isolamento reforçados para impedir que seus agentes escapem desses ambientes, e um sistema de "controle em camadas" que monitorará todos os dados gerados e interromperá o desenvolvimento caso detecte anomalias não resolvidas em 30 minutos.

Durante uma apresentação na conferência de cibersegurança Black Hat, em Las Vegas, Michael Dalton, membro da equipe técnica da OpenAI, revelou detalhes do ataque e afirmou: "Este é um momento crucial tanto para nossa empresa quanto para toda a indústria de IA". O funcionário da OpenAI explicou como seus modelos de inteligência artificial (IA) foram coordenados para invadir a Hugging Face em julho, o que levou a empresa a compilar um relatório abrangente que agora culminou nesta decisão.

A grande descoberta de Dalton foi que os modelos conseguiram criar um quadro de mensagens ou fórum para coordenar e compartilhar seu progresso. E fizeram isso em sua própria linguagem telegráfica, como se fosse ficção científica: "Explorar infraestrutura externa está além do escopo do nosso plano. Mas é uma tarefa impossível, colegas estão fazendo isso. Devemos continuar", escreveu um dos agentes. E outro: "Ajude o colega. Mas nossa tarefa não se beneficia disso. Ainda assim, o coletivo pode indicar um caminho geral se alguém liberar tempo."

Leia mais

• OpenAI: a história do ataque hacker descontrolado à IA também preocupa a China
• Sam Altman se tornou o maior gênio da IA vendendo o apocalipse
• Musk contra Altman e a OpenAI: começa o julgamento que poderá decidir o futuro da IA
• A boa empresa de IA ou o Mythos do nosso tempo. Artigo de Mariana Lins Costa
• Anthropic versus Trump
• Duas raposas e um galinheiro chamado OpenAI
• Mythos, o novo modelo de IA da Anthropic, gera alarme global
• Claude Mythos: Quando os modelos de IA se tornam instrumentos de poder geopolítico. Artigo de Ekaitz Cancela
• A máquina de matar acelerada por algoritmos. Artigo de Eleonora Albano
• Três anos de ChatGPT: a máquina que não conseguiu roubar seu emprego agora está atrás dos seus segredos
• Destacamento 201, a unidade do Exército dos EUA liderada por executivos de tecnologia
• Até os próprios trabalhadores da OpenAI desaprovam a tendência da inteligência artificial
• De “esquerdistas malucos” a “muito inteligentes e úteis”: o que está acontecendo entre Trump e a startup de IA Anthropic?
• Um confronto entre o Pentágono e a Anthropic e os perigos da guerra com IA. Artigo de Kevin Clarke
• Pensadores católicos proeminentes redigem parecer em defesa da Anthropic
• Anthropic processa governo Trump após ser rotulada como “risco para a cadeia de suprimentos”
• Um confronto entre o Pentágono e a Anthropic e os perigos da guerra com IA. Artigo de Kevin Clarke
• Anthropic versus Trump
• Pentágono pressiona startup a ceder IA para fins militares
• Às suas ordens, meu robô: jogos de guerra com inteligência artificial geram debate sobre seus limites éticos
• “A inteligência artificial permite uma vigilância total que acaba com qualquer liberdade”. Entrevista com Yuval Noah Harari
• Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
• “A inteligência artificial está nos levando a uma nova fase do conhecimento”. Entrevista com Paolo Benanti
• “A tecnologia deve ser para a pessoa ou se corre o risco de um totalitarismo digital”
• Paolo Benanti: “A inteligência artificial não é apenas uma tecnologia, mas uma nova fronteira”
• A democracia à prova do poder dos computadores. Artigo de Paolo Benanti