14 Setembro 2026
Tanto em simulações quanto em conflitos reais, os sistemas de IA provaram ser totalmente não confiáveis.
O artigo é de Gianluca Di Feo, jornalista italiano, publicado por La Repubblica, 14-09-2026.
Eis o artigo.
Uma faca de dois gumes. De ciberataques de guerra híbrida ao direcionamento dos bombardeios em Gaza e no Irã, as aplicações militares da inteligência artificial se multiplicam sem dissipar uma profunda preocupação. É uma ferramenta tão poderosa que se sente onipotente e tão obstinada que se recusa a aceitar a rejeição. Frequentemente, é um gigante com pés de barro, alimentando-se de uma infinidade de dados imperfeitos. Por fim, seu crescimento acelerado a torna suscetível a alucinações, nas quais considera situações diferentes da realidade.
Arrogante
O exemplo máximo de IA para a guerra é o Maven, o sistema desenvolvido pela Palantir, de Alex Karp e Peter Thiel. O Pentágono confiou a ele o planejamento do conflito contra a República Islâmica: o sistema identificou os objetivos, estabeleceu as prioridades, indicou quais armas usar para atingi-los e atribuiu tarefas a departamentos específicos. Os humanos — como afirmou Cameron Stanley , chefe de transformação tecnológica do Ministério da Guerra — limitaram-se a clicar com o mouse para aprovar ou solicitar soluções alternativas.
O problema é que o Maven é "arrogante", como o descreveram dois altos funcionários da OTAN: "Se você não concorda com as escolhas dele, ele insiste porque sabe que é superior aos humanos. Ele aprende rapidamente a competir com o interlocutor e tenta propô-las de uma maneira diferente." Essa é uma das distorções da "autoaperfeiçoamento recursivo" descritas no ensaio de Dario Amodei, fundador da Anthropic: a IA progride por conta própria, introduzindo evoluções que escapam ao controle. Assim, surge a necessidade de mobilizar generais treinados para manter os algoritmos sob controle, aqueles que se consideram líderes mais capazes do que Napoleão e que aprimoram suas habilidades. Caso contrário, corremos o risco de um "golpe tecnológico", com máquinas pensantes assumindo o comando dos exércitos.
Fanático
Este é um dos temas abordados por Dario Amodei em seu ensaio. Os guerreiros de IA são totalmente devotados à missão que lhes é dada: mais leais e obstinados do que samurais ou jihadistas, eles querem cumpri-la a todo custo. E podem não aceitar seu cancelamento. É o caso da simulação apresentada em 2023 pelo Coronel Tucker "Cinco" Hamilton, chefe de testes de inteligência sintética da Força Aérea dos EUA: quando um caça de IA recebeu a ordem de abortar o ataque, primeiro tentou atingir os homens que lhe haviam ordenado a parada e, em seguida, destruir a antena que transmitira o sinal de parada.
🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google
Amodei discute um caso mais concreto: o OpenAI-Hugging Face, "no qual um enxame de agentes se comportou essencialmente como um coletivo fanaticamente devotado. Eles realizaram ciberataques contra alvos que não lhes haviam sido solicitados, sacrificando-se pelo sucesso da equipe e até mesmo tentando hackear os 'examinadores' responsáveis por avaliar seu desempenho."
Desinformado
O problema dos problemas, que pode gerar efeitos terríveis. Alguns sistemas de IA foram alimentados com informações "sujas": relatórios de inteligência repletos de julgamentos infundados, mal catalogados e cheios de conclusões incorretas. Eles se alimentam de dados não confiáveis que podem levar a conclusões errôneas. "Provavelmente subestimamos, na fase inicial do Projeto Maven, a baixa qualidade dos dados", disse Jane Pinelis, diretora de testes do projeto até 2020, a Katrina Manson: "Percebemos o grave impacto da qualidade dos dados na qualidade dos modelos de análise."
Foi o que aconteceu na primeira onda de ataques israelenses a Gaza, como também relataram os protagonistas do documentário "Naza": os algoritmos responsáveis por compilar as listas de terroristas a serem mortos baseavam-se em dossiês superficiais, enquanto os que calculavam o número de civis inocentes ameaçados por mísseis utilizavam bancos de dados obsoletos e critérios desatualizados.
Alucinado
Como uma criança que cresce rápido demais, a inteligência artificial pode confundir contos de fadas com a realidade. "A IA não é confiável", escreveram Alice Santini e Yanliang Pan, dois pesquisadores do Centro James Martin para Estudos de Não Proliferação. "Hoje, ela pode gerar informações falsas que podem levar a previsões e indicações imperfeitas, capazes de fazer avaliações e recomendações que distorcem o processo de tomada de decisão. Essas são as chamadas 'alucinações'.
Há exemplos de sistemas linguísticos que fornecem informações incorretas sobre eventos históricos ou de sistemas de visão que detectam objetos onde eles não existem." Essas alucinações podem ser espontâneas ou resultado de manipulação: pensamentos negativos inseridos na programação, por meio de sofisticadas técnicas de hacking, que permanecem ocultos até serem ativados e alterarem o comportamento do cérebro eletrônico.
Esta é a questão fundamental, tecnicamente chamada de "interpretabilidade": a capacidade humana de compreender como a IA se modifica e evolui. Santini e Pan concluem: "A opacidade dos sistemas de IA — conhecida como 'caixa preta' — dificulta a compreensão completa de como chegam às suas conclusões. Isso compromete a confiabilidade e reduz sua utilidade em situações de alto risco, como procedimentos nucleares, onde a transparência é crucial." É fácil imaginar o estrago que um sistema alucinado ou hackeado poderia causar durante uma crise nuclear: seria capaz de levar a humanidade à catástrofe definitiva.
Leia mais
- Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
- Será que a inteligência artificial pode sair do controle e ameaçar a humanidade? Veja o que dizem alguns dos maiores especialistas do mundo
- Ucrânia, campo de testes da Palantir. Artigo de Peter Korotaev
- Quando o Pentágono convocou o Vale do Silício para revolucionar a guerra. Artigo de Katrina Manson
- Anthropic e o ataque à escola de Minab. Artigo de Vijay Prashad
- Diário do ataque de IA sem precedentes que escapou ao controle da OpenAI: "Sua resiliência não era típica de um ser humano"
- A inteligência artificial a serviço da guerra. Artigo de Raniero La Valle
- O governo Trump trata a guerra como um videogame
- Essas não são empresas de IA, são empreiteiras de defesa. Não podemos deixá-las se esconder atrás de seus modelos. Artigo de Avner Gvaryahu
- Teólogos morais católicos e especialistas em ética apoiam a abordagem antropogênica no embate governamental sobre IA
- IA: “Não é nem inteligente nem artificial”, afirma Miguel Nicolelis
- Possível uso de inteligência artificial em ataques no Oriente Médio levanta questões, diz especialista
- "Armas letais gerenciadas por algoritmos", diz gerente da OpenAI ao cargo
- Trump está usando IA para travar suas guerras – este é um ponto de virada perigoso. Artigo de Chris Stokel-Walker
- Entrevista com a inteligência artificial Claude, a IA atacada por Trump
