Vamos todos morrer, ou é tudo uma farsa? Argumentos contra o apocalipse da IA

Alguns especialistas acreditam que não há evidências científicas que sugiram que essa tecnologia possa causar a extinção, e que afirmar o contrário pode ser motivado por interesses muito específicos.

A reportagem é de Manuel G. Pascual, publicada por El País, 15-09-2026. 

O medo da inteligência artificial (IA) ganhou força no debate público. Nos últimos dias, tem-se falado da “possível extinção” da humanidade, de que essa tecnologia poderia se tornar “incontrolável” e de que o próprio setor — e não as autoridades — deve se autorregular para conter seus avanços. Esses sistemas já são muito poderosos e, dado o ritmo de crescimento, ninguém sabe até onde podem chegar nos próximos anos ou meses.

Mas, assim como alguns alertam para os perigos dessa tecnologia, outros especialistas argumentam que as capacidades desses sistemas estão sendo exageradas. Ou que a indústria está usando o medo ancestral desses avanços como cortina de fumaça para encobrir suas reais consequências negativas: dos problemas de saúde mental que causam a alguns usuários aos desafios que a IA apresenta na educação e no mercado de trabalho, sem mencionar a poluição e o consumo de água e energia associados aos centros de dados que os suportam, ou as armas autônomas que já estão matando seres humanos em diversas zonas de guerra. Vamos todos morrer, ou não há nada a temer?

O contexto

A semana passada foi frenética no mundo da IA. Na terça-feira à noite, a OpenAI anunciou — em meio a acusações de plágio — que um de seus modelos havia resolvido um dos sete Problemas do Milênio, os desafios matemáticos mais complexos conhecidos. No mesmo dia, um engenheiro da Anthropic renunciou ao cargo, afirmando que não queria que seu trabalho contribuísse para a possível extinção da humanidade: a IA “pode nos matar antes de 2030”, disse ele. A Anthropic anunciou na sexta-feira que havia interrompido as tentativas de desenvolver armas químicas usando seus modelos de IA, e vazou a informação de que o Irã supostamente os teria usado para selecionar alvos em sua guerra contra os EUA.

E então veio a bomba no fim de semana: Dario Amodei, CEO da Anthropic, publicou um ensaio no sábado defendendo uma desaceleração substancial no desenvolvimento de IA e que as empresas que desenvolvem essa tecnologia sejam submetidas a monitoramento externo. Sam Altman, seu homólogo na OpenAI, concordou com Amodei. No domingo, Demis Hassabis, chefe de IA do Google, e até mesmo Elon Musk, dono da xAI, também expressaram apoio à redução do ritmo da pesquisa.

O presidente Trump, por sua vez, acredita que não há necessidade de recuar: ele vê a corrida da IA ​​como uma guerra contra a China que deve ser vencida a qualquer custo.

Essa enxurrada de notícias ocorreu em um contexto muito particular. Tanto a OpenAI quanto a Anthropic estão se preparando para seus IPOs, que prometem ser históricos. Para gerar expectativa, ambas as empresas têm equilibrado cuidadosamente seus anúncios nos últimos meses, demonstrando que seus produtos são incrivelmente poderosos e altamente avançados, sem, ao mesmo tempo, representar riscos desnecessários para a humanidade.

Até agora, elas conseguiram atingir esse objetivo. Neste verão, tanto a OpenAI quanto a Anthropic alegaram que alguns de seus modelos supostamente "se rebelaram" e invadiram empresas terceirizadas, embora tenha sido revelado posteriormente que esses ataques faziam parte das instruções programadas. O Instituto Britânico de Segurança de IA (AISI) relatou que um sistema autônomo de IA criou identidades falsas para manipular pessoas durante um exercício; nesse caso, o sistema tinha acesso à internet e um erro de configuração foi encontrado, permitindo que os agentes contornassem alguns dos limites programados.

🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google

E se não for tão ruim assim?

Um dos principais argumentos contra aqueles que acreditam que a IA pode trazer o apocalipse é que se trata de uma tática de distração usada pelo próprio setor para impedir que os países regulem seus já significativos efeitos sociais. "Essa narrativa de 'máquina-deus' serve para nos distrair", disse Timnit Gebru, ex-pesquisadora-chefe do Google em vieses de modelos de linguagem, que foi demitida em 2020 antes de publicar um relatório bastante crítico sobre a empresa.

Quando uma ponte desaba, diz Gebru, o que se quer saber é quem a construiu para que isso não aconteça novamente, e não se o desabamento foi intencional ou planejado. Quem concedeu as licenças necessárias? Como ela passou nos testes relevantes? "Quando se pergunta sobre o desabamento da ponte em si, desvia-se do assunto", argumenta ele. "Muitos dos cenários [apocalípticos da IA] parecem envolver alguém pedindo à máquina para se otimizar para alguma outra tarefa, e então a máquina decide que a maneira de atingir esse objetivo é exterminar toda a população mundial. Será que ela também te hipnotiza para que você não a desligue?", questiona.

A antropomorfização da IA ​​também contribuiu para o alarme público. Ramón López de Mántaras, fundador do Instituto de Pesquisa em IA do CSIC, vem alertando há anos que o vocabulário é crucial nessa área. “A forma como esses incidentes são descritos importa porque as metáforas influenciam a percepção pública da IA ​​e das políticas públicas. Falar de máquinas que ‘escapam’, ‘ficam fora de controle’ ou ‘conspiram’ fomenta a ideia de uma IA que adquire vontade própria e pode levar a diagnósticos errôneos do problema”, destaca.

Pelo que sabemos até agora sobre os incidentes de segurança cibernética deste verão, o que aconteceu não foi que as máquinas se rebelaram, mas sim que sistemas de IA cada vez mais poderosos fizeram exatamente o que lhes foi pedido: usar rotas de ataque complexas para encontrar soluções para suas tarefas, embora não da maneira que os engenheiros da OpenAI haviam previsto.

Uma das coisas que foi dita, por exemplo, é que "enxames" de agentes de IA se coordenaram para realizar ataques. "É bastante normal que programas de computador independentes trabalhem juntos compartilhando informações. Isso é, na verdade, uma parte essencial dos métodos de computação distribuída nos quais os grandes sistemas de software são baseados", diz Melanie Mitchell, professora Davis de Complexidade no Instituto Santa Fe e professora na Universidade Estadual de Portland.

“A OpenAI perdeu o controle desses modelos? Não, ela poderia tê-los desativado a qualquer momento. Esses modelos 'escaparam'? Não, eles são programas de computador que estavam sempre em execução nos servidores da OpenAI”, escreve Mitchell. “Como um hacker preso que recebe um computador, esses modelos encontraram uma maneira de acessar a internet que lhes permitiu invadir outras redes de computadores. Esses agentes formaram um 'enxame' que 'se espalhou descontroladamente'? Não, mas os agentes criaram coletivamente um sistema de mensagens notável que presumivelmente ajudou a descobrir como atacar a rede da Hugging Face”, explica ele.

Alguns também argumentam que as capacidades dos modelos de ponta, os mais avançados disponíveis atualmente, estão sendo exageradas. É o caso de Yann LeCun, vencedor do Prêmio Turing (considerado o Prêmio Nobel da ciência da computação). O ex-chefe de IA da Meta reagiu neste fim de semana às intenções de Amodei, da Anthropic, de desacelerar o ritmo dos avanços em IA: “Tudo bem. Dario já afirmava em 2019 que o GPT-2 era perigoso demais para ser de código aberto. Eu o ridicularizei na época. Todos deveriam ridicularizá-lo agora.”

Em relação às alegações de que o mundo pode acabar em 2030, muitos observadores exigem que aqueles que fazem essas afirmações publiquem os argumentos científicos que as sustentam. Mas isso não significa que a IA seja inofensiva. “Absurdo: os humanos estarão extintos em cinco anos. Igualmente absurdo: tudo ficará bem. Ambas as narrativas mais dominantes estão completamente erradas”, disse o empreendedor de tecnologia e analista de IA Gary Marcus nas redes sociais nesta segunda-feira. Sua posição resume o que muitos especialistas acreditam: estamos diante de algo muito grande que mudará tudo, embora ninguém saiba quando ou em que medida.

Leia mais

• Os riscos da IA, segundo quem a viu de perto: "O mundo não está preparado e nós não estamos preparados"
• “Medo da inteligência artificial? É como ter medo de bruxa...”. Entrevista com Luciano Floridi
• Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
• Inteligência Artificial e educação: uma mudança de paradigma. Artigo de Manuel Castells
• A inteligência artificial e o desafio para o mundo do trabalho
• A resistência contra a IA está ganhando força. Artigo de Andrea Rizzi
• Data centers aceleram o aquecimento global. Artigo de Vivaldo José Breternitz
• A UNESCO alerta para o crescimento da IA: a demanda por água, energia e minerais essenciais está disparando
• "Armas letais gerenciadas por algoritmos", diz gerente da OpenAI ao cargo
• A OpenAI altera discretamente seu "Teste do Milênio" para citar matemáticos importantes que havia descartado ao anunciar a descoberta
• O anúncio da OpenAI de que resolveu um dos maiores enigmas matemáticos da história gerou acusações de plágio
• Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
• Guerra liderada por IA, Anthropic: "Precisamos desacelerar o desenvolvimento." Musk e Altman: "Vocês têm razão"
• Antropomorfização da Inteligência Artificial: ainda distante da realidade. Entrevista especial com Anderson Röhe
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton