Catastrofistas versus aceleracionistas: a IA vai acabar com o mundo ou salvá-lo?

Em seu novo livro, os acadêmicos Eliezer Yudkowsky e Nate Soares argumentam que essa tecnologia pode levar à nossa extinção. Há motivos para acreditar neles?

A reportagem é de Manuel G. Pascual, publicada por El Diario, 23-05-2026.

Eliezer Yudkowsky (Chicago, 46) e Nate Soares (Washington, 37) estão convencidos de que, se os sistemas de inteligência artificial (IA) continuarem a evoluir, acabarão por superar as capacidades humanas. E quando isso acontecer, a humanidade estará extinta. Eles argumentam que isso pode ocorrer em questão de meses ou de uma década. O título do seu livro mais recente é bastante explícito: Se alguém a criar, todos morreremos: por que a superinteligência artificial é uma ameaça para a humanidade (Destino).

Yudkowsky e Soares são duas das principais figuras entre os pessimistas, ou catastrofistas. Os recentes avanços na IA generativa, a tecnologia por trás do ChatGPT, Gemini e Sora, desencadearam um acalorado debate dentro da própria indústria sobre o potencial dessa tecnologia. Diferentes correntes de pensamento chegaram a surgir. Os pessimistas acreditam que, quando suficientemente desenvolvida, a IA assumirá o controle e decidirá acabar com a civilização. Portanto, recomendam que os Estados assinem tratados internacionais para conter o avanço da IA, da mesma forma que a proliferação de armas nucleares foi limitada durante a Guerra Fria.

No início de 2023, uma carta aberta assinada por centenas de cientistas de IA pedia uma moratória de seis meses na pesquisa. "Nós também a assinamos, embora achássemos que estava muito aquém do necessário", escreveram. Tão aquém, aliás, que em um artigo publicado na mesma época na revista Time, Yudkowsky argumentou que o poder computacional permitido aos países deveria ser limitado e que os centros de dados daqueles que excedessem os limites deveriam ser "destruídos com um ataque aéreo".

No outro extremo, os entusiastas, ou aceleracionistas, acreditam no oposto: vale a pena investir no desenvolvimento da superinteligência (que, teoricamente, superará a inteligência humana) porque ela resolverá muitos dos problemas da sociedade. Ela curará doenças, aumentará a eficiência de todos os processos e nos ajudará a trabalhar menos. Ela nos tornará mais felizes.

'Desesperadores'

Há nomes ilustres associados a ambos os movimentos. Os pessimistas, precisamente por invocarem o apocalipse, têm maior influência na mídia americana e também em outros países. Esse movimento goza da respeitabilidade conferida por ter vencedores do Prêmio Turing (considerado o Prêmio Nobel da ciência da computação) entre seus defensores, como Yoshua Bengio e Geoff Hinton, este último também laureado com o Prêmio Nobel de Física. O fato de dois dos pais da aprendizagem de máquina, a técnica que permitiu à IA dar o grande salto em frente nos últimos anos, estarem agora lutando contra a tecnologia que ajudaram a desenvolver, é usado no livro de Yudkowsky e Soares como um argumento convincente em favor de sua posição.

Outro ganhador do Prêmio Turing e padrinho do aprendizado de máquina, Yann LeCun, discorda deles. Ele fez comentários nas redes sociais zombando dos pessimistas. "Vamos projetar seus desejos", disse ele, por exemplo. "A história da engenharia está repleta de otimistas brilhantes e ávidos que mergulham de cabeça em novos problemas empolgantes que acabam sendo infinitamente mais difíceis do que esperavam", respondem Yudkowsky e Soares no livro.

Essa narrativa não se restringe ao meio acadêmico. Alguns dos empreendedores que tornam a IA possível também adotaram esse tipo de discurso. Um exemplo notável é Sam Altman, CEO da OpenAI, que, em maio de 2023, poucos meses após o lançamento do ChatGPT, embarcou em uma turnê mundial com autoridades governamentais para demonstrar os benefícios da IA ​​e alertá-las sobre seus perigos.

A qual dessas duas correntes devemos dar mais atenção? Depende de quem você perguntar. Mas, atendo-nos aos fatos, ambas estão igualmente distantes da realidade.

Existe inteligência sintética?

Não há evidências científicas de que as ferramentas de IA generativa compreendam, em sentido literal, um texto. No entanto, em parte devido aos nossos próprios vieses, tendemos a interpretar que, se algo nos oferece uma resposta coerente, deve ser inteligente. “Os modelos linguísticos apenas manipulam a forma; eles imitam a maneira como as pessoas usam a linguagem em muitos contextos diferentes”, disse a linguista Emily Bender em uma entrevista recente ao El País.

“As máquinas não precisam ser inteligentes exatamente como os humanos para serem muito eficazes em prever e navegar pelo mundo”, afirma Soares por e-mail. “Os desenvolvedores de IA são muito bons em aprimorar as máquinas a cada ano. A IA pode ser mais eficaz do que as pessoas porque pode ser mais rápida do que um cérebro humano ou operar com algoritmos cognitivos mais complexos”, acrescenta o ex-funcionário do Google e da Microsoft.

O fato de grandes modelos de linguagem conseguirem manter conversas com usuários, resumir textos ou resolver problemas matemáticos pode levar alguém a pensar que são inteligentes ou conscientes. Mas, por enquanto, são programas que rastreiam padrões em gigantescos bancos de dados. Por que pensar que um desses programas poderia, de repente, se tornar consciente ou seguir sua própria agenda? "Ninguém sabe se as IAs são conscientes da mesma forma que os humanos", argumenta Soares. "São sistemas gigantescos e complexos que não foram cuidadosamente desenvolvidos como softwares tradicionais; não seguem instruções cuidadosamente programadas por humanos. São entidades enormes e treinadas que ninguém, nem mesmo seus criadores, entende", acrescenta, referindo-se à falta de conhecimento em torno do aprendizado profundo (um processo pelo qual a IA utiliza seus dados de treinamento para estabelecer padrões por conta própria). Quanto à possibilidade de a IA desenvolver seus próprios objetivos, Soares acredita que isso já está acontecendo. Ele cita o exemplo do Moltbook, a rede social de agentes de IA, embora ignore o fato de que alguém colocou esses agentes lá (e provavelmente lhes atribuiu funções).

Por que ele quer nos matar?

O cérebro humano é um produto da evolução e, portanto, possui uma série de objetivos inatos, como alimentar-se, reproduzir-se e evitar lesões. A inteligência artificial não evoluiu, logo, não incorpora necessariamente objetivos inatos. Assim, para alguns especialistas, surge a seguinte questão: podemos garantir que uma potencial inteligência artificial terá objetivos que nos beneficiem? Este é o chamado problema do alinhamento, um conceito introduzido por Soares e Yudkowsky em 2014.

A solução, acredita Soares, é limitar o desenvolvimento de IA que seja “cada vez mais inteligente do que qualquer um consegue compreender”. Não há necessidade de eliminar grandes modelos de linguagem, carros autônomos ou IA que auxilie na descoberta de novos medicamentos. Apenas o aprendizado profundo. “Quando nossos líderes finalmente entenderem o quão perigosa a superinteligência pode ser, certamente porão fim a essa corrida suicida. A IA representa um perigo muito maior do que estamos dispostos a aceitar em qualquer outro setor”, afirma ele.

Mas se tal superinteligência algum dia existirá, só o tempo dirá. Por enquanto, estamos no campo da especulação. E a opinião majoritária é que é “improvável” ou “altamente improvável” que a vejamos, segundo 76% dos 475 acadêmicos e profissionais de IA entrevistados há um ano pela Associação para o Avanço da Inteligência Artificial.

Duas faces da mesma moeda

Alguns empreendedores do próprio setor de IA, como Altman e Alex Karp, CEO da Palantir, também argumentam que a IA pode se tornar imensamente poderosa, a ponto de representar um perigo para a sociedade. O subtexto aqui é que, justamente por causa desse potencial, os investidores só deveriam confiar nas empresas mais capazes (as suas próprias). E que, se é uma tecnologia tão poderosa, seria absurdo não investir nela.

Em seu livro, The AI ​​Scam (A fraude da IA), Emily Bender e Alex Hanna argumentam que os pessimistas e os aceleracionistas da IA ​​são duas faces da mesma moeda. “Quem ama a IA diz que a superinteligência é inevitável e resolverá todos os nossos problemas. E quem a odeia diz que ela é inevitável e nos matará a todos. Essencialmente a mesma coisa, mas com um final diferente”, disse Bender ao El País.

Leia mais

• “A IA já nos ultrapassou”: o novo documento dos especialistas descreve as propostas para contê-la
• Os principais criadores da IA alertam para o “perigo de extinção” que esta tecnologia representa para a humanidade
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari
• Harari alerta sobre a inteligência artificial: “Não sei se os humanos podem sobreviver”
• A inteligência artificial e os “novos poderes desumanos”. Entrevista com Flavia Costa
• “Não precisamos de uma inteligência artificial para nos destruir, basta nós mesmos”. Entrevista com Mariano Sigman
• Inteligência artificial e estupidez natural. Artigo de Vito Mancuso
• ChatGPT não é 'inteligência artificial'. É roubo
• Inteligência artificial e alienação. Artigo de Mauro Luis Iasi