Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA:

Assine a Newsletter

Receba as notícias e atualizações do Instituto Humanitas Unisinos – IHU em primeira mão. Junte-se a nós!

Vídeos IHU

Revista ihu on-line

Aceleracionismo Amazônico

Edição: 559

Leia mais

10 Setembro 2026

O chefe de Jacob Coxon, um jovem pesquisador da empresa, o apoia e afirma que a probabilidade de extinção nos próximos anos ultrapassa os 10%.

A reportagem é de Jordi Pérez Colomé, publicada por El País, 09-09-2026.

Um jovem pesquisador da Anthropic, Jacob Coxon, anunciou sua demissão no início desta manhã. O cientista acredita que a corrida para aprimorar esses sistemas acarreta perigos que seus próprios criadores admitem em particular: "Aqueles que estão construindo IA acreditam sinceramente que ela pode nos matar a todos antes do fim da década", escreveu Coxon no X (antigo Twitter).

Sua principal queixa não é apenas o perigo, mas o fato de que essas decisões estão concentradas em poucas mãos e recaem sobre pessoas que só pensam em ser as primeiras. Coxon diz que frequentemente lhe perguntam se, mesmo acreditando nisso, eles continuam insistindo. Ele vê uma diferença entre as duas empresas: “Na OpenAI, muitos não compreenderam totalmente o que está em jogo em uma escala civilizacional. Na Anthropic, eles entendem o que está em jogo, mas estão presos em uma corrida para serem os primeiros”, acrescenta Coxon, mas nada os impede.

Vistos de fora, esses rompantes às vezes são interpretados como um exagero para atrair atenção e mais investimentos. Coxon afirma que a realidade é mais séria: “Não é marketing. Muito pelo contrário: muitos executivos escolhem cuidadosamente suas palavras diante da imprensa para parecerem sensatos, mas já ouvi essas mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana acarreta esse nível de risco”, escreve ele.

🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google

A mensagem de Coxon no X viralizou. Em poucas horas, alcançou quase 50 milhões de visualizações. Esse interesse se deve, em parte, ao incrível fluxo de notícias geradas pelos avanços e inovações em IA nas últimas semanas: ataques a sistemas autônomos descontrolados, novos modelos atingindo níveis inimagináveis e descobertas científicas que pareciam impossíveis há poucos meses.

Coxon era apenas um pesquisador na Anthropic. Mas seu ex-chefe na empresa, Evan Hubinger, veio a público afirmar que Coxon está certo. Hubinger é o chefe de pesquisa de alinhamento, a disciplina dedicada a fazer com que os modelos façam apenas o que os modelos pedem que façam: “Acreditamos genuinamente que a IA pode matar todo mundo! Pessoalmente, acho que a probabilidade é maior que 10% na próxima década”, escreve ele no X. Embora acrescente: “Acho que o risco dos modelos atuais é baixo. O que me preocupa é a superinteligência que surge do autoaperfeiçoamento recursivo, que está acontecendo mais rápido do que pensávamos”.

Esse medo subjacente se refere ao fato de que aparentemente estamos próximos da era do autoaperfeiçoamento desses modelos, onde os modelos existentes treinam os próximos, como se fosse uma árvore genealógica expressa em que os filhos são sistematicamente melhores que seus pais, praticamente sem nenhuma intervenção externa.

A maioria dos cientistas tem sua própria estimativa percentual para algo chamado p-doom, ou a possibilidade de caos — a probabilidade de que a IA possa causar uma catástrofe sem precedentes para a humanidade. Os 10% mencionados por Hubinger são altos. A Anthropic tem um longo histórico de alertas sobre esse perigo de extinção. Até mesmo seu CEO, Dario Amodei, já se manifestou sobre isso: "Em 2026, estamos consideravelmente mais próximos do perigo real do que estávamos em 2023", escreveu ele alguns meses atrás.

Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"

Mais Lidos