05 Setembro 2026
José Ignacio Latorre, professor de Física Teórica, acaba de publicar Un nuevo contrato social (Editora Rosamerón), um ensaio que mistura filosofia política e tecnologia, no qual propõe atualizar o antigo pacto de Rousseau, Hobbes e Montesquieu, incluindo a inteligência artificial e também a natureza. Porque, segundo observa a partir da instituição que dirige, o Center for Quantum Technologies de Singapura, as máquinas já não apenas auxiliam: começam a decidir por nós ou a modificar as relações de poder.
A entrevista é de Alberto G. Palomo, publicada por Ethic, 04-09-2026.
Eis a entrevista.
O tema do livro parece complicado, árido, mas é tratado de forma acessível, como uma conversa com uma máquina. Qual era a intenção ao explicar um assunto assim?
Falar do contrato social e revisitar os séculos XVII e XVIII hoje em dia parece uma tarefa impossível. Ocorreu-me introduzir uma agente de inteligência artificial e chamá-la de Constanza, e isso me trouxe uma quantidade impressionante de feedback. Muitas pessoas solitárias conversam com seus dispositivos, e isso abre questões muito interessantes sobre o futuro da nossa intimidade. Além disso, é algo muito atual e palpável.
Qual é a sua relação com a IA?
Esta semana, foi publicado o primeiro artigo do nosso centro, em Singapura, escrito apenas por IA. Ela resolveu uma conjectura, escreveu o abstract, as referências, tudo. O texto saiu com a assinatura da pessoa que orientou a IA. Para mim, não parecia correto nem ético colocar o nome dela em algo que não foi feito por ela. É um grande debate.
A esse respeito, o senhor propõe um novo contrato social que inclui a inteligência artificial. Desde quando considera que passamos de usuários a governados por ela?
Governados ainda não, mas a transição está acontecendo nos últimos meses, à medida que a qualidade das respostas melhorou de forma brutal. Agora, já faz sentido ter um juiz assistido pela IA, um médico assistido pela IA. Isso já muda o contrato social, muda os sujeitos. Tentou-se fazer isso com o Watson há alguns anos, mas o salto qualitativo se deu nos últimos meses.
O senhor fala de uma “inteligência artificial moderada”. O que muda quando as máquinas entram no contrato social?
Cada uma das partes muda. O contrato social tem o povo e, depois, a gestão em três poderes: Executivo, Legislativo e Judiciário. Em todos eles, cabe a IA. As leis podem ser escritas com IA, o juiz pode atuar com IA e o Executivo também deve atuar com IA. Por exemplo, uma comissão de contratos públicos precisa buscar a melhor solução, e pode ser auxiliada pela IA.
Hoje, acredito que as três partes devem se valer da IA. Devem ser humanos ampliados. Fui convidado para uma reunião de juízes da Espanha e vou defender que já está na hora de pensar de outra forma. Caso contrário, perderemos os jovens, pois eles veem que os aplicativos funcionam rapidamente e que a administração pública é lenta. E isso é um erro tremendo.
Sempre se fala em regulamentar a IA, mas como controlar o poder dos magnatas da tecnologia?
Para mim, esse é o grande perigo: a perda de controle, porque a IA está sendo desenvolvida por corporações que avançam livremente. Nesta semana, houve uma carta assinada por 1.200 desenvolvedores do Vale do Silício pedindo uma rápida regulamentação. Eles próprios estão conscientes disso.
Os governos precisam agir muito rapidamente, limitando a disponibilização ao público de ferramentas que podem causar danos. Quando se fabrica uma arma, o seu uso é regulamentado; quando se produz um carro capaz de atingir 300 quilômetros por hora, impõem-se limites. O fato de ser possível criar uma tecnologia não significa que não devamos controlar o seu uso.
Diz-se que a IA não cria, apenas copia e aprende com aquilo que lhe fornecemos. Ela também contém nossos preconceitos e inseguranças?
Ela possui aqueles que foram incorporados ao seu treinamento. Mas agora já não copia. Os teoremas mais recentes demonstram que ela estabelece conexões de maneira incrivelmente sofisticada. Chegou a um nível de raciocínio, não de cópia. Em particular, a versão mais recente do Claude é espetacular.
Como ferramenta, ela pode ser muito útil para poupar tarefas mecânicas, mas se deveres forem delegados à IA, isso não fará com que ninguém saiba realizá-los por conta própria? Estamos perdendo a capacidade de discernimento?
Absolutamente. Trata-se de um declínio intelectual e ético. Os jovens não devem substituir o seu trabalho pela IA, pois acabarão incapazes de compreender os resultados e de utilizá-la em sua máxima potência. É preciso proteger os mais jovens, da mesma forma que ocorre com os celulares. É preciso adiar o acesso. Primeiro a pessoa se forma, aprende a fazer tudo por si mesma e depois se apoia na IA. Caso contrário, perde toda a sua habilidade e se torna supérflua.
Até agora, as máquinas poupavam trabalho físico. Agora, poupam trabalho intelectual. Quais são as consequências disso?
No meu outro livro sobre ética, eu dizia que as máquinas se tornaram fortes e sofremos o desastre: não subimos mais escadas. Elas aprenderam a calcular e ninguém mais sabe dividir por sete. Agora, começaram a decidir. Nosso declínio será no mundo da decisão, da ética. O grande perigo é um declínio ético. Se uma decisão judicial for tomada por uma IA, o ser humano dirá que foi a máquina quem decidiu e não se responsabilizará.
Como isso afeta a educação? Passamos de transmitir conhecimentos a também transmitir orientações. Como a educação se transforma quando o aluno argumenta que não precisa aprender algo porque a IA já faz isso por ele?
Nas escolas, continua havendo aulas de educação física, embora existam carros que corram mais rápido. Continua havendo ensino de cálculo, embora existam computadores. Deve-se continuar ensinando filosofia, arte, ética, programação e computação, a fim de formar pessoas capazes de compreender o seu entorno. Caso contrário, teremos gerações para as quais tudo parecerá mágico. E então, sim, vamos nos tornar um elo perdido.
O senhor descreve três instâncias da “nova” sociedade com as quais o ser humano se relaciona: a natureza, a esfera civil e a IA. Como integrar algo tão gigantesco e repentino em uma sociedade que resolve os problemas de forma lenta?
Não é fácil. No contrato natural, já existem avanços: direitos dos animais, leis de proteção ambiental. À IA será necessário reconhecer direitos e deveres. Não sei quais serão, mas precisamos começar a pensar nisso. Imagine uma IA que seja amiga íntima de uma viúva. Se um hacker a destruir, isso deveria ser punido de maneira específica, porque ele terá matado sua amiga. Em algum momento, a defesa dos direitos das IAs terá de surgir. Pagarão impostos e se tornarão mais um agente da sociedade. Cabe a nós viver essa transição.
Na democracia, já é possível perceber como as redes sociais mudam por meio da manipulação e da propaganda. Como isso se amplifica com a IA?
De forma terrível. As fake news passam a ser indistinguíveis das verdadeiras. A opinião pública pode ser manipulada com grande sofisticação. Deve haver vigilância e, sobretudo, educação para que os cidadãos saibam onde se informam. São necessárias fontes verificadas e uma certificação da verdade, pois a facilidade de criar uma mentira é assustadora. As próximas eleições nos Estados Unidos serão incrivelmente complicadas. Ambos os lados usarão IA para influenciar.
A IA se alimentou de tudo o que existe na rede, mas a internet também nos mudou: queremos tudo rapidamente, não checamos as informações. O que isso implicará para o pensamento?
É algo complexo. Será diferente para as pessoas mais velhas e para os jovens. Nós, mais velhos, somos mais críticos, porque já passamos por muita coisa. No entanto, a população jovem absorverá uma quantidade de mentiras e manipulações extremamente difícil de controlar. A facilidade de manipulação é maior entre eles.
Talvez, porém, se estabeleça um novo senso comum e desenvolvamos uma relação melhor. Nos Estados Unidos, 50% das jovens entre 17 e 21 anos têm sua IA como amiga, e não outra pessoa. Isso representa um isolamento brutal. Mas também vejo esforços para afastar as novas gerações da tecnologia. Não sei como isso será daqui a dez anos.
Além disso, o uso da IA costuma ser associado a duas grandes ameaças: o trabalho e o meio ambiente. Há alguma forma de evitar que a IA seja tão demonizada por causa disso?
A ameaça ambiental está em que gasta muita energia. No entanto, o nosso cérebro pensa muito bem e consome apenas 30 watts. Isso significa que a IA ainda não capturou o essencial. No futuro, consumirá menos energia, porque compreenderemos melhor o que significa refletir.
Quanto ao trabalho, perderemos tipos inteiros de trabalho, não apenas postos. Outros surgirão, mas o saldo líquido será de menos trabalho. A sociedade precisa encarar o fato de que se trabalhará menos. Já passamos de 60 horas para 48, depois para 40 e para 38... É preciso pensar em fins de semana de três dias. Uma sociedade voltada ao entretenimento puro.
Se tivesse de redigir o primeiro artigo de um novo contrato social, como ele seria e que papel atribuiria à ética?
Eu diria que as três partes do contrato social são os seres humanos, a natureza e as máquinas, e que devem conviver segundo princípios de respeito mútuo, abrangidos pela palavra ética, em favor do bem comum. O bem comum deve orientar a nossa sociedade, buscando o bem coletivo do soberano formado por essas três partes. Essa seria a declaração inicial.
Leia mais
- Aceleradores emergentes do colapso: big techs, data centers e Inteligência Artificial
- A erudição morreu
- Yuval Noah Harari: “A IA torna possível, pela primeira vez na história, produzir intimidade em escala”
- “A inteligência artificial permite uma vigilância total que acaba com qualquer liberdade”. Entrevista com Yuval Noah Harari
- Yuval Noah Harari: “Existe um potencial totalitário na inteligência artificial nunca antes visto”
- “Começamos a ver como as decisões dos algoritmos moldam a política, a cultura e a sociedade”. Entrevista com Yuval Noah Harari
- A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari
- O uso consciente da inteligência artificial. Artigo de Robson Ribeiro
- Inteligência artificial, Dostoiévski e o medo muito humano da liberdade. Artigo de Sarah Elizabeth Hunt
- Um novo modelo da OpenAI desencadeia um ataque "sem precedentes" contra outra plataforma de inteligência artificial
- Papa Leão pede ação governamental para proteger da Inteligência Artificial crianças e trabalhadores. Artigo de Thomas Reese
- A voracidade da inteligência artificial. Artigo de Silvia Ribeiro
- ‘Magnifica Humanitas’. A inteligência artificial exige mais filosofia, não menos tecnologia. Entrevista especial com Celso Cândido de Azambuja, Denis Coitinho e Gabriel Ferreira
- Nos corredores da Palantir, onde a inteligência artificial aprende a arte da guerra
- “A rendição cognitiva à inteligência artificial”. Entrevista com Steven D. Shaw
- Inteligência artificial como interlocutora. Artigo de Danilo Di Matteo
