Em 30 de novembro de 2022, dia em que o ChatGPT chegou aos nossos dispositivos, Sadin não conseguiu pregar o olho. O filósofo francês, uma das principais vozes na resistência contra as mudanças tecnológicas descontroladas, acredita que a inteligência artificial é uma catástrofe que deveria ter sido banida: ela ameaça a criatividade, o talento e o intelecto — os próprios alicerces da civilização humana.
A entrevista é de Daniel Verdú, publicada por El País, 05-04-2036.
Éric Sadin (Paris, 1973) levanta-se e caminha de um lado para o outro na sala de seu apartamento parisiense sempre que uma discussão o cativa. Sua própria voz o incita a fazê-lo. Ele desenvolveu uma mente crítica, repleta de manchetes e belas análises do futuro que surfam na onda do pensamento filosófico e social do século passado para chegar a uma conclusão mordaz em uma dúzia de livros. Tornamo-nos idiotas e estamos a caminho de nos tornarmos ainda mais. Longe de sermos ameaçados por uma inteligência suprema que nos aterrorizará, como aquela Skynet de O Exterminador do Futuro — "é o pensamento de um adolescente retardado", esclarece ele, ainda de pé —, somos subjugados por nossa própria preguiça, que acabará por entregar nossas armas — intelectuais e criativas — à inteligência artificial generativa.
Éric Sadin é um dos 10 maiores pensadores de tecnologia do mundo, recentemente selecionado por um júri da revista Ideas. Na terça-feira, ele nos recebe em seu apartamento no bairro parisiense de Belleville. Ele acaba de assar três croissants e tem uma pilha de papéis com argumentos sobre a mesa onde a entrevista acontecerá. Uma década antes da publicação de *A Era do Capitalismo de Vigilância*, de Shoshana Zuboff, em 2020, Éric Sadin já havia alertado sobre o controle social resultante das tecnologias digitais em Vigilância Global: Uma Investigação sobre Novas Formas de Controle.
Sua obra mais recente é O Deserto de Nós Mesmos (Caja Negra, 2026), uma análise sombria do futuro que estamos construindo. Um lugar que já existiu nos dados e no esquema de probabilidade que o projetou. Um lugar que exala o cheiro de uma morte já passada. E tudo começou em 30 de novembro de 2022, com o advento do ChatGPT. “Não preguei o olho naquela noite. E geralmente durmo como um bebê”, explica Sadin enquanto coloca os doces sobre a mesa. O livro, um best-seller na França, começa com uma citação de Louis-Ferdinand Céline: “Posso dizer que vi a catástrofe chegando”.
Então, o apocalipse começou em 30 de novembro de 2022?
Normalmente durmo como um bebê, mas naquele dia não preguei o olho. Os dias seguintes foram piores. Todas aquelas pessoas dizendo que era fantástico, super legal. Eu não conseguia entender como ninguém previa a catástrofe civilizacional que estava por vir. É estranho observar um fenômeno como a IA generativa envolto em tal verniz de modernidade e praticidade sem analisar as consequências imediatas e extremamente graves. E quanto mais isso continuar, mais grave se tornará.
Você argumenta que deveria ter sido proibido.
Desde o início. Mas aconteceu o contrário. Sam Altman, cofundador da OpenAI, saiu em turnê de palestras e foi recebido por chefes de estado com tapete vermelho. A resposta, inclusive da França com a Mistral, foi nos inscrever nessa corrida rumo ao nosso próprio deserto. Muitas palavras vazias e absurdas são ditas sobre IA: "Viveremos em um mundo melhor." "Tudo será mais fácil..." Com base em quê? Eu analiso com base em princípios como sociabilidade, dignidade, integridade humana, liberdade, expressão de nossas faculdades... e tudo isso será destruído. Se considerarmos as consequências atuais e as que estão sendo previstas, a situação é extremamente grave.
Quais serão as consequências disso?
Existe uma inteligência artificial que começou a ser desenvolvida na década de 2000. Ela analisa fenômenos do mundo real em tempo real e revela resultados para interpretar determinadas situações: Waze, o aplicativo de trânsito. Ele coleta informações que nenhum ser humano conseguiria obter.
Bem, isso não parece tão ruim.
Mas não era só isso. O Waze também sugere uma rota ou outra. Pela primeira vez, estamos sendo aconselhados a agir de uma determinada maneira. A tecnologia está começando a nos impor uma ideia. Nem tudo é negativo, é claro. Na indústria aeronáutica, permite o ajuste fino da aerodinâmica; na indústria farmacêutica, aprimora moléculas. Mas na gestão, por exemplo, tem efeitos inaceitáveis. Tudo isso deveria ter feito parte de um arcabouço legal, político e social que ainda não foi desenvolvido. E, há três anos, surgiu um novo tipo de IA: a IA operacional.
Pior, é claro.
Esses são sistemas que lidam com tarefas que, até agora, mobilizaram nossas faculdades intelectuais e criativas — a verdadeira dimensão da civilização. A IA generativa é indefensável.
O governo francês está debatendo esta semana a proibição do uso de redes sociais por crianças menores de 15 anos. Parece que sempre chegamos atrasados à festa.
Macron quer regulamentá-las agora, mas até então concedeu a essas plataformas todas as vantagens possíveis. Elas surgiram em 2010 e, 15 anos depois, estamos reconhecendo a catástrofe. A sociedade, quando se trata de questões digitais, sempre acorda tarde demais.
Já perdemos algumas gerações de jovens?
Muitos adultos também foram afetados; a sociedade foi patologizada. E o mesmo acontecerá com a IA generativa. Já estamos vendo as consequências: perda de empregos, isolamento social e danos à nossa imagem. Mas também a dependência emocional de adolescentes que conversam diretamente com a IA generativa, que lhes diz a verdade sobre tudo, agindo como uma espécie de coach psicológica. E isso é só o começo.
Conversamos com a IA, pedimos conselhos, temos conversas emocionantes. Mas a linguagem, embora possa parecer a mesma, é diferente.
São sistemas que analisam todo o corpus digitalizado: livros de biblioteca, artigos de jornal e dados da internet para revelar leis semânticas. São caminhos formais construídos com estatísticas, equações e fórmulas matemáticas. É uma linguagem que cheira a morte porque opera sob o regime da correlação. Analisam todos os dados e sabem que certas palavras seguirão outras. Na IA, tudo o que já aconteceu sempre acontece. Ela responde à conformidade da lógica. É um futuro que já existiu. E isso é o oposto da linguagem humana, que funciona por associação de ideias. Eu não sei qual palavra vou usar depois da que estou dizendo agora, porque a linguagem humana depende do nosso pensamento; ela é única. Ninguém percorre o mesmo caminho.
Isso poderia definir a liberdade humana.
Claro. Por um lado, temos uma linguagem morta, necrosada, matematizada, fruto do capitalismo linguístico. E, por outro, uma linguagem que fala de um infinito indeterminável, da nossa liberdade e singularidade. E essa mudança que estamos vivenciando também modificará as relações pessoais, cada vez mais ausentes em favor de um sistema onisciente e pretensioso. Nas últimas eleições municipais na França, descobriram que havia candidatos e prefeitos escrevendo seus discursos com o ChatGPT. Você tem noção da gravidade disso?
A impressão é que a cultura gerada pela IA será como a comida de má qualidade, o tabaco, o açúcar… Uma narrativa comercial para as classes desfavorecidas que não podem pagar pelo autêntico, pelo verdadeiro. Uma distinção social e econômica. A realidade, com todas as suas falhas, para os ricos; a IA, para os pobres.
Você tem razão, mas a distinção será entre os preguiçosos e aqueles que estão ansiosos para usar suas faculdades. Essas pessoas podem existir também entre os menos afortunados. E haverá pessoas ricas que escolherão esse caminho por preguiça ou apatia. Mas não será fácil distinguir entre os dois mundos; nasce o reino da imagem fantasmagórica. Cada um produzirá imagens que correspondem ao seu próprio ponto de vista.
O impacto será enorme no mundo audiovisual e cultural.
Claro. Isso vai varrer séries e filmes. Haverá atores, cenários, iluminação, maquiagem, figurinos gerados por IA… Estamos caminhando para um desaparecimento massivo de profissões: editor, maquiador, diretor. Estamos caminhando para a autocriação. Produtos que nos contêm. Automúsica, ou o autolivro. Em vez de descobrir, construiremos nossa própria pequena ficção. E esse é um furacão que vai atingir o mundo da cultura.
Haverá perda de empregos, mas talvez uma nova indústria seja criada. Outra forma de entender o trabalho, menos absorvente.
A R. Society foi fundada no conceito de destruição criativa de Joseph Schumpeter. Alguns desenvolvimentos tecnológicos destroem empregos, mas, a médio ou longo prazo, levam a novos tipos de trabalho, como aconteceu com o surgimento do setor de serviços nas décadas de 1970 e 1980. Trabalhos muito árduos passaram a ser domínio das máquinas. Hoje, quase 80% dos empregos vêm do setor de serviços, que se caracteriza pela mobilização de faculdades intelectuais e criativas: advogados, tradutores, arquitetos… Mas desta vez não haverá um setor quaternário. Pense no seu trabalho como jornalista, que você ama e que lhe dá reconhecimento social.
Acho que você está confundindo a época. Ou a profissão.
Vamos lá, você assina, você faz coisas pessoais.
Se existe uma tecnologia que executa tarefas mecânicas ou rotineiras muito melhor do que os humanos, por que nos oporíamos a ela?
Não podemos proibir nem regular. Mas podemos defender o valor do nosso trabalho. Sei que apenas um critério importa: o ser humano como variável contábil. Os sistemas farão o trabalho de forma mais confiável, rápida e barata. Mas existe um conhecimento insubstituível. O problema é que estamos caminhando para um mundo onde os humanos pedirão respostas a um sistema. Sam Altman, um ano após o lançamento do ChatGPT, disse àqueles tolos que o aplaudiam: "Relaxem, isso não é nada comparado ao que está por vir". Refiro-me aos superassistentes. E isso deixará um mundo com humanos cada vez mais excluídos de sua organização.
Os defensores dessa ideia dizem que acabaremos recebendo uma espécie de renda básica sem fazer nada.
Que ótimo! Isso lhe parece um futuro de tirar o fôlego? Os seres humanos são seres criativos. Nós só queremos expressar nossas habilidades.
Encontramo-nos numa fase semelhante à de Deus no sexto dia da sua obra. Criamos uma inteligência à nossa imagem e semelhança, e agora tudo o que nos resta é deitarmo-nos e desfrutar do descanso dominical.
Claro, mas a beleza do domingo é que o dia seguinte é segunda-feira. Imagine um domingo sem fim, e além disso, subsidiado por gurus da tecnologia. Prefiro que meus filhos sejam criativos; esse é o futuro. O futuro é a mão [levanta-se da cadeira novamente e acena com a mão no ar, estendendo todos os cinco dedos].
Tenho uma filha de três anos e outra de oito. Você acha que elas sobreviverão a esse furacão? O que posso fazer?
O futuro deve ser coletivo: no trabalho e no lazer. A primeira consequência do liberalismo não é a desigualdade, mas a morte do espírito. Se você quiser ver o inferno, vá a certos escritórios. As pessoas ficam deprimidas, enlouquecem. Nunca houve um sentimento coletivo de saturação tão disseminado. E um desejo tão forte de fazer algo diferente. Depois da Covid, 20 milhões de americanos pediram demissão. Mas é difícil fazer qualquer outra coisa. O Estado, em vez de subsidiar todas essas startups inúteis que todos querem transformar em mercadoria, deveria apoiar coletivos ou estruturas que não estejam sujeitas à automação. O futuro deve ser de pequenos coletivos.
O que nossos filhos devem aprender para evitar essa morte em vida?
Artesanato. Veja bem, essa dicotomia já existia durante a Revolução Industrial. Karl Marx, por um lado, e William Morris, por outro. Marx defendia a reapropriação dos meios de produção, mas isso aumentou os desastres ecológicos e levou ao trabalho em linha de montagem. Morris, por outro lado, uma pessoa incrível, um socialista na origem do movimento Arts and Crafts, dizia que era preciso ser criativo. E isso poderia ser alcançado através do artesanato, da excelência, de obras assinadas e únicas.
Um pouco elitista, não é? Nem todo mundo pode comprar uma cadeira feita à mão, uma camisa de grife ou um jantar gourmet. Muitos só podem pagar pelo McDonald's ou comprar em sites como Temu e AliExpress.
Precisamos defender o que você tem dentro de si [ele bate no peito]. Mas é verdade que estamos caminhando para um mundo de duas velocidades. Uma automatizada, prática… e outra onde algumas pessoas dirão que há algo único nos seres humanos, e nem tudo pode ser processado por sistemas. Há afinidades no poder da criação, na colaboração entre iguais. E é isso que precisamos defender.
Parece não haver muita esperança.
A esperança reside em crianças da mesma idade que os seus próprios filhos, que, quando crescerem, escolherão outro caminho, como em Matrix. Esse momento chegará. Chegará para algumas almas puras. Mas já perdemos muitas. Crianças que passam o dia todo no TikTok e nem sequer conseguem escrever direito. São robôs que só respondem a sinais, impulsos. São corpos sem autonomia.
Essa criatura pode se tornar independente e nos subjugar como a Skynet em O Exterminador do Futuro?
Isso é um absurdo. Uma ilusão infantil de ficção científica. Uma visão antropomórfica adolescente. Mas o que estou lhe dizendo é muito pior. A rendição de nossas faculdades fundamentais! Estamos ameaçados em todos os níveis, e cada ameaça força a humanidade a recuar do exercício daquilo que a torna grandiosa. Imagine um mundo sem escritores, sem escolas, sem artistas. É isso que desaparece. E garanto-lhe, é muito pior do que a Skynet. Mas você sabe quem pode impedir isso?
Pela sua expressão, estou começando a imaginar.
Você. Quer dizer, os pais! Vocês não podem usar o ChatGPT para enviar e-mails nem nada do tipo. Como vão ensinar seus filhos a escrever? Salvar o mundo hoje depende da conscientização dos pais.
Você não usa nenhuma IA generativa?
Aquelas máquinas de matar? Não, obrigado. Eu amo a vida. Escrever uma frase é difícil, mas que alegria. E vejo jovens começando a se destacar, a rejeitar isso. Acho que haverá heróis do dia a dia e escravos da própria preguiça. E esses verão sua individualidade despedaçada em nome de uma verdade artificial. Enfim, estou falando demais. Quanto espaço você vai me dar?
Não se preocupe, vamos resumir tudo com o ChatGPT.