02 Mai 2024
O sinônimo da palavra “espectro” é “fantasma”, e para a Real Academia Espanhola existem mais de oito definições. Em La vida espectral (Caja Negra), livro recente do filósofo francês Éric Sadin (tradução de Margarita Martínez), o espectro pode ser assumido como “a imagem de um objeto que permanece na fantasia”, mas também como “ameaça de um risco iminente ou medo de que advenha”. Se, no primeiro caso, o espectro é aquilo que não precisa de um corpo para existir (condição que se dá quando aparecemos nas telas), no segundo, a ameaça pode ser dada pelo crescente desenvolvimento de sistemas especialistas aplicados à vida cotidiana.
Sadin, que foi convidado pela Universidade de Tres de Febrero para ministrar duas palestras e apresentar o livro, comenta, nesta conversa com a revista Ñ, que “a ideia original era analisar o fenômeno da crescente pixelização da vida, durante o confinamento pela covid, e o anúncio de Mark Zuckerberg, em outubro de 2021, da troca do nome Facebook por Meta”.
“A pandemia havia nos mostrado que as ações humanas podem ser realizadas a distância, mesmo aquelas inimagináveis: realizar cúpulas governamentais, congressos; também tomar um drink ou celebrar um aniversário pelo WhatsApp. No entanto, no meio deste processo, o ChatGPT começou a apontar e tive que readaptar este livro. Tanto que pretendo escrever outro pequeno voltado exclusivamente para as inteligências artificiais generativas”, continua.
“No fim de 2021 e início de 2022, ficou claro que o grande projeto industrial, que Zuckerberg chamou de metaverso, era (e continua sendo cada vez mais) a possibilidade de adequar nossa vida à tela, eliminando distâncias. Desse modo, criam-se sistemas que sugerem ações, que nos permitem delegar decisões e até antecipar desejos. Este é um fato tecnológico, econômico, social e civilizatório”.
A entrevista é de Ingrid Sarchman, publicada por Clarín-Revista Ñ, 29/04/2024. A tradução é do Cepat.
E como o desenvolvimento do ChatGPT afetou este processo de pixelização?
O sistema de pixelização, cujo objetivo era inscrever a experiência cotidiana (a visão, a audição e o tato) em ambientes controlados, como o metaverso, viu-se afetado pelas inteligências generativas. Esta é uma fratura que não estamos vendo. O mundo atual, técnico e econômico nos expõe antropologicamente, quase geneticamente, a uma instabilidade permanente.
Desde o anúncio de Zuckerberg, a saída do confinamento, a disponibilização on-line do ChatGPT e as consequências no ano passado, muitas coisas aconteceram. Por isso, precisamos descobrir as estruturas fundamentais que estão em jogo. Chamo isto de guinada intelectual e criativa.
Em quais aspectos da vida cotidiana é possível ver esta guinada?
A guinada pode ser percebida em três aspectos, o primeiro é a linguagem, o regime de representação e a reformulação das ocupações.
De quais tipos de linguagens estamos falando?
Em novembro de 2022, as pessoas ficaram impressionadas ao ver como um sistema consegue produzir linguagem, ou pseudolinguagem, pois ainda existe uma diferença entre a linguagem humana e a que essas inteligências conseguem produzir. Esses sistemas têm uma vontade totalizante que se apoia em esquemas lógicos e probabilísticos.
Por exemplo, no WhatsApp, quando eu digo “vou te ver esta…”, o sistema propõe “noite” ou “tarde”. E este modo de funcionamento da linguagem esquematizado, matematizado e industrializado deveria nos interpelar, pois a forma como esses sistemas trabalham é justamente contrária à nossa.
Para nós, a linguagem é um encontro entre a gramática, os símbolos comuns, as aprendizagens na infância, as memórias, as formas de construir as frases, a cultura e a produção de textos sociais. Quando lemos algo, descobrimos os jogos de linguagem, a reapropriação do escritor, uma escrita em primeira pessoa que transforma o probabilístico em indeterminado, em cultura humana. Por isso, hoje, falar e escrever devem ser atos de criação, contrários à pseudolinguagem, que é necrosada e homogênea.
O ato criativo da fala funciona por associações singulares e é esta tendência que deve ser privilegiada. Não queremos que os nossos filhos nos questionem por que ir à escola, se podem dar uma ordem ao sistema para que produza linguagem. Para que aprender gramática ou ortografia? Por que não nos fizemos esta pergunta antes? Porque o utilitarismo, que estrutura as sociedades contemporâneas, faz com que as pessoas acreditem que o ChatGPT é genial porque é prático e não observam as suas consequências.
Uma delas é a homogeneização do regime simbólico. Essa industrialização contribuirá para um capitalismo linguístico no qual perderemos nossas capacidades fundamentais de apropriação do discurso. As próximas gerações não saberão mais falar em primeira pessoa e isto trará consequências para a liberdade e a pluralidade humanas.
Como é possível sustentar este discurso em primeira pessoa, sem cair na autorreferencialidade própria das redes sociais?
Isto é outra coisa porque se refere ao regime da expressividade em alguns poucos caracteres. É mais do que um “eu ioiô” que denota uma expressão de rancor, de ressentimento, toda uma série de dimensões que analisei em A era do indivíduo tirano.
Muitas vezes, as coisas são ditas com rancor, acreditando-se, além disso, que são atuantes. Contudo, só são através da linguagem. Ser atuante implica se envolver, não só através da linguagem. Não quero confundir e penso que este tema deve ser desenvolvido à parte, talvez em um seminário.
E como afeta a representação?
É interessante o que acontece nesse campo. Agora, através de uma instrução linguística, pede-se a um sistema que construa imagens. Todos nos lembramos a do Papa Francisco com a jaqueta, mas houve e continua havendo outras, todas fake news. É um momento muito perigoso onde, se eu tiver um problema com um vizinho, posso gerar uma imagem dele pegando alguém e postá-la na internet.
Caminhamos para um mundo em que não teremos mais certezas sobre a verdade e a mentira das imagens expostas. O grave é as sociedades serem cozidas em um caldo feito de notícias falsas, enganosas, teorias da conspiração e todos os tipos de complôs que produzem mal-estares e reações em cadeia. Não poder diferenciar a verdade da mentira e perder as referências é muito grave.
No entanto, quando a realeza britânica quis divulgar uma foto falsa de Kate Middleton, para deter os rumores sobre o seu desaparecimento, diferentes meios de comunicação se recusaram a divulgá-la, diante das advertências de falsidade. Como explicar este acontecimento?
Além de retirarem a foto de circulação, pois se detectou a falsidade, o fato importante é estarmos falando a respeito dela. Daqui a dois anos, você vai mostrar uma foto, uma notícia, e alguém perguntará: você acredita? Cresce a desconfiança, estamos em um ambiente social onde prevalece essa desconfiança. Temos em mãos ferramentas que nos inclinam a desconfiar da nossa percepção e da dos outros.
Em dezembro de 2022, quando se pedia uma moratória para os avanços da IA, eu disse que não se deveria pará-los, mas, sim, proibi-los porque o que estava por vir era muito grave. E o que dizem os legisladores? Afirmam que não podem regulamentar o copyright destas imagens porque os sistemas continuam funcionando e se regenerando. Estão completamente loucos. Precisam reconhecer que, há tempo, eu adverti sobre esta loucura.
Dentro de alguns anos, não poderemos mais distinguir a verdade da mentira e isso fomentará fenômenos de surdez crescente, juntamente com uma enorme desconfiança em relação ao próximo. Essa psiquiatrização da sociedade não deixará de crescer, caso não a frearmos.
Essas revelações deveriam ter mobilizado a sociedade ou despertado inquietações e debates sociais, mas a verdade é que foram banalizadas e as pessoas assumiram a tecnologia como uma brincadeira. Este é o estado da psique social.
E esta falta de referências também repercutirá no âmbito do trabalho. De que forma?
É fato que nos países industrializados mais de dois terços das ocupações correspondem ao setor terciário. São profissionais que oferecem serviços, atividades que requerem e mobilizam nossas faculdades intelectuais e criativas. Como se entende isto em um contexto de crescente desenvolvimento das IA?
Em novembro de 2023, Sam Altman (diretor executivo da OpenAI) disse que o grande projeto industrial é disponibilizar a cada pessoa superassistentes capacitados para todos os tipos de tarefas: recomendar, delegar, aconselhar, tomar decisões, bem como escrever textos ou nos contar um livro que não lemos. A lista de profissões em perigo é longa: jornalistas, tradutores, intérpretes, advogados, professores. Não conseguimos ver a gravidade do problema porque os nossos esquemas conceituais estão fundados na análise schumpeteriana, aquela que se referia à destruição criativa.
Joseph Alois Schumpeter argumentava que os desenvolvimentos tecnológicos do final dos anos 1940 provocavam, inevitavelmente, o fim de algumas profissões, mas, ao mesmo tempo, geravam novas. Um bom exemplo é a robotização da indústria automotiva dos anos 1980. Agora, essa lógica foi rompida, não existe mais o reservatório de novas profissões.
E isso trará grandes perturbações para o mercado de trabalho, porque quando as pessoas são excluídas dos assuntos humanos que lhes dizem respeito, renuncia-se à capacidade de pensar e de fazer. Estamos falando do fim de algumas ocupações que exigiram longos anos de estudo, que proporcionam prazer e reconhecimento àqueles que as realizam. Isto é o que eu chamei de siliconização do mundo.
Como a humanidade sobreviverá a esta onda de desemprego?
Antes de dar como certo que caminhamos para o desemprego, gosto de tomar o exemplo dos roteiristas de Hollywood, em 2023. Intuíram que seriam substituídos em seus trabalhos e, antes que os legisladores fizessem algo, decidiram se mobilizar.
O que significa se mobilizar? Penso que todas as corporações, em escala nacional e internacional, devem se posicionar, sem esperar que o estado assuma as cartas sobre o assunto. O mais importante é se opor à ideia de que esses desenvolvimentos são inevitáveis e que nada podemos fazer contra, porque as consequências não virão daqui a dez ou vinte anos, mas já estão acontecendo agora.
Também não se deve cair no erro de confiar nas regulamentações governamentais. Os tecnocratas, com as suas pastas, lobbies e projetos de lei, estão fora da realidade. Só podemos contar com a mobilização desses setores e almejar construir, de forma orgânica, um modo de vida social, político, plural e criativo.
Devemos defender o vivente dentro de nós, não renunciar ao engenho que nos habita, aquilo que nos faz curiosos pelos outros. Precisamos criar coletivos em todas as escalas da sociedade. A reconquista passa por aí, não é uma questão de mais ou menos telas, mas de sermos atores de nossas vidas.
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
Quando o ativista austríaco pró-privacidade Max Schrems solicitou seus próprios dados pessoais armazenados pelos servidores do [...]
LER MAIS
