Cientista da computação e hacktivista basco da velha guarda, 'Patxangas' acaba de publicar um livro no qual, através de uma lente cyberpunk, ele explora os cenários digitais de hoje.
A entrevista é de Jon Artza, publicada por El Salto, 05-06-2025.
Karlos G. Liberal Patxangas (Iruñea, 1978) escreveu, juntamente com seu colega do Laboratório de Intervenção Tecnológica Bikolabs, o psicólogo Ujué Agudo Díaz, "O algoritmo paternalista: quando a Inteligência Artificial impera" (Katakrak, 2024), uma crítica incisiva à tecnologia que está abalando o mundo. Aproveitamos esta oportunidade para questionar este cientista da computação e hacktivista basco da velha guarda sobre o estado da tecnopolítica em nosso mundo turbulento. Ou como o "algoritmo" humanista de uma prole cyberpunk interpreta nosso futuro.
Na oficina recente que ministrou, "Welcome to Cyberland", como parte da série This (Is) Not a Utopia, você confessou ser uma espécie de "filho do cyberpunk". O que resta daquele movimento entre ficção científica e hacktivismo que propunha a revolução por meio da tecnologia digital?
Uma certa estética e radicalismo permanecem no imaginário; acho que ainda há um certo espírito na frase "a rua encontrará seu próprio uso para a tecnologia". Naquela primeira era do hacktivismo, em que "os hackers criam seus próprios drivers", isso nos permitiu desenvolver a capacidade de criar código, entender máquinas e imaginar uma internet livre. O que não vimos foi a relação direta com o próprio capitalismo tecnológico e como essa reterritorialização se tornaria tão sinistra. Na minha área, mantenho essa capacidade de ver mundos possíveis no ciberespaço, mas ela não é mais tão compartilhada; é mais íntima. Pode-se dizer que o ciberespaço é mais o de William Gibson do que o de John Perry Barlow.
No livro que acaba de publicar com Ujué Agudo, "O Algoritmo Paternalista", você analisa os procedimentos dirigistas dos algoritmos corporativos ou públicos que usamos no dia a dia. Pode explicar o que é essa abordagem paternalista aos algoritmos e qual a sua importância?
No livro, descrevemos o algoritmo paternalista como a fusão de duas forças. De um lado, o paternalismo libertário, que parte da ideia de que as pessoas tomam decisões irracionais e, portanto, é aconselhável nos "empurrar" para a opção que devemos escolher. O solucionismo tecnológico, que pressupõe que a tecnologia pode e deve resolver qualquer problema social melhor do que nós. Quando se encontram, ambos os vetores nos legitimam a entregar nossas decisões diárias a sistemas automatizados — recomendações da Netflix, filtros do Facebook, pontuação de auxílio público etc. — sob a promessa de nos "ajudar" a fazer escolhas melhores. O resultado é o que chamamos de algoritmo paternalista: uma tecnologia que filtra, ordena ou decide antecipadamente, de forma opaca, deixando à pessoa apenas a sensação de liberdade, não a liberdade real. Como dizemos, "a liberdade de escolha é inteiramente fictícia, pois a capacidade de decidir diminui antes mesmo de termos consciência disso".
Em sua opinião, algoritmos convencionais são dominados pelos vieses mais infames, ainda que ocultos e implícitos, como racismo ou sexismo. Eles podem ser contornados por algo tão socialmente disseminado como, por exemplo, um algoritmo que não é apenas paternalista, mas também patriarcal?
Algoritmos aprendem com dados e regras já impregnados de desigualdades históricas; se não intervirmos, eles reproduzem racismo, sexismo e outras hierarquias sociais. Para contornar isso, precisamos atuar em todas as camadas: dados, modelos, decisões e governança. Precisamos auditar externamente os conjuntos de treinamento e eliminar variáveis ou correlações que atuam como proxies para gênero, raça ou classe. Precisamos documentar publicamente cada fase do ciclo de vida algorítmico, tornar público o código ou, pelo menos, a lógica de tomada de decisão para revisão independente e incorporar equipes interdisciplinares e diversas — não apenas de engenharia — para detectar vieses que a força de trabalho dominante não detecta. Além disso, sistemas de alto impacto devem ser submetidos a testes de estresse ("sandbox") antes da implantação e revogados caso surjam efeitos discriminatórios. Isso não só não é feito atualmente, como também é justificado como erros aceitáveis. Sem essas salvaguardas, os algoritmos não são uma anedota técnica, mas sim mais uma forma de manter a distribuição desigual de poder. A boa notícia é que existem técnicas de detecção e mitigação; a má notícia é que elas entram em conflito com interesses comerciais que preferem a opacidade. Portanto, a resposta não é apenas técnica, mas política: a neutralidade deve ser construída deliberadamente, ou o viés permanecerá o padrão.
Livro "O Algoritmo Paternalista Quando a Inteligência Artificial Impera", de Karlos G. Liberal e Ujué Agudo Diaz (Editora Katakrak, 2024)
O uso generalizado de algoritmos que continuamente nos "ajudam" a tomar decisões, duvidando da nossa racionalidade, pode nos levar a uma sociedade preguiçosa, que negligencia a aprendizagem de conhecimentos e habilidades. Essa tendência provocou até mesmo uma certa reação negativa no campo educacional, com crianças proibidas de usar celulares e tablets em sala de aula. Essas regulamentações são úteis?
O desejo de introduzir certos hábitos de consumo tecnológico é uma realidade muito interessante. O fato de termos criado a regra de que as crianças, ao entrarem no ensino médio, tenham seu primeiro celular é um exemplo desse modelo de consumo. Entendo que as famílias queiram discutir esse modelo de consumo. Acho muito interessante e necessário tentar criar um discurso que se oponha ao modelo de consumo digital. Mas não concordo tanto quando essa discussão se torna proibicionista.
Por quê?
Passamos de um jogo de restrições e regras familiares que tenta limitar algo complexo para proibições definitivas para proteger nossos jovens. Curiosamente, uma justificativa para essas proibições é a pornografia e o sexo, onde medos atávicos ajudam a justificar a proibição. Fiquei impressionado com esta citação de alguém de uma dessas associações: "A idade certa para ter acesso ao celular e à internet é quando você acha que eles estão prontos para assistir pornografia hardcore". O que é pornografia hardcore? Quantos adultos estão prontos para assistir pornografia hardcore? Não vou simplificar o problema, mas, como antiautoritário, não quero um mundo onde os jovens aprendam por meio de proibições.
Em sua opinião e experiência, pode haver uma inteligência artificial alternativa, verdadeiramente democrática e não autoritária, que, num ambiente amigável, permita um espaço real para a autodeterminação nas nossas decisões? Ou será apenas mais uma miragem do "realismo capitalista" (Mark Fisher)?
O modelo produtivo por trás da inteligência artificial está diretamente relacionado com este realismo capitalista, onde imaginar uma alternativa é impossível. A inteligência artificial, em vez de descrever tecnologias, descreve uma ideologia. Por exemplo, nesta ideologia, a propriedade intelectual deixa de ser propriedade de algumas empresas e, com isso, alimentamos esse modelo produtivo. Replicar isso em termos democráticos será difícil. Se o Estado é fundamental para o capitalismo, a tecnologia é o seu motor. O que acontece é que o digital se torna real quando funciona em máquinas. É uma questão de ter essas máquinas. Poderiam ser nossas? Agora parece uma tarefa quase impossível, mas, claro, olhamos para isso através das lentes do realismo capitalista. Mas quem pode dizer que amanhã não criaremos as nossas próprias máquinas e até modificaremos esse aspecto ideológico da IA?
Pode haver verdadeira liberdade em termos políticos quando somos cada vez mais assediados pelo — desculpem o pedantismo — iliberalismo liberticida gerado pelo despotismo tecnologicamente esclarecido dos algoritmos e da burocracia digital? Ou será apenas uma fantasia revolucionária?
Parece que, nesta última década, mais ou menos, o que temos chamado de neoliberalismo está chegando ao fim. O que não sabemos é qual será a forma desse fim. As ideias que giram em torno do que Nick Land chamou de Iluminismo Sombrio, e que Bannon conseguiu articular politicamente — por exemplo, usando todos os meios tecnológicos e políticos, enchendo a internet de merda — ajudam a gerar dúvidas sobre a concepção de um Estado democrático e livre. A agenda desta internacional do ódio é simples: a democracia, como a entendíamos, não nos serve. O capitalismo acelerado será nossa única salvação. Portanto, se não conseguirmos expor claramente suas contradições, essa liberdade pode ser uma ilusão. Conforto-me com o fato de que, nessas incertezas, a ambivalência da multidão é imprevisível de ambos os lados. E nessas situações, o que ocupamos não são as praças, mas os data centers.
A inteligência artificial tem sido menosprezada como uma novidade no mundo da criatividade. Mas, por um lado, demonstrou um potencial genuíno, aproveitado por artistas de vanguarda, e também representou uma ameaça à comunidade criativa, que, como no caso dos roteiristas de Hollywood, reagiu com greves, etc. Você acha que existe uma abordagem virtuosa ou normativa que equilibre a criatividade artificial e o trabalho humano?
No mundo da arte de vanguarda, exemplos como a técnica de cut-up de William Burroughs — recortar pedaços de fita magnética de demonstrações e costurá-los aleatoriamente para contar a demonstração "de uma maneira diferente" — nos ajudam a entender que o que foi chamado de arte generativa tem um poder metafórico bastante forte. O uso da tecnologia, e neste caso da IA, como forma de expressão tem sido feito intensivamente, com, como você disse, propostas muito poderosas. Mas essas ferramentas generativas (acima de tudo) têm esse potencial de imitação (com erros e artefatos que ainda geram o vale da estranheza). A tecnologia digital sempre foi copiável (ou imitada, assim como a tecnologia física). O que está acontecendo é que agora estamos destilando estilos (escrita, imagens, código) mais rápido do que nunca, e isso levanta uma discussão trabalhista/profissional complexa.
E quanto às profissões suscetíveis à imitação/destilação: tradutores, ilustradores, roteiristas? E ainda mais quando, para criar essas IAs, conteúdo de propriedade intelectual foi usado para treiná-las, e nada aconteceu? Se houver uma maneira de encontrar um equilíbrio nisso, será reavivar a discussão sobre propriedade intelectual. Uma vez que a internet tenha sido saqueada para criar uma máquina de destilação, pouco restará para as profissões que dependem dessa propriedade intelectual para sobreviver.
O potencial está lá, mas é difícil garantir que esse potencial expressivo possa impactar essa visão de autoria se esse debate não ocorrer.
Entre outras questões, a inteligência artificial tem sido apontada como um fator ecológico negativo, por exemplo, devido à sua necessidade de imenso consumo de energia ou de vastas quantidades de água para resfriamento. Não estaríamos também contribuindo para o colapso ambiental?
Nick Land, o ideólogo desse aceleracionismo efetivo, disse: "Os ursos polares estão se afogando e não há nada que possamos fazer a respeito". Para esses acólitos do aceleracionismo efetivo, em uma versão maximamente cínica, o esgotamento do planeta não entra na equação. O solucionismo afirma que a tecnologia resolverá os próprios problemas que ela cria. Mas, como Paolo Vino disse em parte, essa ideologia se alimenta dessa transição "do oportunismo para o cinismo e do cinismo para o medo". Nesse estado de medo, como dissemos, é necessário questionar as democracias ocidentais por serem ineficientes; elas o fazem, e o mesmo se aplica a esses limites planetários reais. A IA, além disso, tem uma certa utilidade agora, com usos reais, e seu desenvolvimento é mais justificável. O sistema evolutivo atual é de força bruta, com cada modelo ficando maior e exigindo mais GPUs, mais eletricidade e mais água. Isso não só nos aproxima de crises climáticas, como também perpetua a ideia de Bernard Stiegler do que ele chamou de "guerra da inovação permanente".
Ucrânia e Gaza nos mostraram um salto qualitativo em tecnologia militar, com o uso massivo de drones, inteligência artificial e guerra híbrida envolvendo fazendas de crackers, que buscam nos mergulhar no militarismo e em um aumento exponencial dos orçamentos de "defesa". Existe alguma maneira de contornar essa tendência a partir de uma perspectiva de pacifismo e não violência ativa?
Bem, a princípio, não vejo. Me vejo muito dentro daquele espírito pesqueiro de "onde não há alternativas" a esse modo de guerra. O fato de um país como a Argentina, tão prolífico em formas de protesto, continuar apoiando o governo de Milei me diz que o estado de guerra de que Raúl Sánchez Cedillo fala está mais interligado do que eu gostaria. Na guerra na Ucrânia, vimos de tudo, desde alta tecnologia privada com a rede Starlink de stalitas, até drones controlados por cabos de fibra ótica para evitar perda de sinal, mas também guerra de trincheiras e de lama, em um Verdun revisado, tudo "televisionado" nos canais do Telegram. E o pacifismo não conseguiu criar um discurso antiguerra forte. Então, não acho que o hacktivismo consiga superar esse cinismo e esse medo que mencionamos antes. Terá que ser algo além dessa forma de organização social que temos, mas não acho que virá de um discurso antimilitarista (e eu gostaria disso).
O mundo de hoje parece ter abandonado o ideal de justiça social e abraçado o aceleracionismo, a filosofia que proclama que somente mais tecnologia nos salvará dos problemas causados por ela. Sem cair no primitivismo, pode ou deve haver também uma abordagem de decrescimento para a tecnologia?
Este artigo da Ctxt, na entrevista com Wim Vanderbauwhede, fala sobre o trabalho que está sendo feito em seu grupo de pesquisa em Computação Sustentável e de Baixa Emissão, que está abordando essas questões. No caso dele, tem um claro caráter de decrescimento, e acredito que pode ser um espaço importante para discussão. Nem tudo precisa rodar na "velocidade" máxima. Com a DeepSeek, a IA chinesa, foi demonstrado que esses modelos poderiam ser treinados sem usar a potência máxima (já que não conseguiam adquiri-la) e otimizar significativamente o treinamento desses modelos; a escassez alimenta a engenhosidade. Algo que Timnit Gebru já tentou no Google, o que levou à sua demissão.
Por onde começar?
Da minha perspectiva, como estou em um nível muito abstrato de desenvolvimento de software, acho que poderíamos começar revisando como usamos a tecnologia. Há uma tendência de ter tudo na nuvem, então nossos aplicativos e softwares dependem continuamente de infraestrutura externa. Mas e se não fosse esse o caso? Se pudéssemos escolher que essa tecnologia funcionasse primeiro localmente (no telefone, no computador) e sincronizasse sem passar pelo armazenamento em nuvem (de forma segura e estável), o design desse software seria muito diferente. Não sei se seria voltado para o decrescimento, mas poderia nos dar uma perspectiva diferente.
Denigremos o "iluminismo sombrio" de Nick Land e companhia como uma resposta tecnofeudal e empreendedora ao desastre, mas a realidade é que a filosofia solucionista (Euvegny Morozov) da tecnologia também se aliou ao aceleracionismo de esquerda, da variedade "comunismo de luxo totalmente automatizado" (Aaron Bastani). Como podemos responder, a partir de postulados progressistas radicais, aos nossos colegas, já que, como você aponta, "quanto maior a velocidade, menor a distribuição"?
Minha prática, um tanto promíscua no campo tecnológico, gera muitas contradições para mim. Continuo a ver que o mundo digital e suas periferias são espaços muito poderosos para exploração, e é por isso que surgem discursos sugestivos. O sistema operacional descentralizado e imparável proposto pelo Ethereum é um exemplo disso. É por isso que me sinto confortável, pelo menos inicialmente, com a provocação de Aaron Bastani com sua proposta de "comunismo de luxo totalmente automatizado". Mas aí começo a me questionar, e ouço César Rendueles me dizer: "Não, amigo, ninguém quer ser lixeiro", e, claro, é verdade. Querer continuar vivendo nessa velocidade de escape sem ter alcançado a abundância plena é complicado. É aqui que Peter Frase, em seu livro "Os Quatro Futuros", oferece uma tipologia útil para pensar em alternativas. Ele descreve quatro cenários possíveis combinando dois eixos: abundância/escassez e igualdade/desigualdade.
Explique-os.
De um lado, o Comunismo (abundância + igualdade), que é o cenário utópico idealizado por Bastani. De outro, o Socialismo (escassez + igualdade), que em termos materiais é talvez o mais realista e desejável. Depois, há o Rentismo (abundância + desigualdade), com o qual estamos claramente entediados, e, finalmente, o Exterminismo (escassez + desigualdade), que seria o cenário mais sombrio, onde seríamos os primeiros a perecer. Enquanto não conseguirmos inventar o replicador de Star Trek, ainda teremos que aceitar que o que nos interessa é buscar uma distribuição da escassez.
O fracasso da cultura livre, do software livre à ciência aberta e ao creative commons, como uma grande alternativa, é evidente. Eles pereceram de sucesso, na medida em que o capitalismo se apropriou deles em seu próprio benefício. Você tem alguma ideia de como combater essa pilhagem e defender os bens comuns digitais, pelo menos nas Zonas Autônomas Temporárias (Hakim Bey)?
Recentemente, em uma conversa com Marta G. Franco sobre seu livro "As Redes São Nossas", ela falou desse efeito do roubo: roubaram a internet de nós. O que fica claro é que nossas práticas, que aludem aos processos que desfazem, desorganizam ou deslocam essas estruturas ou codificações anteriores (mesmo as novas), esse processo que tem sido chamado de desterritorialização, tem sua contrapartida na reterritorialização, onde se reorganiza novamente, embora não necessariamente na mesma forma anterior. Assim, o software livre se torna código aberto. A liberdade viral da GPL torna-se libertária com licenças estilo MIT e seu imaginário de startups e empreendedores, agora em sua deriva cripto-bro. E a cultura livre é arrastada para baixo por uma ideia muito pobre de autoria. Para mim, vindo daquela autonomia (agora obsoleta) dos anos 1990, pensar em TAZs (Zonas Temporariamente Autônomas), a interzona de Burroughs, ou a Zona de Tarkovsky, parece desejável. Não tanto para recuperar esses roubos, mas sim para criar espaços de exploração, mesmo que temporários.
Parece que estamos testemunhando o alvorecer da era do tecnocapitalismo, quando não há mais nichos de mercado; tudo o que resta é esgotar os pesqueiros digitais da economia. Com Elon Musk à frente de uma elite de CEOs e tecnorricos da tecnologia, em aliança com Trump, ele busca a dominação mundial. Existe alguma maneira de resistir, ou este é o último suspiro do capitalismo terminal?
Onde esses super-ricos e sua nova ideologia acelerada são fortes é em sua capacidade de controlar a narrativa. Bannon viu isso claramente. Não importa se é verdade; o que importa é encher a internet com besteira. A desinformação é o seu novo normal. E nós a atacamos de uma perspectiva racional, às vezes carregada de moralidade. Ver tantos comunicadores científicos discutindo com grupos de homeopatas para provar que eles estão errados, eu acho, alimenta o discurso dicotômico que a internet tanto exalta. E enquanto isso, Musk, Zuckerberg e companhia monetizam essas controvérsias com cliques. A clássica abordagem de "não alimente o troll" não está funcionando. Talvez mostremos as contradições deles de forma tão caótica quanto eles? Não sei. Não parece uma ótima solução, mas seria mais divertido. Consegue imaginar Pablo Iglesias ganhando um dinheirinho para expandir sua vila em Galapagar? Talvez devêssemos tirar o pó do clássico "Manual de Comunicação de Guerrilha" e deixar Luther Blissett nos guiar.
O escritor argentino Michel Nieva fala de "ficção científica capitalista", que alimenta, por exemplo, fantasias cósmicas de conquista de outros mundos (após destruir a Terra). Ainda pode haver uma imaginação política, talvez herdada do cyberpunk, que fortaleça nossa resistência (estou pensando em romancistas como Cory Doctorow etc.)? Você poderia recomendar um romance, filme ou série para desenvolvê-la?
Uma das ideias do cyberpunk e de Gibson era que não era necessário imaginar futuros 100 anos à frente; pensar 20 minutos à frente era suficiente. Talvez pensar em futuros curtos nos ajude a escapar desse realismo capitalista. Nessa linha, reli recentemente dois clássicos de Sterling: O Fogo Sagrado, que brinca com a ideia de uma gerontocracia, narrando a transformação de Mia, uma idosa rejuvenescida que desafia a sociedade tecnocrática e controlada do futuro. A visão que os jovens têm deste mundo dominado por idosos me lembra a narrativa de Bifo sobre a geração pós-alfa e textos como Senectus Mundi: Demência Senil e Niilismo Atômico. Os jovens precisam fazer algo a respeito de tanta impotência senil; este livro e seus autistas nos ajudam a imaginá-lo.
O segundo livro
"Distraction", também de Sterling, conta a história de Oscar Valparaíso, um analista político americano. Sua história gira em torno do governador enlouquecido da Louisiana, que busca tirar proveito do vácuo de poder e da falência do governo de Washington para consolidar seu próprio poder autárquico e populista. Exato demais para um livro de 1998, mas é interessante como ele imagina a política institucional em um mundo caótico. É claro que descobrir Ursula [K. Le Guin] renovou meu interesse pela ficção científica. Qualquer um de seus romances serve para mim. "The Left Hand of Darkness" ou "The Dispossessed" são leituras obrigatórias, mas eu começaria com o artigo: "The Carrier Bag Theory of Fiction" (A teoria da ficção da sacola de compras).
Saudações romanas, apoio eleitoral explícito à extrema-direita ou ataques a parlamentos em um retorno perturbador do populismo racista e imperialista, que nos remete a outros tempos. Corremos o risco de que essa guinada geopolítica em direção à autocracia se alie à ideia de tecnocracia como parte de um (tecno)fascismo 2.0?
Como apontamos ao longo da entrevista, essa aceitação de que este é o único modelo produtivo e social possível é o playground para essas novas ideologias. Nuria Alabao conseguiu explicar, a partir de uma perspectiva feminista, como esse movimento internacional de ódio é global. Suas políticas contra aqueles que são diferentes — mulheres, pessoas racializadas e a comunidade LGBTQ+ — lhes dão um poderoso campo de ação. E a internet e seus canais fazem parte dessa autocracia. Elon Musk viu isso claramente quando comprou o Twitter com uma intenção claramente neofascista.
Após a pandemia, o teletrabalho tornou-se massivamente prevalente como uma forma de libertação por meio da flexibilidade, e hoje é uma realidade no local de trabalho, tão exigente e enganosa quanto o mito do empreendedor. E o cognitariado digital, como uma nova classe trabalhadora desregulamentada e precária, permanece subjugado. Essa tendência tem uma solução (sindical) viável?
É um tópico que eu gostaria de explorar mais a fundo, especialmente no setor de tecnologia onde trabalho. É curioso como aquele interessante debate do início dos anos 2000 — que pode ser visto em livros como "Capitalismo cognitivo: propriedade intelectual e criação coletiva", de Traficantes de Sueños — não foi continuado. Autores como Yann Moulier Boutang argumentaram que, nesta fase do capitalismo, o conhecimento, a criatividade e as redes digitais são as principais fontes de valor econômico. Isso tem sido, sem dúvida, o caso. Mas, curiosamente, após essas décadas, nos vemos como uma espécie de pseudoprofissionais em vez de uma nova classe trabalhadora. O discurso empreendedor, que as empresas conseguiram reapropriar com conceitos como "carreira" e "intraempreendedorismo", dá origem a um novo trabalhador individualista. Isso, apoiado pela alta lucratividade do setor e pela fácil mobilidade (com melhores condições), impede que essa força de trabalho digital altamente qualificada seja vista como trabalhadora, mesmo sendo. Cinicamente, existem milhares de "programadores" que desejam se tornar empreendedores. Enquanto não mostrarmos essa realidade e escaparmos dessa visão empreendedora de si mesmos, vejo pouco espaço para o sindicalismo.
Não sei se você usa redes sociais, mas na recente polêmica em torno do antigo Twitter, como você se posiciona? É legítimo, ou apropriado, continuar usando o X em um esforço de quinta coluna para permanecer nas trincheiras digitais? Ou é melhor migrar para outras redes aparentemente menos agressivas, como a Bluesky? Ou estar presente em todas elas? Ou, talvez, em nenhuma?
Pode-se dizer que já perdemos a batalha cultural: o exército de trolls não está mais do nosso lado. Pode parecer que continuamos a participar das mídias sociais de uma perspectiva econômica, onde, como fizemos um investimento, o efeito do custo irrecuperável nos impede de sair, sob pena de perdermos algo que já havíamos gasto. Cory Doctorow explica isso muito bem com seu conceito de "gargalo": grandes corporações estabelecem pontos de estrangulamento nos mercados para controlar fornecedores e consumidores, limitando a concorrência e maximizando seus lucros às custas de outros players. Agora, nas mídias sociais, estamos precisamente nesse momento de estrangulamento. Eles vão nos espremer, enquanto achamos que ainda estamos recuperando um pouco da influência que já tivemos. O que fazer agora? Meu padrão é a promiscuidade: estou envolvido em tudo. Mas, na realidade, há pouca base para isso. Vejo que o conceito do Fediverse nos permite falar novamente sobre propriedade de dados e infraestrutura, mas acho que a ideia de uma rede social como uma plataforma única está se perdendo. Talvez o Fediverse nos leve de volta às praças públicas que são a web.
Talvez você possa nos esclarecer sobre os arcanos tecnogeopolíticos da disputa imperialista entre China e Estados Unidos. Huawei, TikTok ou DeepSeek são cavalos de Troia chineses no Ocidente? Ou isso realmente não faz diferença, e todas as empresas de tecnologia são igualmente invasivas, predatórias e controladoras?
Meu conhecimento geopolítico é limitado, mas no campo tecnológico, por um tempo, vimos a China e seus projetos como algo menor, de menor qualidade. Mas então o TikTok conseguiu levar a ideia do viral ao máximo: qualquer um pode se tornar um pouco famoso. E, em pouco tempo, isso já está assustando o Instagram. Suas práticas e seu interesse são os mesmos: manter você grudado na tela. A ByteDance é um conglomerado com dois bilhões de dólares de lucro. É normal que o império (os EUA) tenha medo deste país que até quatro dias atrás era um país em desenvolvimento. Com a DeepSeek, o medo é maior. A China aplica todos os seus processos de forma muito direcionada: investir com risco não é sua norma. Nesta entrevista a um veículo de comunicação chinês, o fundador da DeepSeek é questionado se essa estratégia de investir em inovação, como é feita nos EUA, faz sentido na China. A entrevista foi feita há um ano e, considerando o que vimos, parece que a mudança de abordagem causou um certo rebuliço no setor de tecnologia.
Parece que vivemos entre o colapso da utopia e a ascensão da distopia disciplinar, que perdeu seu caráter emancipatório. Em sua opinião, diante da AI-cracia (José M. Lassalle), faz sentido encorajar algum tipo de "utopia ambígua", como propõe Ursula K. Le Guin? Como você a imagina?
Talvez seja imaginando que podemos inverter a frase de Baudrillard: "História sem desejo, sem paixão, sem tensão, sem acontecimento autêntico, em que o problema não é mais mudar a vida, que era a utopia máxima, mas sobreviver, que é a utopia mínima."
Dirigindo-se a nós, leigos desorientados, entre uma atitude leninista e uma taoísta, você poderia sugerir decisões pessoais ou coletivas, simples, mas decisivas como consumidores-usuários, sobre "o que fazer" e "o que não fazer" em termos do uso da tecnologia digital?
Simplifique nossas vidas. O digital tornou-se menos interessante quando a transformação digital ocorreu às pressas durante a pandemia. Tentar lidar com todos os inputs vindos do digital significa que entramos em uma espiral de complexidade vital e uma falta de significado bastante avassaladora. Agora podemos dizer que, no digital, menos é mais. Mas não apenas no uso de ferramentas ou tecnologia, mas também na importância que damos a essa vida no digital. Simplificar e nos limitar por simplificar, eu acho, é uma boa escolha. E, para ser mais prático: organizar nossas vidas digitais — nossos segundos cérebros — em um sistema baseado em Markdown, como Logseq ou Obsidian, pode nos ajudar a parar de ter milhares de e-mails, documentos e PDFs espalhados por nuvens e computadores. Simplificar as coisas o máximo possível com um único arquivo de rich-text como o Markdown é meu novo favorito.
Nesse sentido, ainda faz sentido nos tornarmos "pró-sumidores" sob a filosofia livre do "faça você mesmo", ou a complexidade tecnológica acelerada, que está causando sucessivas divisões digitais, já nos fez perder esse barco para sempre?
De jeito nenhum. Como diria Nueva Vulcano em sua música: "fizemos coisas" e precisamos continuar fazendo. A tecnologia digital precisa ser revisitada, possivelmente adicionando certas fricções para nos conscientizar de como queremos usar essas tecnologias. Aqui, retornar ao "faça você mesmo" nos permite experimentar e explorar como produzimos e como consumimos. Além disso, estamos voltando a objetos tangíveis, não apenas telas. Objetos-dispositivos que nos permitem interfaces mais amigáveis e que são nossas criações.
Bruce Sterling, o pai do cyberpunk, juntamente com William Gibson, afirmou em 1996 que "não existe um único futuro possível, e esse futuro ainda precisa ser escrito". De fato, nos dedicamos a escrevê-lo e reescrevê-lo em inúmeros romances e ensaios. Depois da experiência de publicar "O Algoritmo Paternalista", faz sentido escrever sobre tecnologia como uma expectativa de que "outro futuro é possível", ou é uma voz mais perdida, como disse Morpheus, "no deserto da realidade"?
Um dos tópicos que mais trabalhamos no livro e em vários projetos de pesquisa é como medimos o desempenho dos algoritmos. Muitos termos são usados para isso: precisão (qual a porcentagem de acertos), eficácia (quão bem eles atingem seu objetivo), sensibilidade (capacidade de detectar casos verdadeiros) e outros conceitos como falsos positivos (quando o algoritmo diz que algo vai acontecer e não acontece) e falsos negativos (quando ele falha em detectar algo que acontece). Tudo isso demonstra o quão complexo é mensurar o peso que queremos dar a algo automatizado.
Uma das coisas que queremos medir é a previsão. Queremos prever preços de ações, nevascas futuras, mas também queremos prever, por exemplo, o risco de um prisioneiro reincidir com base em dados. Essa necessidade de antecipação tem uma base política: se você não quer riscos, seu algoritmo tenderá a ser mais conservador, e isso pode levar a decisões como deixar mais pessoas na prisão. Isso me leva a uma frase que repito com frequência e que considero essencial discutir: "ninguém pode superar uma previsão". O futuro ainda está para ser escrito, mas repetimos insistentemente para nós mesmos que podemos ser videntes prevendo o que virá.
Em The Peripheral, Gibson imagina um cenário onde um futuro primordial chamado Jackpot (uma catástrofe global lenta e múltipla como a atual) permite, graças à tecnologia de comunicação quântica, abrir conexões com o passado. No entanto, elas não viajam fisicamente nem alteram seu próprio passado: ao estabelecer contato, elas criam um novo ramo temporal — um toco — que segue seu próprio curso, separado do futuro de onde partiram. Em The Dawn of All Time, David Graeber fala sobre o passado a partir de uma premissa semelhante. Portanto, meus novos projetos estão alinhados com as TAZs (Zonas Temporariamente Autônomas) e esses ramos, que poderíamos chamar de FTAs (Futuros Temporariamente Autônomos). Precisamos de antídotos tecnológicos, e eu gostaria de poder projetá-los.