Os bilionários e suas estripulias desumanizantes

Foto: MaxPixel

23 Julho 2021

 

"Os críticos de tecnologia não deveriam acreditar nas fantasias divulgadas que pessoas como Elon Musk vendem; o controle da mente não está mais perto do que qualquer um dos sonhos do passado futurista, como carros voadores ou socialismo", escreve Danielle Carr, doutoranda na Universidade de Columbia e escritora, em artigo publicado por The Baffler e reproduzido por Outras palavras, 20-07-2021. A tradução é de Gabriela Leite.

 

Eis o artigo.

 

Uns vão ao espaço, outros querem enfiar coisas na sua cabeça. Neuralink, de Elon Musk, tenta conectar cérebros a computadores. Tecnologia, porém, existe há 56 anos… Sua “inovação” atual: capturar mais dados, sem que você sequer perceba.

 

A decepção assume duas formas. A primeira nos permite manter a ilusão em relação ao objeto de desejo, que simplesmente saiu do controle ou talvez tenha se voltado contra nós; a segunda revela que, desde o início, aquilo em que acreditamos nunca foi real.

 

Diante da possibilidade de escolher entre dois modos de decepção com relação ao futuro da tecnologia, as crianças mimadas da era espacial e seus incompreendidos problemas de millenial se veem tentados pelo conforto do primeiro tipo. Essa decepção manifesta que não é que os jetpacks e o teletransporte que lhes foram prometidos fossem uma fantasia, mas que tais tecnologias emergirão em sua forma sombria, oferecidas pelos senhores do Vale do Silício. É melhor ser traído do imaginar que o próprio desejo tenha sido uma ilusão desde o início; a tal ponto que, se não vamos chegar a Marte, pelo menos outra pessoa o fará.

 

Do download de memórias e dos escravos digitais do Black Mirror ao tráfico biológico de Blade Runner, mesmo as visões mais distópicas do triunfo da tecnologia são preferíveis à melancolia de Alphaville (1965), de Jean-Luc Godard, um filme de ficção científica de baixo orçamento rodado nas ruínas futuristas da Paris modernista. Não há tecnologias deslumbrantes em Alphaville, nem mesmo as malignas. No entanto, há vestígios de uma arquitetura deteriorada que foi construída quando as pessoas imaginavam que o futuro seria diferente; isso, além de um supercomputador que observa todos os nossos movimentos. O futuro se parece com o presente, só que pior.

 

Nossa situação atual é mais parecida com Alphaville do que com Black Mirror: em meio a um agravamento do colapso ecológico e das infraestruturas, a única tecnologia que parece estar em constante atualização são os dispositivos móveis, que oferecem uma fuga para o virtual. Tudo está desmoronando por engano, exceto o seu iPhone, que se deteriora por projeto. Dada a falta de opções, até as alternativas oferecidas por um ser maligno podem parecer um alívio temporário.

 

Isso poderia explicar a credulidade com que as declarações de Elon Musk sobre o Neuralink têm sido recebidas pela imprensa, mesmo por aqueles que se consideram seus críticos. Na primeira demonstração pública da secreta empresa de implantes neurais, Musk apresentou um estudo com um conjunto de porcos que nos dois meses anteriores tinham vivido com um protótipo do dispositivo Neuralink inserido em seus dentes. Diante de um slide que mencionava doenças que incluíam vício, perda de memória, cegueira, ansiedade e paralisia, Musk argumentou que as doenças foram causadas por “sinais elétricos que os neurônios enviam ao cérebro”. Portanto, “se esses sinais forem corrigidos, tudo, da perda de memória à depressão, pode ser consertado”. Mais tarde, em uma fala elaborada demais para ser espontânea, ele disse que o dispositivo deveria ser “considerado como um smartphone embutido no crânio”.

 

 

Em sua versão atual, o “Link” é um chip do tamanho de uma moeda de um dólar implantado rente ao crânio e preso a fios de eletrodos flexíveis contendo 1.024 canais “costurados” através do córtex, a camada mais externa do crânio. O chip comprime informações sobre o cérebro coletadas pelos eletrodos e identifica padrões ao ouvir as explosões de atividade elétrica conhecidas como “picos” que ocorrem quando um neurônio é ativado. Quando o dispositivo emparelha o pico in vivo com seus modelos codificados, ele pode reduzir o “ruído” de um cérebro vivo cacofônico a um “sinal” digital pequeno o suficiente para ser transmitido por uma interface de largura de banda limitada, como o Bluetooth.

 

Essas palavras talvez impressionem, mas para os padrões atuais de neuromodulação, o Link é decepcionante. Cientistas registram picos neuronais no cérebro desde 1868 e usam eletrodos internos conectados a computadores desde 1951. A cascata de tons musicais no estilo Aphex Twin que Musk reproduziu na demonstração, representando “sinais em tempo real” transmitidos pelo Link, qualquer pessoa durante a sua pausa para o almoço, com um programa de computador capaz de atribuir uma nota musical a um valor numérico, pode criar. De acordo com Andrew Jackson, professor de interfaces neurais da Universidade de Newcastle, 1.024 canais não representam nada de extraordinário, e o fato de o aparelho poder prever aproximadamente o movimento de um porco ao caminhar não é novo — já foi inclusive publicado. Não há, ainda, novidade no que diz respeito a objetivos básicos de curto prazo do Neuralink: em 2013 foi lançado um dispositivo de neuromodulação, chamado NeuroPace, que já é capaz de detectar a atividade cerebral e intervir em circuitos neurais em tempo real para prevenir convulsões.

 

Portanto, a apresentação espalhafatosa era teatro científico, não ciência. A ostentosa exposição foi calibrada para dar plausibilidade à visão de longo prazo de Musk, uma fábula de ficção científica mais ou menos assim: o Neuralink produzirá um dispositivo de neuromodulação voltado para o consumidor capaz de regular qualquer doença psicológica ou neurológica, ou mais especificamente, aumentar a capacidade do cérebro com a computação, face a uma suposta ameaça iminente de uma Inteligência Artificial sobre-humana. Ele será implantado por meio de um procedimento automatizado, que pode ser realizado durante a hora do almoço, tão simples quanto a cirurgia Lasik, que dispensa as taxas dispendiosas de um cirurgião e um anestesista, tornando-o acessível a qualquer pessoa. O sistema será retirado do cérebro e atualizado de tempos em tempos, como um telefone.

 

Em sua pressa para levantar as questões políticas e éticas óbvias que tal tecnologia apresenta, a maioria dos críticos do dispositivo comprou a premissa de que Musk poderia fazer o que ele promete com credibilidade. Se a descrição acima soa como “controle da mente” ou “suicídio da mente”, é porque supõe-se que seja apresentado assim. É melhor, para Musk, falsamente admitir durante uma sessão de perguntas e respostas que talvez suas aspirações soassem “como um episódio do Black Mirror” do que reconhecer que suas afirmações sobre como o dispositivo funciona poderiam ser descartadas, por serem propaganda para agradar investidores.

 

***

 

Se o sistema Neuralink não é particularmente inovador, tampouco o é seu horizonte imaginativo. O fato de a tecnologia ainda não existir evidencia formidáveis obstáculos técnicos e regulatórios no horizonte da suposta inovação histórica que Musk apresenta. Seu lançamento está longe de ser o primeiro a fazer afirmações elaboradas sobre a remodelação da natureza humana por meio de interfaces de computação do cérebro, desde que os cientistas neurológicos começaram a trabalhar com computadores em meados da década de 1950.

 

A malfadada encenação de Elon Musk com os porcos ciborgues foi, no mínimo, uma versão mais decepcionante do que o espetáculo público que, em 1965, o neurofisiologista de Yale, José Delgado, deu em uma tourada em Córdoba, na Espanha. Esse evento foi registrado em uma importante reportagem de capa do New York Times:

 

“A luz do sol da tarde caía sobre as altas barreiras de madeira em direção à arena. quando o bravo touro se lançou sobre o ‘matador’ desarmado, um cientista que nunca havia enfrentado um animal daqueles. No entanto, os chifres do animal que atacava nunca alcançaram o homem por trás do manto vermelho. Momentos antes que isso acontecesse, o Dr. José Delgado, o cientista, apertou um botão em um pequeno rádio transmissor em sua mão e o touro freou. Então ele apertou outro botão no transmissor e o touro obedientemente virou para a direita e saiu trotando.

 

O touro obedecia às ordens que seu cérebro recebia por meio de estimulação elétrica – por sinais de rádio – em certas regiões onde, no dia anterior, haviam sido implantados cabos finos, sem dor.”

 

O Times disse com entusiasmo que esta foi “provavelmente a demonstração mais espetacular já feita de modificação deliberada do comportamento animal por meio do controle externo do cérebro”.

 

Delgado não era uma figura marginal e era cético em relação aos lobotomistas que, na época, eram aceitos nas pesquisas convencionais sobre o cérebro; ele sentia que estavam invadindo grosseiramente sua magnífica arquitetura. Na vanguarda dos estudos científicos sobre o cérebro, em meados do século XX, foi uma estrela em ascensão do que então se chamava neurofisiologia. Depois de ser nomeado o mais jovem ganhador do prêmio mais importante de ciência do cérebro da Espanha, ele estudou em Yale com o renomado neurofisiologista John Fulton e, logo em seguida, conseguiu um cargo de professor e ganhou vários prêmios de prestígio em instituições como a Fundação Guggenheim. Na década de 1950, Delgado começou a construir métodos para estimular e registrar o cérebro vivo, desde tentativa de encontrar correlatos fisiológicos para os movimentos à tentativa de mapear mecanismos de controle neural para estados subjetivos como fome, desejo sexual, prazer, raiva e motivação.

 

A demonstração do touro foi seu momento de destaque, quando apresentou seu “Stimoceiver”, um implante neuronal controlado por radiofrequências que poderia estimular as partes do cérebro onde fosse implantado. Nos anos seguintes, Delgado trabalhou para adaptar o Stimoceiver aos humanos. Em 1969, ele publicou os primeiros resultados usando fundos de pesquisa fornecidos pela Força Aérea dos Estados Unidos, pelo Office of Naval Research e pelo Serviço de Saúde Pública dos Estados Unidos.

 

A arquitetura básica do dispositivo era muito semelhante à do Neuralink, embora tivesse menos pontos de contato para os eletrodos. O Stimoceiver acoplava até quarenta eletrodos intracranianos, implantados em todo o cérebro, com um transmissor e receptor de ondas de rádio conectado à cabeça do paciente. O amplificador na cabeça do paciente recebia os sinais dos eletrodos de profundidade para controlar a frequência do transmissor, enviando sinais sem fio para as entradas de um dispositivo de gravação eletroencefalográfico e um gravador de fita magnética localizado a até 30 metros de distância do paciente. Simultaneamente, as conversas e atividades dos pacientes foram gravadas com equipamento de som. O objetivo era descobrir “correlações entre padrões elétricos [no cérebro] e manifestações comportamentais”, a fim de fornecer à equipe médica informações sobre o alvo neural mais eficaz para a psicocirurgia para cada paciente. Os padrões neurais foram analisados por um computador para determinar qual região neuronal correspondia a cada determinado comportamento.

 

 

À medida que os jornais e a televisão cobriam seu trabalho, muitas vezes usando fotos e imagens de divulgação de seu laboratório, começaram a sair artigos sugerindo que Delgado estava desenvolvendo um “controle mental” capaz de transformar radicalmente as emoções e a subjetividade. Delgado cortejou a mídia para dar essa impressão; fazendo um comentário bem a seu estilo, em um artigo escrito para a imprensa popular, em 1959, ele declarou que “animais e humanos podem ser controlados como robôs, apertando botões”. Com a publicação de seu livro, de 1969, Physical Control of the Mind: Toward a Psychocivilized Society (Controle Físico da Mente: Rumo a uma Sociedade Psicocivilizada, em tradução literal), Delgado expôs defendeu a adoção da engenharia humana, por meio da reprogramação do cérebro. Tudo está em evolução permanente, argumentou; em seu próximo passo, a humanidade deve aproveitar a tecnologia neural para alcançar sua própria renovação a serviço do avanço da espécie, em vez de sua própria aniquilação por meio de horrores tecnológicos como a bomba atômica.

 

Se a sociedade psicocivilizada de Delgado coincide com a aspiração de Musk de prevenir a obsolescência humana sincronizando o cérebro com a inteligência artificial, ela pode ser melhor entendida como um investimento político do que uma coincidência. Como um espanhol culto, liberal e antifranquista ferrenho, Delgado imaginou a engenharia humana como uma consequência natural da governança social-democrata, não muito diferente das campanhas de habitação pública de Le Corbusier ou de vacinação estatal. Portanto, é apropriado afirmar que o movimento antipsiquiatria dos anos 1970, que tomou Delgado como seu arqui-inimigo, estava ligado exatamente às mesmas sensibilidades libertárias que, como o historiador Fred Turner demonstrou, acabariam por dar origem à política do Vale do Silício.

 

Mas o erro do movimento antipsiquiatria em relação a seu terrível medo de Delgado é, ironicamente, onde Musk está aproveitando para afirmar que o controle da mente já chegou. Simplificando, é muito mais fácil manipular as funções motoras do cérebro do que influenciar (quanto mais controlar) pensamentos e sentimentos, e obter o domínio técnico do movimento corporal não significa que o controle da mente esteja iminente.

 

***

 

O espetáculo de Delgado com o touro foi baseado em um truque fundamental. Embora afirmasse ter encontrado os mecanismos de controle da motivação e da subjetividade do animal, a explicação era muito mais simples: o dispositivo foi implantado em uma área motora do cérebro que impossibilitava o touro de continuar avançando. Mas o teatro funcionou. O público estava convencido de que o controle da mente estava no horizonte, enquanto na realidade o implante apenas interferia no movimento físico.

 

Os correlatos neurais do controle motor são fáceis de localizar, são encontrados vasculhando o cérebro e zapeando até que a resposta desejada seja alcançada. É muito mais difícil, senão impossível, fazer o mesmo com sentimentos de origem social como “tristeza” ou “trauma”. Portanto, não é surpreendente que as primeiras aplicações previstas para o Neuralink sejam para distúrbios do movimento, como paralisia. Para uma empresa mergulhada no caos interno, descrita por um ex-funcionário como dividida por rotatividade frequente e mudanças de estratégia extremamente confusas, direcionar os distúrbios do movimento é um alvo felizmente fácil, que tem a vantagem de já ter sido atingido por muitas outras equipes de pesquisa.

 

Quanto à possibilidade de o Neuralink dar o salto da aplicação motora para a aplicação psicológica, um emaranhado de obstáculos técnicos e normativos se interpõe no caminho. Por um lado, o robô cirúrgico que ele usa só consegue costurar filamentos de eletrodos finos e flexíveis na superfície do cérebro, que controla em grande medida a sensação física e motora; falta a capacidade de implantá-los em estruturas mais profundas abaixo do córtex. Como as experiências subjetivas e emocionais envolvem estruturas cerebrais profundas, é provável que não seja possível influenciar emoções ou doenças mentais apenas a partir do córtex.

 

De acordo com Alik Widge, líder nacional em estimulação cerebral para transtornos psiquiátricos, qualquer tentativa de usar o robô cirúrgico para implante mais profundo do que o córtex enfrentará dois grandes problemas de engenharia. Em primeiro lugar, você precisa descobrir como fazer com que os delicados eletrodos flexíveis do dispositivo Neuralink alcançarem o cérebro profundo. Além disso, o robô conta com visão artificial para evitar vasos sanguíneos e um único erro pode ser fatal. Widge disse que a ideia de que uma cirurgia de implante cerebral poderá ser totalmente automatizada em curto prazo é uma fantasia: “Implantar eletrodos é fácil, se tudo sai bem, mas é melhor não pagar pra ver como fica quando dá errado. Cabe perguntar-se se isso poderia ser feito em um shopping center com um cara com diploma de ensino superior e um curso de treinamento de duas semanas. Talvez, quando a tecnologia estiver suficientemente desenvolvida. Mas se você for uma das primeiras 10.000 pessoas a tê-lo, precisará de um neurocirurgião por perto, para garantir.”

 

 

David Darrow, um neurocirurgião que trabalhou com sistemas de neuromodulação na última década, mostrou-se ainda mais cético em relação à perspectiva de uma cirurgia cerebral profunda automatizada: “É absolutamente impossível. Nunca haverá ninguém para fazer isso, exceto cirurgiões altamente qualificados, o que cria um óbvio obstáculo para que essa cirurgia seja feita no estilo Lasik.” Se um único caso der errado, o dispositivo pode ser jogado no mesmo limbo regulatório que interrompeu a terapia genética por uma década após a morte de um jovem de 18 anos em um ensaio clínico.

 

Além desses obstáculos logísticos formidáveis, existe um problema epistemológico mais avassalador. Não existe um substrato biológico universal que corresponda a noções como “depressão”, “tristeza”, “raiva” ou “alegria”. Esses conceitos são compostos de linguagem e política; não são universalmente compartilhados entre pessoas ou, mais especificamente, corpos. Nas palavras de Widge: “Mesmo se o Neuralink estivesse pronto para implantação amanhã, ainda não poderíamos usá-lo para doenças psiquiátricas porque a ciência não saberia o que fazer com ele.” As vicissitudes da pesquisa sobre o uso da estimulação cerebral profunda, atualmente o padrão-ouro para dispositivos de neuromodulação para tratar a depressão severa, ilustram muito bem o problema. “A palavra depressão é quase inútil” do ponto de vista neurológico, explicou Widge. “Não define uma única entidade biológica.” As profundas diferenças sobre o que é a depressão são a razão pela qual alguns pacientes respondem à terapia, enquanto outros não experimentaram nenhuma mudança. Um grande ensaio clínico visando a estimulação cerebral profunda para tratar a depressão que buscava a aprovação do FDA foi encerrado em 2013, quando não mostrou resultados suficientemente promissores. Como resultado desse ensaio fracassado, os principais fabricantes de dispositivos de neuromodulação retiraram-se das pesquisas sobre transtornos do humor e reduziram seus investimentos para se concentrar no campo mais seguro dos transtornos de movimento.

 

Diante do paradoxo de Zenão, da pesquisa à comercialização, podemos nos perguntar por que Elon Musk jogaria maços de dinheiro em um espaço de investimento definido pela incerteza. O que você ganha contribuindo com mais de U$ 100 milhões dos U$ 158 milhões que a empresa arrecadou?

 

Na última década, várias startups na confluência de tecnologia e um serviço “real” – como Uber ou DoorDash — receberam torrentes de dinheiro de capitalistas de risco aparentemente despreocupados com o fato de seus investimentos nunca terem dado lucro. Alguns comentaristas levantaram a hipótese de que o Uber e similares estão fazendo uma aposta arriscada na automação, alimentando suas empresas com infusões de capital de investimento enquanto esperam que a concorrência, formada por trabalhadores humanos, morra. Mas outros teorizaram que o modelo de negócios já está funcionando: o verdadeiro prêmio que os capitalistas buscam não é o ganho monetário imediato, mas os dados coletados por plataformas e dispositivos. Alguns argumentam, então, que a economia de dados deve ser entendida como uma nova variante do capitalismo em que os dados em si não são uma mercadoria, mas capital, isto é, algo que os capitalistas desejam possuir porque gera valor por meio de relações de exploração.

 

***

 

Uma característica notável do protótipo Neuralink é que seus eletrodos são atualmente mais adequados para “ouvir” no cérebro, do que de estimular a atividade neural. Isso faz sentido, uma vez que o uso a mais curto prazo do aparelho será para combater a paralisia, aplicativo que conta com o uso de computadores para reduzir as diferenças entre a atividade das áreas sensoriais e motoras do cérebro e as próteses. Mas também é o que caberia esperar de uma empresa descrita por um ex-funcionário como uma tentativa de ser, ao mesmo tempo, “uma empresa de tecnologia e de dispositivos médicos”. Como uma empresa de tecnologia, seu braço de dispositivos médicos não precisa ser lucrativo ou mesmo muito usado para gerar dados sobre a atividade neural que pertencerão legalmente ao Neuralink.

 

Informações em tempo real sobre a atividade neural são atualmente uma das formas de dados mais difíceis de adquirir: todo mundo tem um telefone, mas muito poucas pessoas têm implantes neurais. É por isso que os pesquisadores tratam os pacientes com implantes de estimulação cerebral profunda como recursos muito valiosos: eles costumam trabalhar simultaneamente em várias equipes de pesquisa executando experimentos nos quais os dados do cérebro coletados pelo dispositivo podem ser combinados com dados comportamentais. Ao combinar diferentes formas de dados — o tipo de informação que seu telefone coleta, por exemplo, e a atividade do córtex — os dois conjuntos adquirem mais significado. Ou seja, eles se tornam mais úteis para prever e direcionar o comportamento.

 

Embora não seja imediatamente discernível quais modelos de negócios surgirão para capitalizar os dados neurais, Rune Labs, uma empresa de tecnologia fundada por um ex-aluno do departamento de biociência da Alphabet, Verily Life Sciences, sugere uma resposta aproximada. A maioria dos fabricantes de dispositivos médicos são gigantes da velha economia e não têm recursos para selecionar a vasta quantidade de dados que seus dispositivos geram. O mesmo é verdade para pesquisadores universitários, que com suas bolsas de pesquisa raramente têm a oportunidade de comprar ou construir as ferramentas computacionais necessárias para correlacionar grandes quantidades de dados comportamentais e neurais. Confira a página do Rune Labs, que oferece a fabricantes de dispositivos e pesquisadores uma oferta: dê-nos acesso aos dados gerados por seus implantes neurais e, em troca, forneceremos acesso a computação e armazenamento de dados de última geração.

 

 

Desde o seu início, o Rune Labs desenvolveu uma variedade de aplicativos de telefone para coletar dados sobre o humor autorrelatado (pesquisas semelhantes estão em andamento no ramo da “psiquiatria digital”, para criar aplicativos que coletam dados sobre qualquer coisa, de modulação de voz a exercícios, que podem então ser combinados com informações sobre a atividade cerebral coletadas de dispositivos neurais). A única restrição ao uso de dados de dispositivos neurais por Rune é que eles precisam manter os pacientes anônimos. Isso se assemelha cada vez mais ao modelo de negócios que definirá os implantes neurais. Como Alik Widge comentou: “Com os implantes cerebrais, a ideia de que seus dados são o produto já é real. A Neuropace já disse que está avançando para ser menos uma empresa de implantes e mais uma empresa de dados cerebrais.”

 

De todas as especulações malucas que Elon Musk fez durante o lançamento do Neuralink, a previsão mais precisa foi sua piada que brincava que o dispositivo é “como se o seu telefone entrasse no cérebro”. Na verdade, é “algo semelhante”: o Neuralink é como um telefone no sentido de que é uma máquina construída para gerar dados. Embora o dispositivo não represente um grande avanço nas interfaces cérebro-máquina, e aplicativos que resolvam algo além dos distúrbios de movimento ainda levem décadas para aparecer, o que o Neuralink oferece é uma oportunidade de coletar dados sobre o cérebro e acoplá-los aos tipos de dados sobre nossas escolhas e comportamentos que já estão sendo constantemente coletados. O dispositivo é mais bem entendido não como uma ruptura com o passado, mas como uma intensificação das formas de vigilância e acúmulo de dados que passaram a definir nosso cotidiano.

 

Os críticos de tecnologia não deveriam acreditar nas fantasias divulgadas que pessoas como Elon Musk vendem; o controle da mente não está mais perto do que qualquer um dos sonhos do passado futurista, como carros voadores ou socialismo. Temos que nos preocupar é com algo muito mais decepcionante: que o futuro se pareça com o presente, só que melhor. Nesse sentido, Musk tem razão: o futuro já está aqui.

 

Leia mais