“Vemos muito bem que o milagre da Inteligência Artificial não é para nós, mas para a indústria”. Entrevista com Éric Sadin

Revista ihu on-line

Diálogo interconvicções. A multiplicidade no pano da vida

Edição: 546

Leia mais

Cultura Pop. Na dobra do óbvio, a emergência de um mundo complexo

Edição: 545

Leia mais

Revolução 4.0. Novas fronteiras para a vida e a educação

Edição: 544

Leia mais

Mais Lidos

  • Como viver o Advento em tempos de quarentena

    LER MAIS
  • “Se vocês se sentirem como eminências, estarão fora do caminho”. As palavras do Papa Francisco aos novos cardeais quando também condenou a corrupção na Igreja

    LER MAIS
  • A vacina vai nos ajudar, mas não vai nos livrar das pandemias

    LER MAIS

Newsletter IHU

Fique atualizado das Notícias do Dia, inscreva-se na newsletter do IHU


29 Mai 2020

Desafiar a modernidade é um gesto reservado para muito poucos. Alguns agem assim pela nostalgia do passado, porque são como viúvos de um tempo que se foi, outros, ao contrário, desfazem os enganos, desarmam as narrativas e as miragens com as quais os sistemas submetem o presente do mundo. Éric Sadin pertence ao segundo grupo. Este filósofo francês faz parte do muito seleto grupo de pensadores que sustentam uma reflexão crítica em relação às novas tecnologias.

Sadin tem um pensamento próprio, uma reflexão autêntica sobre o que está realmente em jogo dentro da tecnoideologia. Seus livros são uma fonte imperdível de denúncia e reflexão e não um desses entediantes inventários sobre tecnologia que se limitam a enumerar, sem entender o fenômeno. A elegância de Éric Sadin está, entre muitos atributos, em que seus ensaios são em tempo real e não um posteriori crítico, um diagnóstico post-mortem. Sadin empreende sua reflexão no momento mais excessivo da fascinação humana pelas novas tecnologias.

Foi o que fez, em 2011, com o livro “La société de l'anticipation : le web précognitif ou la rupture anthropologique”. O livro foi publicado em francês dois anos antes que se tornasse conhecida a espionagem mundial orquestrada pelos serviços secretos norte-americanos e revelado pelo ex-agente da CIA e da NASA, Edward Snowden. Em 2013, publicou “La Humanidad aumentada” (Ed. Caja Negra), onde expôs como as capacidades cognitivas dos sistemas digitais estavam governando os seres e as coisas. Em 2015, surgiu “La vie algorithmique: critique de la raison numérique”, um ensaio onde Sadin abordava o processo de captação e exploração dos dados digitais, com a única finalidade de identificar correlações e comportamentos.

Em 2016, Caja Negra traduziu outro de seus livros mais contundentes, “La siliconización del mundo”. O livro era uma espécie de sentença desconstrutiva de um dos mitos mais colossais da modernidade: o Vale do Silício. Nele se forjou o modelo tecnoeconômico dominante aceito com uma mansidão global arrepiante. Era, nesse momento, um contra-ataque feroz contra um modelo que apresentava a si mesmo como um bom operador do progresso da condição humana, mas que, ao final, como com um conjunto das tecnologias da informação, só agenciava em benefício de interesses privados.

Em 2020, Caja Negra publicará, nas próximas semanas, outro ensaio de Sadin, no qual o pensador francês desmonta outra grande mentira do século XXI: a Inteligência Artificial. O título do ensaio declara, sem rodeios, suas intenções: “La Inteligencia Artificial o el desafío del siglo: Anatomía de un antihumanismo radical” (tradução de Margarita Martínez).

Onde os meios de comunicação batem o creme de um novo ser humano reparado de todas suas imperfeições, Sadin segue a pista passando para o outro lado do espelho. Encontra uma impostura monumental, cujos conteúdos disseca nesta entrevista realizada em Paris. Desdobrou-se uma tragédia global muito enriquecedora que dá razão às análises de Éric Sadin. A pandemia de coronavírus desarmou todas as retóricas sobre a utilidade humana das novas tecnologias. Não serviram nem para identificar o vírus, nem para os passos posteriores da infecção.

A entrevista é de Eduardo Febbro, publicada por Página/12, 24-05-2020. A tradução é do Cepat.

Eis a entrevista.

A Inteligência Artificial é, nos meios de comunicação, nada menos que o novo El Dourado do horizonte humano. No entanto, você vê nela um processo de desumanização, ao mesmo tempo que um convencido discurso salvador e um transtorno acentuado dos comportamentos humanos.

Há muitos anos se expandiu a ideia de que a nova luta econômica mundial se concentrava na Inteligência Artificial. Havia duas ideias implícitas. A primeira é que a Inteligência Artificial era o horizonte econômico inescapável. A outra, que a Inteligência Artificial ofereceria um montão de soluções a muitíssimos problemas individuais e coletivos. Esta ideia se tornou, entre 2015 e 2020, a nova doxa mundial que era preciso apoiar de forma massiva. Produziu-se, em suma, uma espécie de excitação coletiva, a partir da qual se estabeleceu uma espécie de verdade comprovada, como um horizonte obrigatório.

Nada pode ser menos verossímil. São discursos entusiastas e luminosos muito distantes da realidade. Trata-se de uma impostura. Desde o ano 2010, estamos vivendo uma mudança de estatuto. As tecnologias digitais deixaram de ser uma ferramenta destinada a conservar, indexar e manipular a informação para ter outra missão: se encarregam de fazer uma perícia do real. Ou seja, tem por vocação nos revelar, muitas vezes em tempo real, dimensões que dependiam de nossa consciência.

Podemos recorrer ao exemplo do aplicativo Waze, que se encarrega de destacar o melhor percurso para se deslocar de um lado para o outro. Essa capacidade de fazer perícias em velocidades infinitamente superiores às nossas capacidades humanas caracteriza a Inteligência Artificial. O sentido oculto em relação a isso está em que a Inteligência Artificial é como uma instância que nos diz a verdade. E a verdade sempre reveste uma função performática. Por exemplo, a verdade religiosa enuncia dogmas e interpela a obedecê-los. A Inteligência Artificial enuncia verdades com tal força de perícia que nos interpela a obedecê-las.

Estamos, então, vivendo um momento onde as técnicas se dotam de um poder de comando. O problema está em que nos submetemos à perícia, nos conformamos com isso e executamos as ações correspondentes. É a primeira vez na história da técnica que existem sistemas com o poder de mandar. O que ocorre de gravíssimo é que isto tem como objetivos responder a interesses privados ou organizar a sociedade de forma mais otimizada.

Este poder é, não obstante, apenas uma etapa desse processo, que funciona como uma cadeia de comando.

Sim, a primeira coisa é o que acabo de descrever: a técnica que dá ordens. Existe também o estado incitativo, que é como um primeiro nível brando, digamos. Esse estado incitativo começou a se desenvolver com o surgimento dos Smartphones e os aplicativos que nos aconselhavam sobre coisas cada vez mais amplas da realidade. Faça isto e não aquilo, vá a este lugar que é melhor que o outro. Isto começou com o iPhone e estava ligado à geolocalização. Sua missão consistia em incitar as pessoas a consumir.

É lícito reconhecer que toda a esfera tecnoindustrial deu mostras de uma genialidade sem igual. Inventaram constantemente coisas novas, forjaram discursos, souberam difundi-los e foram e são uma instância de sedução desproporcional. Alguns anos depois, surgiram os assistentes digitais virtuais, é o caso do aplicativo Siri, por exemplo. Depois apareceram os alto-falantes conectados, cuja particularidade é a de manter uma relação quase natural, íntima, corpórea, com os usuários, graças ao conhecimento evolutivo de nossos atos. É perturbador.

A base destes sistemas é o mesmo: conduzir-nos a decidir isto ou aquilo em função da verdade enunciada. Além disso, não faz muito tempo que esses sistemas falam. O poder de influência destes dispositivos é impressionante. Falam, fazem perícias, formulam, sugerem e dão ordens. O grupo L’Oreal produz espelhos conectados que, conforme a análise de um rosto no espelho, aconselha a usar tal produto, consumir aquele outro ou ir descansar na montanha.

A primeira consequência destas tecnologias é a mercantilização geral da vida. Isto permite ao liberalismo econômico não se ver confrontado por nenhuma barreira e poder mercantilizar sem travas o conhecimento de nossos comportamentos. Quase a cada segundo e em escala planetária, o liberalismo nos sugere a melhor ação possível, ou seja, a operação mercantil mais pertinente. Vemos muito bem que o milagre da Inteligência Artificial não é para nós, mas para a indústria.

É, em suma, um grande mercado regulado pela tecnologia e a informação que estes dispositivos nos roubam.

Todos estes aparatos incitativos estão destinados a que o liberalismo se desenvolva sem travas. Na mesma lógica, do estado incitativo passamos ao estado imperativo. Em campos como o dos recursos humanos, já existem robôs que conversam com os candidatos a um posto e que, em seguida, decidem entre quatro ou cinco, quem são os melhores em função de critérios de otimização: obedientes, criativos, trabalhadores, etc., etc., etc. Outro problema está em que estes sistemas não são estáticos, aprendem e se desenvolvem e, por conseguinte, terão mais poder. Também encontramos esse estado imperativo nos bancos e seguros. Hoje, ninguém acredita que são os seres humanos que decidem sobre as tarifas ou a concessão de um crédito.

Depois, há outro estado que deveria ser objeto de muito mais estudos e mobilizações: trata-se do estado coercitivo. Este estado se desdobra, sobretudo, no mundo do trabalho, mediante o desenvolvimento de sensores que supervisam e avaliam a pessoa constantemente e, em tempo real, medem as situações e aconselham sobre os gestos que devem fazer. Na Amazon, por exemplo, os funcionários não recebem ordens de um chefe, mas de sinais provenientes destes sistemas que não só reduzem a subjetividade humana, mas também, além disso, reduzem os trabalhadores à categoria de robôs de carne e osso. Esta Inteligência Artificial não só possui capacidades de análise, mas também de retroação, ou seja, indicar, sugerir, ordenar, prescrever.

Graças ao canto da sereia de certos meios de comunicação – o caso do ‘El País’ na Espanha é vergonhoso –, essas dimensões perversas são invisíveis. As pessoas continuam acreditando que a Inteligência Artificial é uma ferramenta de progresso humano quando, no essencial, é um instrumento a serviço das empresas.

Efetivamente, tudo isto não se vê... não se vê a extensão da Inteligência Artificial em nossas sociedades. Desde 2010, fala-se muito acerca de quantos empregos ou profissões serão destruídos com a Inteligência Artificial, mas se fala muito pouco das novas modalidades de gestão que a Inteligência Artificial introduziu nas práticas de hoje, no seio das empresas. A velocidade exponencial em que tudo isto se desenvolve, não quer apenas dizer que é cada vez mais rápida, mas, antes de tudo, que nos nega o direito de nos determinar livremente na pluralidade da contradição. Estamos imersos em um movimento exponencial de todas as coisas.

Nos anos 1970, a automação das fábricas se desenvolveu nos postos de trabalho muito expostos ou nocivos. Se podia dizer que, ao menos, era por uma boa causa: a saúde, a preservação dos operadores do perigo e a proteção da psicologia das pessoas. Ao contrário, a substituição que se expande atualmente concerne a ofícios ou profissões onde se requer muitas competências. As pessoas tiveram que estudar durante anos e anos, com paixão. Hoje, são substituídas por sistemas de Inteligência Artificial.

Existe então uma dimensão mítica que resulta de uma hábil construção do liberalismo e não de uma necessidade ou de um progresso humano.

Sim. A Inteligência Artificial veicula a promessa de ser chamada a substituir nossas inteligências naturais. Não, é um abuso de linguagem. O que se busca aqui é colocar os assuntos humanos sob o duplo imperativo da mercantilização integral da vida e de uma otimização contínua de nossas vidas coletivas. Isso é o que está sendo implementado.

Convoco a que se façam valer outros modos de racionalidade frente a este modelo. Com o modelo de racionalidade da Inteligência Artificial se promove um anti-humanismo radical, com o qual se deseja instalar uma espécie de utilitarismo generalizado e higienismo social. A Inteligência Artificial nos desumaniza porque limita nossa capacidade de avaliar e escolher livremente, trava a livre expressão e a autonomia humana em benefício de sistemas que propagam sua própria luz, algo muito diferente da ideia de soberania e autonomia do indivíduo que surgiu durante o Século da Luzes. Esse é o coração do anti-humanismo reinante.

No entanto, um cataclismo ocorreu, e agora bem real: a expansão da pandemia de coronavírus veio para decapitar todas as mitologias da Inteligência Artificial e as tecnologias da informação. Não serviram para nada, em nenhuma das fases da crise sanitária mundial.

Absolutamente! Justamente quando há organismos de segurança que vigiam tudo, por todas as partes, quando estamos supostamente a par de tudo de forma imediata, assistimos à vulnerabilidade da informação. Sabíamos de tudo instantaneamente, graças a um sistema de vigilância e de alarme planetário, mas o vírus surpreendeu a todas as potências. Produziu-se um colapso do mito. A vontade de controlar a informação sobre todas as coisas fracassou.

A pandemia foi como uma provocação, ao mesmo tempo absurda e trágica, à nossa vontade de controlar tudo o que impera desde finais da Segunda Guerra Mundial. O desenvolvimento das tecnologias digitais apontava para a ampliação de nosso controle, mas o coronavírus demonstrou seu estado de invalidez, demonstrou que as soluções não se originam no controle absoluto das coisas, mas na atenção às falhas, com uma sensibilidade na relação com as coisas.

Outro dos mitos que se rompem é o desse delírio que circula, há alguns anos, sobre o transumanismo. O sentimento de hiperpotência que caracterizou as indústrias digitais, nos últimos 10 anos, foi reduzido a nada. A tecnologia não pode reparar todos os defeitos humanos. Criou-se o mito em torno dos empresários ligados às novas tecnologias, como se fossem capazes, por si sós, de modificar o curso da vida terrestre. Isso é o que vimos. O transumanismo promovido pelo Vale do Silício criaria um super-homem a partir de tecnologias milagrosas. Esses discursos delirantes não mereciam receber tanta importância.

O transumanismo e os evangelhos tecnológicos foram engolidos pelo estado mais elementar da condição humana: a doença.

A velocidade com a qual as tecnoideologias irradiaram nos proibiu praticamente de formular uma crítica, como se fosse um destino inescapável da condição humana. O transumanismo postula a ideia de que Deus não encerrou a criação, que o mundo está cheio de defeitos e que o primeiro vetor desses defeitos somos nós, você, eu, os seres humanos, que não seriam mais que dejetos, que seriam constituídos por uma falibilidade fundamental. As tecnologias exponenciais têm, então, essa missão: reparar os defeitos. Esse é o sonho do homem perfeito.

Contudo, nossa missão não é essa, mas, pelo contrário, não negar o real e buscar elaborar uma harmonia justa. O coronavírus nos ensina que chegou o momento de deixar de buscar submeter a realidade. Devemos partir da existência e não querer controlá-la a todo o tempo, devemos apreciá-la em função de nossos princípios, ou seja, a dignidade, a solidariedade. As projeções futurológicas não têm lugar.

É preciso acabar de uma vez por todas com essa insuportável ideologia do futuro que ocupou todos os espaços. É preciso acabar com o discurso das promessas e se ocupar mais de uma política do presente, uma política do real, do que se constata. A partir dessas condições e de nossos princípios decidimos como construir melhor e com incertezas nosso futuro comum. Não é a mesma coisa um futuro comum que um futuro de fantasias que não faz mais do que responder a interesses tão estreitos, como privados.

 

Leia mais

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

“Vemos muito bem que o milagre da Inteligência Artificial não é para nós, mas para a indústria”. Entrevista com Éric Sadin - Instituto Humanitas Unisinos - IHU

##CHILD
picture
ASAV
Fechar

Deixe seu Comentário

profile picture
ASAV