“Estaremos cercados por fantasmas que administrarão nossas vidas”. Entrevista com Éric Sadin

Revista ihu on-line

Diálogo interconvicções. A multiplicidade no pano da vida

Edição: 546

Leia mais

Cultura Pop. Na dobra do óbvio, a emergência de um mundo complexo

Edição: 545

Leia mais

Revolução 4.0. Novas fronteiras para a vida e a educação

Edição: 544

Leia mais

Mais Lidos

  • Pedro, alguém que nos fez acreditar na grandeza de sermos Rede

    LER MAIS
  • Dano colateral: “o pior dos monstros” está se propagando e não é o coronavírus

    LER MAIS
  • As mulheres e o futuro da Igreja. Artigo de Joseph Moingt

    LER MAIS

Newsletter IHU

Fique atualizado das Notícias do Dia, inscreva-se na newsletter do IHU


15 Julho 2020

Éric Sadin é um dos principais críticos da tecnologia digital e seu impacto nas sociedades contemporâneas. Seus ensaios “La humanidad aumentada” (Caja Negra, 2017) e a “Silicolonización del mundo” (Caja Negra, 2018) foram recebidos com entusiasmo pela crítica e o público argentino. Em junho, a editora Caja Negra publicou o último livro do escritor e filósofo francês: “La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical”, com tradução [para o espanhol] de Margarita Martínez.

A entrevista é de Facundo Carmona, publicada por Clarín-Revista Ñ, 13-07-2020. A tradução é do Cepat.

Em “La inteligencia artificial”, Sadin amplia a análise em relação à forma como os sistemas de gestão algorítmica tomam decisões por nós e promovem o mandato de poder às máquinas, e questiona a mudança de estatuto das tecnologias digitais, que abandonam de maneira definitiva seu destino protético para se colocar como sistemas capazes de enunciar a verdade.

Em direção contrária ao esforço da filosofia da técnica contemporânea de refletir em sintonia com a obra de Gilbert Simondon sobre uma sociedade de máquinas na qual o homem cumpre o papel de mediador entre objetos técnicos, Sadin adverte sobre “um alinhamento dos desempenhos das pessoas em relação aos desempenhos dos sistemas”. E recupera nas ideias decrescentistas de Jacques Ellul o alerta de que “o humano não se situa de modo algum ‘entre as máquinas’, mas (se submete) à sua cadência e a partir de agora ao seu ditado”.

Eis a entrevista.

O que acarreta que a inteligência artificial possa enunciar a verdade?

O que caracteriza a inteligência artificial é que é um poder de expertise que se aperfeiçoa sem descanso. Os sistemas agora são capazes de analisar situações de ordem cada vez mais diversas e de nos revelar estados de fato, entre os quais há alguns que escapam de nossa consciência. E esta análise é realizada em uma velocidade que supera sem medida de comparação algumas de nossas próprias capacidades cognitivas.

Vivemos uma mudança de estatuto das tecnologias digitais. Já não estão destinadas apenas a nos permitir manipular a informação com diferentes finalidades, mas nos transmitem a realidade dos fenômenos para além das aparências. Os resultados das análises destes sistemas envolvem um valor de verdade na medida em que precisamos iniciar de imediato ações que correspondam ao sentido das conclusões a que chegam. E isto é o que distingue a exatidão da verdade. A primeira pretende restituir um suposto estado objetivo, ao passo que a segunda nos chama, pelo mero princípio de sua enunciação, a que nos ajustemos a ela mediante gestos concretos, dado que toda verdade enunciada esconde uma dimensão performativa.

Neste sentido, vivemos a “guinada imperativa da técnica”. Trata-se de um fenômeno único na história da humanidade que nos permite ver como as técnicas nos impõem atuar de tal ou qual maneira. As tecnologias digitais, as ferramentas de auxílio à decisão, se tornaram instâncias de decisão em si.

De certo modo, não estaremos destinados tanto a dar instruções às máquinas, como a receber instruções delas. Isto pode ir desde um nível moderado e incitativo, como por exemplo o que opera em um aplicativo de coaching esportivo, que sugere tal complemento alimentar, até um nível prescritivo, no caso do setor de seleção de pessoas que agora se vale de sistemas digitais que escolhem por si mesmos os candidatos. O livre exercício de nossa faculdade de avaliação se vê substituído por protocolos destinados a orientar e enquadrar nossos atos. Enxergamos por acaso a ruptura jurídico-política que está acontecendo?

Que impacto possuem estes dispositivos, capazes de avaliar e tomar decisões, na emergência de uma nova racionalidade econômica e social?

As ciências computacionais voltaram a se vincular, há uns dez anos, com o modelo neuronal que remonta à cibernética. Baseia-se no postulado segundo o qual o cérebro humano encarna uma forma organizacional perfeita de tratamento da informação e de captura do real. Desse modo, constituiu-se um léxico completo que toma elementos emprestados do registro das ciências cognitivas. Fala-se em chips “sinápticos”, “neuromórficos”, de “processos neuronais”.

No entanto, não estamos de modo algum diante de uma réplica de nossa inteligência, nem sequer de maneira parcial, mas diante de um abuso da linguagem que nos faz acreditar que a inteligência artificial estaria habilitada, como se isso fosse natural, para substituir nossa inteligência, em prol de garantir uma melhor condução de nossos assuntos. E esta é a razão pela qual convém voltar a questionar o termo “inteligência artificial”.

Na verdade, trata-se, com mais precisão, de um modo de racionalidade que busca otimizar qualquer situação e que responde a um espírito estritamente utilitarista e que busca satisfazer todos os tipos de interesses. A respeito disto, é impactante observar que agora, no mesmo momento em que as técnicas estão destinadas a nos dizer a verdade, estão dotadas da faculdade da palavra, o que se torna emblemático naqueles recintos conectados a alto-falantes com os quais mantemos intercâmbios orais. Esta disposição também está em ato nos chatbots, os “agentes de conversação”, ou nos assistentes digitais pessoais que foram concebidos para nos guiar acerca de diversas circunstâncias de nossas vidas cotidianas.

Estaremos cercados cada vez mais de fantasmas encarregados por administrar nossas vidas. A indústria do digital pretende estar presente continuamente ao nosso lado para nos apontar, em cada ocasião propícia, a ação correta que deveríamos empreender. A luta industrial vindoura será testemunha de uma concorrência pela presença, e cada ator se esforçará para impor indefinidamente seu império espectral à custa de todo o resto.

O Estado, as empresas do complexo científico-técnico e os algoritmos deveriam ter o mesmo estatuto jurídico diante da lei?

Temos a lamentável ingenuidade de acreditar nos poderes de uma regulamentação que se invoca permanentemente, como se pudesse funcionar como contrapeso às evoluções tecnológicas. Baseia-se na ideia de que a função do legislador consiste em nos proteger de certos desvios. Mas esta é uma visão enviesada que não corresponde à realidade, porque estamos vivendo, e assim será de agora em diante, sob o regime de um “ordoliberalismo” que nos mostra como, no seio das democracias liberais, são redigidas leis em favor de sustentar a economia dos dados, das plataformas e da inteligência artificial. E neste aspecto, os responsáveis políticos dão mostras de uma submissão culpável em relação ao mundo tecnoeconômico.

De que forma as lógicas tecnoeconômicas determinam um princípio de governança que tem valor de constituição política?

Somos testemunhas da realização em ato do sonho dos saintsimonianos, que almejavam uma “administração saudável das coisas”. Os responsáveis políticos pretendem se aproveitar das virtudes dinâmicas da inteligência artificial para instaurar uma governança automatizada de numerosos setores da sociedade: as relações entre os cidadãos e a administração, os transportes, a educação, a justiça. Esta lógica oferece a vantagem de requerer menos agentes e de gerar custos mais baixos.

Daí a importância do open data para uma grande quantidade de governos que, graças à disposição dos dados públicos, podem deixar ao regime privado a responsabilidade de organizar o avanço dos assuntos coletivos, levando a uma mercantilização da vida pública. A cidade inteligente é emblemática desta ideologia que nos permitiria ver como os sistemas regulamentam “o melhor possível” nossa vida cotidiana. Prevalece uma metáfora biológica, permite-se aos sistemas atuar no seio de um mundo perfeito porque é um mundo sem signatário e regido por sinais. E neste ponto assistimos à liquidação em curso do político entendido como um compromisso de escolhas incertas, como a necessidade do conflito e da deliberação.

Depois de “La humanidad aumentada”, Jacques Ellul retorna com força em sua obra. Em que ponto se localiza nessa linhagem?

Jacques Ellul soube calibrar muito rápido a envergadura do conjunto técnico-industrial do pós-guerra, que se esforçava sem descanso em intensificar as lógicas produtivistas, por edificar modos de organização sempre mais otimizados, por mobilizar orçamentos massivos destinados aos campos militar e da energia atômica, contribuindo para impor à sociedade escolhas estruturantes, sem invocar o consentimento informado de seus membros. Não é por acaso que esta obra lúcida e argumentada, deliberadamente posicionada na contracorrente, não tenha encontrado todo o eco que merecia no início da sequência frenética dos “Trinta Gloriosos”, e que se tenha visto inclusive depreciada por certos setores questionados.

Mas o que é diferente entre a época de Jacques Ellul e a nossa é que, desde então, certos limites foram cruzados. E hoje isto adota três formas. Primeiro, o alcance totalizador das tecnologias digitais, destinadas a se imiscuir, a longo prazo, em todos os segmentos da vida. Depois, seu poder de inflexão dos comportamentos, já que de agora em diante estão destinadas, ao menos uma parte delas, a orientar a ação humana. E finalmente o fato de que a técnica, enquanto campo relativamente autônomo, hoje desapareceu. Apenas existe um mundo tecnocientífico contingenciado às instâncias econômicas que ditam as trajetórias que deve adotar.

Estamos desamparados diante da velocidade de alguns desenvolvimentos que nos são apresentados como inescapáveis, e isto nos impede de nos pronunciar com plena consciência. Enquanto os evangelistas da automação do mundo não param de empreender múltiplas ações, nós parecemos afligidos pela apatia. Então, antes de mais nada, seria conveniente contradizer aos tecnodiscursos e colocar em primeiro plano aqueles testemunhos que surgem da realidade do próprio terreno, lá onde esses sistemas estão operando, nos lugares de trabalho, nas escolas, nos hospitais...

Deveríamos também manifestar nossa rejeição em relação a alguns dispositivos, quando consideramos que ultrajam nossa integridade e dignidade. Contra este assalto anti-humanista, façamos prevalecer uma equação simples, mas intangível: quanto mais se conta com a desapropriação de nosso poder de atuar, mais ativos convém que sejamos.

 

Lei mais

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

“Estaremos cercados por fantasmas que administrarão nossas vidas”. Entrevista com Éric Sadin - Instituto Humanitas Unisinos - IHU

##CHILD
picture
ASAV
Fechar

Deixe seu Comentário

profile picture
ASAV