A inteligência artificial: o superego do século XXI. Artigo de Éric Sadin

Mais Lidos

  • “Os israelenses nunca terão verdadeira segurança, enquanto os palestinos não a tiverem”. Entrevista com Antony Loewenstein

    LER MAIS
  • Golpe de 1964 completa 60 anos insepulto. Entrevista com Dênis de Moraes

    LER MAIS
  • “Guerra nuclear preventiva” é a doutrina oficial dos Estados Unidos: uma visão histórica de seu belicismo. Artigo de Michel Chossudovsky

    LER MAIS

Revista ihu on-line

Zooliteratura. A virada animal e vegetal contra o antropocentrismo

Edição: 552

Leia mais

Modernismos. A fratura entre a modernidade artística e social no Brasil

Edição: 551

Leia mais

Metaverso. A experiência humana sob outros horizontes

Edição: 550

Leia mais

27 Fevereiro 2018

“É estranho observar que o fenômeno mais notável é sistematicamente ocultado, a saber: a figura humana deve se submeter às equações de seus próprios artefatos, e isso principalmente para responder a interesses privados e estabelecer uma administração supostamente infalível das coisas”, escreve Éric Sadin, escritor e filósofo, em artigo publicado por Página/12, 23-02-2018. A tradução é de André Langer.

Eis o artigo.

Só se fala disso. Ela concentra toda a nossa atenção. Toda semana está na capa das revistas. Em poucos anos, transformou-se na nova obsessão da nossa época. Na realidade, essa criatura com traços enlouquecedores tende a produzir uma espécie de tontura. Todos querem apropriar-se dela (empresas, políticos, centros de pesquisa...), uma vez que ela nos permite vislumbrar perspectivas econômicas ilimitadas, assim como a emergência de um mundo totalmente seguro, otimizado e fluido. Como os leitores já terão entendido, esse novo ídolo do nosso tempo é a inteligência artificial.

Não deixamos de falar sobre suas possíveis consequências, mas sem tentar identificar sua causa ou apreendê-la a partir de uma visão de conjunto. Pois bem, sua origem pode ser identificada: é uma mudança de status das tecnologias digitais. Pois elas trazem embutida uma função que, até recentemente, jamais teríamos imaginado. De agora em diante, alguns sistemas informáticos têm – seria melhor dizer: nós lhes damos – uma vocação singular e perturbadora: enunciar a verdade.

O digital erige-se como um poder 'aleteico', destinado a revelar a aleteia, ou seja, a verdade, no sentido definido pela filosofia grega antiga, isto é, como a manifestação da realidade dos fenômenos, em oposição às suas aparências. Erige-se como um órgão que permite avaliar o real de uma maneira mais confiável do que nós mesmos seríamos capazes e revelar-nos dimensões que até este momento estavam ocultas à nossa consciência.

A inteligência artificial destina-se a impor sua lei, orientando das alturas da sua autoridade as questões humanas. Não de maneira homogênea, mas em diferentes graus desde o nível do incitamento, através dos assistentes digitais pessoais que, por exemplo, aconselham uma dieta, passando por um nível prescritivo, no caso da concessão de um empréstimo bancário, até atingir níveis coercitivos e emblemáticos na área do trabalho, quando os sistemas ditarem às pessoas os gestos que devem executar.

Doravante, uma tecnologia adquire um “poder de injunção” que implica a progressiva erradicação dos princípios jurídico-políticos constitutivos da nossa base, isto é, o livre exercício da nossa capacidade de julgamento e de ação. Substitui estes últimos por protocolos destinados a modificar cada um dos nossos atos, insuflando e inclusive sussurrando-nos ao ouvido a direção correta que devemos seguir.

Em cada situação incerta, temos a tendência a avaliar vantagens e desvantagens. Neste caso, evocam-se geralmente, entre outros pontos, por um lado, os supostos progressos que o diagnóstico médico poderá sofrer e, por outro lado, a destruição anunciada de muitas profissões que exigem muitos conhecimentos. No entanto, é estranho observar que o fenômeno mais notável é sistematicamente ocultado, a saber: a figura humana deve se submeter às equações de seus próprios artefatos, e isso principalmente para responder a interesses privados e estabelecer uma administração supostamente infalível das coisas.

Mas, olhando mais de perto o que caracteriza a inteligência artificial, observamos que se trata da extensão ilimitada de uma ordem que faz de cada enunciação da verdade uma oportunidade para iniciar ações, o surgimento de uma “mão invisível automatizada” de um mundo governado pelo sistema do feedback, uma “data driven society” (sociedade baseada nos dados) na qual a menor ocorrência do real é analisada para ser monetizada ou orientada para fins utilitários.

A inteligência artificial incorpora de forma exemplar as chamadas “tecnologias do exponencial”, projetadas e colocadas no mercado a velocidades que crescem de forma regular e que transformam permanentemente setores cada vez mais numerosos da sociedade. Esta cadência frenética é validada, quase normalizada, por meio das noções de “tecnologias de ruptura” e de “disrupção”, de acordo com a linguagem (novlangue) iconoclasta da indústria do digital.

O ritmo cada vez mais frenético dos “ciclos de inovação” faz parte de uma naturalização da evolução técnico-econômica, chegando a compará-la a um “tsunami”, isto é, a um fenômeno contra o qual é quase impossível opor-se, dado que seria uma força assimétrica que contribui com essa analogia inadequada, para impor a doxa do inevitável. Mas o que é característico dos artefatos é que eles não correspondem a nenhuma ordem natural; pelo contrário, são o produto da ação humana e interferem nos assuntos humanos.

O exponencial aniquila o tempo humano da compreensão e da reflexão, assinando a sentença de morte da política, entendendo-se esta como a capacidade de tomar decisões em comum através da contradição, da deliberação e da concertação, de acordo com princípios que se situam na base de toda democracia.

Quando se quer mostrar vigilância sobre esses desafios, convoca-se a ética, como se brandir esta bandeira pudesse representar a suprema defesa que nos protegeria dos principais desvios. Mas, como devemos entender essa noção? Provavelmente, através de alguns princípios cardeais, tais como: decidir livremente as próprias ações, não reduzir a pessoa a um puro objeto mercantil e não ser reduzido a um corpo que age respondendo a sinais.

Geralmente, quando a ética é invocada, refere-se a um coringa que é usado de acordo com os tropismos de cada um. Impôs-se uma forma muito particular, baseada em uma “liberdade negativa”, nas palavras do filósofo Isaiah Berlim, entendida como protetora exclusivamente do direito dos indivíduos contra as pretensões potencialmente abusivas do poder.

Entende-se melhor por que, assim que tentamos ocupar-nos da ética, chegamos a infinitas perguntas relativas à proteção dos dados pessoais e à “defesa da vida privada”. Mas o essencial do que está em jogo escapa a esse conceito, isto é, os modos de existência e organização que emergem e que nunca se encontram sujeitos ao prisma ético quando deveriam sê-lo, já que representam uma ofensa à autonomia de nossa capacidade de julgamento.

Está na hora de dar prioridade à ação política, fazendo valer contradiscursos e contra-argumentos que testemunhem a realidade das coisas, assim como a rejeição de alguns dispositivos quando se considera que pisoteiam a nossa integridade e dignidade. Isso constitui a colocação em prática da ação humana que, como propunha Hannah Arendt, torna-se possível pelo uso obstinado da razão: “A faculdade de julgamento, em relação à qual se poderia dizer com justiça que é a capacidade mental mais política do ser humano. (...) Isso, em momentos cruciais, pode prevenir catástrofes”.

De sorte que, neste momento crucial, urge não deixar a palavra para os evangélicos da automatização do mundo e dar-se conta de que o surgimento de uma civilização dependerá do grau de exercício de nossa capacidade de julgamento em todas as esferas da sociedade, seja dirigida por sistemas normativos ou conduzida por indivíduos livres para decidir o curso de seus destinos, na consciência e na pluralidade.

Leia mais

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

A inteligência artificial: o superego do século XXI. Artigo de Éric Sadin - Instituto Humanitas Unisinos - IHU