“A onipresença do digital está destruindo os tecidos de confiança que mantiveram o conjunto social unido, mas a uma velocidade tal que instituições e tomadores de decisão não conseguem se adaptar. Sendo assim, é pouco o que podem fazer para repará-los. Essas dinâmicas nos conduzem a um futuro que será marcado por uma estrutura tecnológica com capacidades potencialmente absolutas, que precisam ser humanizadas”, escreve Enzo Giraldi, coordenador do grupo Cibersociedade, Ciberdefesa, Cibersegurança, Proteção de Dados Pessoais (C3PD), da Universidade Nacional de San Martín (UNSAM), em artigo publicado pela revista latino-americana de ciências sociais Nueva Sociedad, Nº 283, Setembro-Outubro/2019. A tradução é do Cepat.

Eis o artigo.

As revoluções políticas mais importantes estão ocorrendo em laboratórios e empresas de tecnologia. Lá está se decidindo se o futuro estará em nossas mãos e de que modo. Daniel Innerarity [1]

Introdução

Que tipo de liderança exigirá uma realidade que se articula cada vez mais por consensos que se estabelecem nas redes? Como se construirá o comum, essa amálgama de prioridades, propósitos e interesses que tornam possível a sociedade, na era da individuação? Como serão tomadas as decisões em uma realidade marcada pela instantaneidade do toque na tela? As ferramentas digitais se expandiram para todas as ordens existenciais e criaram um cotidiano reticular no qual a comunicação flui descontroladamente. Os líderes políticos decidirão pressionados pelo imediatismo, esmagados por uma superinformação saturada de um barulho que não dá trégua para o exercício introspectivo.

A digitalização da vida terá impacto em todas as dimensões das relações sociais. Apenas como exemplo: qual será o futuro da democracia ou, de modo mais simples, como exerceremos nosso elementar direito de decidir livremente se, como anunciado, a combinação de desenvolvimentos em inteligência artificial e biotecnologia não apenas nos permitirá interpretar a informação que surge de nossa vida cotidiana e privada, mas também de manipular nossas emoções e comportamentos?

A era digital

A velocidade, extensão e intensidade exibidas pela dinâmica da inovação tecnológica estão modificando a natureza e os padrões que norteiam as relações sociais. Esse massivo processo de digitalização de informações sobre as pessoas se tornou a construção de uma “infosfera”, imponente caixa de ressonância que mescla e reconfigura constantemente as ideias, as emoções e os impulsos emitidos por um número infinito de usuários na rede.

Esse processo está incorporando progressivamente desenvolvimentos de inteligência artificial que são chamados a aprofundar e complexificar as mudanças em marcha. São ferramentas que processam informações através de algoritmos, em quantidades e a uma velocidade que excede a capacidade do cérebro humano. A inteligência artificial traz consigo a possibilidade de autoaprendizado, ou seja, a capacidade dos algoritmos de incorporar permanentemente novas informações e refinar automaticamente seus recursos para analisá-las, o que permite que as máquinas gerem seu próprio capital cognitivo.

O conceito de singularidade, aplicado no campo da tecnologia, faz referência a esse momento, que se torna crucial instância na qual as máquinas poderiam alcançar uma inteligência igual ou superior à do ser humano. Ou seja, são máquinas (computadores, robôs, softwares) capazes de aprender por conta própria e se aperfeiçoarem, susceptíveis a inaugurar um inédito processo de criação de inteligência. A magnitude desse processo motivou Henry Kissinger, um dos mais importantes arquitetos da ordem mundial do século passado, a expressar o seguinte:

“A tecnologia moderna apresenta desafios para a ordem e a estabilidade mundial que não têm precedentes (...). Pessoalmente, acho aquilo que a inteligência artificial traz aparelhado é crucial (...). Que nossas próprias criações possuam uma capacidade de análise superior à nossa é um problema que devemos resolver” [2].

A capacidade de autoaprendizagem ainda não é conceitual, mas se produz em termos de resultados matemáticos, por meio de ajustes que estão redesenhando os algoritmos. Estes, como representação matemática das informações, não reconhecem o contexto nem a perspectiva histórica, portanto, seus resultados derivam de um procedimento de processamento de dados que se concretiza em função dos objetivos e interesses do programador.

Capitalismo e vigilância

A sociedade em rede faz a comunicação fluir incessantemente, disseminando os traços da vida das pessoas pelo tecido tecnológico. A exposição pública e a vida privada podem ser gravadas e coletadas como dados, que podem ser interpretados e registrados para influenciar desejos, aspirações e necessidades. A manipulação de grandes volumes de dados (big data) aciona uma lógica de acumulação que visa prever o comportamento humano para maximizar lucros e melhorar a penetração e o controle dos mercados. A informação sobre e das pessoas se tornam um insumo estratégico para a criação de riqueza e poder.

A tecnologia de poder que deriva dessa nova lógica de acumulação monetiza a intimidade e prioriza, sobre a propriedade dos meios de produção, a dos meios de manipulação de comportamentos [3]. Assim, quanto mais informações sobre uma pessoa estiverem disponíveis, mais possibilidades existem para influenciá-la.

Aponta Shoshana Zuboff: “O assalto sobre os dados acerca do comportamento cotidiano das pessoas é tão amplo que as dúvidas já não podem se circunscrever ao conceito de privacidade e seus efeitos. Agora estamos enfrentando outros tipos de desafios, que ameaçam as próprias bases da ordem liberal-moderna. São desafios que afetam a integridade política das sociedades e o futuro da democracia” [4].

Os algoritmos podem identificar medos, desejos e necessidades, e essas informações podem ser usadas contra os usuários. O uso abusivo desses dispositivos de vigilância e manipulação pode inviabilizar a democracia representativa e criar uma “ditadura da informação” [5].

Nesse sentido, Daniel Innerarity especifica: “Os três elementos que modificarão a política deste século são os sistemas cada vez mais inteligentes, uma tecnologia mais integrada e uma sociedade mais quantificada (...) A grande questão hoje é decidir se nossas vidas devem ser controladas por poderosas máquinas digitais e em que medida, como articular os benefícios da robotização, automação e digitalização com os princípios de autogoverno que constituem o núcleo normativo da organização democrática das sociedades [6].

O que acontecerá quando, em alguns anos, o cruzamento entre ferramentas de inteligência artificial e biotecnologia abrir as portas para formas ainda mais inovadoras, intrusivas e sofisticadas de controle social?

Yuval Harari alerta sobre essa distopia: “O auge da inteligência artificial poderá eliminar o valor econômico e político da maioria dos seres humanos. Ao mesmo tempo, as melhorias em biotecnologia talvez possibilitem que a desigualdade econômica se traduza em desigualdade biológica” [7].

A aplicação de recursos de inteligência artificial produzirá outro efeito chamado a gerar reações sociais e políticas: o aumento do desemprego devido à substituição da mão de obra tradicional. Essas tecnologias vão atrapalhar a relação entre capital e trabalho nas economias de todo o mundo. Mesmo quando gerarem novos empregos, se espera que o façam em uma proporção muito menor do que destruirão.

Psicopolítica digital

A construção tecnológica da personalidade padroniza o ser humano, o distância do imprevisível, o sistematiza e codifica, pautando as reações, reconfigurando as crenças e afetando o livre exercício do julgamento pessoal, instância germinal e indispensável para o ato político. O espaço político é reduzido e as margens para o exercício de liderança se comprimem. O ser digital funciona essencialmente como um ser individual, protagonista de associações fugazes e instáveis. É o sujeito de uma dinâmica de atomização social que desmonta o sentido abrangente do público.

A organização reticular fragmenta o espaço de participação política e conspira contra a criação de dinâmicas de consenso sobre interesses coletivos. A segmentação do público favorece a associação de vontades em torno de objetivos parciais de nicho. Dessa maneira, as prioridades se afastam do comum e são colocadas no plano grupal, temporário e superficial.

O meio digital mergulha o líder político em uma realidade sem privacidade, na sociedade da comunicação e da visibilidade-transparência. Expõe-no, torna-o visível. A visibilidade é o resultado natural das interações na rede e a busca pela transparência é uma premissa que o cidadão digital internalizou como fetiche, mas que, no extremo de um ideal absoluto, afeta a tomada de decisão.

A excessiva exposição pode atrofiar ou oprimir a vontade do tomador de decisão, obscurecer suas convicções e enfraquecer sua predisposição para expor suas crenças. Então, esta exposição põe em desconfiança o líder e tomador de decisão, põe em questão a determinação do condutor, afetando uma dimensão estratégica da política. Como salienta Byung-Chul Han: “O imperativo da transparência serve sobretudo para desnudar os políticos, desmascará-los, torná-los objeto de escândalo. A demanda por transparência pressupõe um espectador que se escandaliza” [8].

O ritmo da comunicação constante, espontânea e instável divide as ideias em opiniões, o que diminui a elaboração ideológica. Enfraquece a necessidade de associação e constrói retraimento. Desaparece a ideia de conjunto. Éric Sadin resume a questão do seguinte modo: “A inovação digital modifica e modela o universo cognitivo, assim fragiliza a possibilidade de ação política, esta entendida como o envolvimento voluntário e livre dos indivíduos na construção do bem comum” [9].

A subjetividade que constrói a sociabilidade em rede é autorreferencial. A representação autoreferencial é a representação de si mesmo, é a autorepresentação que enfraquece a ideia de comunidade e os sentimentos de empatia, que paralisa o senso de adesão, a disposição à lealdade, necessários para articular a representação.

A crise de representação é outra das dimensões estratégicas da política que são colocadas em questão. São precisos, novamente, os termos de Han: “Dirigimo-nos para a época da psicopolítica digital. Avança de uma vigilância passiva para um controle ativo. Isso nos precipita a uma crise de liberdade com maior alcance, pois agora afeta a própria vontade livre. O big data é um instrumento psicopolítico muito eficiente que permite adquirir um conhecimento integral da dinâmica inerente à sociedade da comunicação. Trata-se de um conhecimento de dominação que permite intervir na psique e condicioná-la a um nível pré-reflexivo” [10].

Pulsão tecnototalizadora

Quarta Revolução Industrial, Revolução da Informação, Revolução Digital: diferentes denominações para descrever o crescente poder global de uma ordem corporativa concentrada, protagonizada por um grupo de megaempresas que alcançaram um nível de influência sistêmica e estão mudando a escala do modelo global de negócios.

Empresas como as estadunidenses Google, Amazon, Facebook, Apple, Microsoft, Tesla, Netflix, Airbnb e Uber e as chinesas Baidu, Alibaba e Tencent impulsionam uma mudança de paradigma no capitalismo global. Participam de um exclusivo clube de gigantes ambiciosos, líderes em inovação, que estão protagonizando um acelerado e preciso processo de acumulação de poder político, econômico, cultural e logístico para se tornarem os criadores de um inédito “modelo de industrial-civilizatório” [11].

Sete das dez maiores empresas globais em capitalização de mercado no mundo são monopólios tecnológicos. Por exemplo, o valor de mercado da Microsoft atingiu trilhões de dólares este ano, uma quantia que compete com o PIB do México, a décima quinta economia mundial.

Para vislumbrar o grau de influência que alcançaram essas empresas, é útil tomar como exemplo o Twitter, um serviço de mensagens na Internet que, calcula-se, faz circular cerca de 500 milhões de mensagens por dia. Se partimos da premissa de que cada tuite contém cerca de 20 palavras em média, o volume de conteúdo publicado no Twitter, em um único dia, é equivalente ao que, estima-se, produziu um jornal tradicional de uma cidade grande, como por exemplo, o The New York Times, em 182 anos.

As grandes empresas de tecnologia se expandem colocando sob controle novas áreas da economia e usando recursos tecnológicos que otimizam as condições de conectividade e a velocidade dos processadores. Estima-se que as velocidades de cálculo duplicam a cada 18 meses e que a conectividade se duplica em um ritmo apenas mais lento.

Essas megaempresas interpretam e executam, de fato, uma ideologia universalizadora tecnoliberal que lhes serve como argumento de legitimação. Postulam a razão tecnocientífica que apresenta a tecnologia como ferramenta definitiva, aquela que resolverá os problemas pendentes do ser humano.

A ontologia tecnolibertária consiste em desqualificar a ação humana em benefício de um ser computacional, que se julga superior. A inteligência artificial representa o maior poder político da história, já que a convoca a personificar uma forma de superego dotado de uma presunção de verdade que orienta nossas ações, individuais e coletivas, para o melhor dos mundos possíveis [12].

A razão tecnoliberal desencadeia um capitalismo precarizador, extremo, que ao mesmo tempo em que entroniza uma cotidianidade sob a ação de indivíduos sem identidade, nem vínculos consolidados, desintegra as formas de organização e convivência inerentes à comunidade humana, esvaziando de sentido as estruturas de solidariedade comunitárias, da família aos sindicatos, escola, universidade e, por fim, o Estado.

Conclusões

Os excessos do império da conectividade inibem as possibilidades de reflexão, o imediatismo causa insegurança e enviesa a introspecção. O desenvolvimento do conflito político começa a se articular no plano da informação, à medida que se afasta do espaço físico, que expõe o tomador de decisão político à tentação de uma resposta simples, emocional e eficaz. Os consensos que surgem da sociedade em rede recriam valores, referências e símbolos que surgem da busca por consentimento e não por meditação. São resultados que não foram filtrados pela experiência, nem pela perspectiva histórica.

Se desde sempre o exercício da liderança necessitou do contexto e da história, e do conhecimento acima da informação, hoje e cada vez mais, deverá lidar com práticas que colocam em jogo estratégias de marketing e slogans previstos para obter a aprovação imediata.

A onipresença do digital está destruindo os tecidos de confiança que mantiveram o conjunto social unido, mas a uma velocidade tal que instituições e tomadores de decisão não conseguem se adaptar. Sendo assim, é pouco o que podem fazer para repará-los. Essas dinâmicas nos conduzem a um futuro que será marcado por uma estrutura tecnológica com capacidades potencialmente absolutas, que precisam ser humanizadas. São dimensões que colocam em questão o tipo de organização social que as abrigará e que ainda demandam uma ancoragem ética e um conjunto de postulados filosóficos que as rejam.

Notas

[1] Este texto integra o volume Futuros: miradas desde las humanidades, coordenado por Andrés Kozel, Martín Bergel e Valeria Llobet, que aparecerão na coleção Futuros (FUNINTEC / UNSAM Edita).. “Lo digital es lo político”, em La Vanguardia, 11/03/2019.

[2] Ver Allan Dafoe: "The ai Revolution and International Politics", no YouTube, 17/7/2017, www.youtube.com/watch?v=zef-mIkjhak. Para conhecer em maiores detalhes o pensamento do ex-secretário de Estado norte-americano sobre a emergência da inteligência artificial, v. H. Kissinger: “Orden mundial”, Debate, Buenos Aires, 2016.

[3] S. Zuboff: "Big Other: Surveillance Capitalism and the Prospects of an Information Civilization", em Journal of Information Technology vol. 30, 2015.

[4] S. Zuboff: «The Secrets of Surveillance Capitalism» en Franfurter Allgemeine, 5/3/2016.

[5] Martin Hilbert: «La democracia no está preparada para la era digital y está siendo destruida», em La Nación, 10/4/2017.

[6] D. Innerarity: ob. cit.

[7] Y. Harari: "Why Technology Favors Tyranny", em The Atlantic, 10/2018, p. 98.

[8] B.-C. Han: ‘Psicopolítica’, Herder, Barcelona, 2014, p. 11.

[9] É. Sadin: “La silicolonización del mundo”, Caja Negra, Buenos Aires, 2018, p. 96.

[10] B.-C. Han: ob. cit., p. 39.

[11] É. Sadin: ob. cit.

[12] Ibid., p. 109. 

Leia mais

• Um guia para compreender a quarta Revolução Industrial. Revista IHU On-Line, N° 506
• Organizadores de dados: a face oculta da inteligência artificial
• Os desafios de uma tecnologia que sirva ao humano e não que se sirva dele. Entrevista especial com Carlos Augusto Grabois Gadelha
• Uma Inteligência Artificial, prestes a resolver o “problema dos três corpos”
• Como a inteligência artificial poderia acabar com a Humanidade - por acidente
• A sedução das máquinas. Entrevista com César Hazaki
• “Agora, todos temos uma causa comum: estabelecer os direitos dos trabalhadores 'fantasmas'”. Entrevista com Mary L. Gray
• “Os principais tipos de plataforma foram reduzidos para três”. Entrevista com Nick Srnicek
• “Teremos que integrar os robôs em nós mesmos”. Entrevista com Andrés Ortega Klein
• Robôs estão entre nós. Como viver num mundo sem empregos para todos?
• Amazon vai trocar gente por robôs nos EUA
• A inteligência continua sendo mais humana do que artificial
• Inteligência artificial e ética: um estado da arte. Artigo de Paolo Benanti
• "A inteligência artificial é a religião do Vale do Silício". Entrevista com Markus Gabriel
• Revolução 4.0: “Não encontraremos na história momentos de forte correlação com o que viveremos”. Entrevista especial com João Roncati
• Futuro do mundo do trabalho. O necessário debate dentro da Revolução 4.0
• Seremos líderes ou escravos da Indústria 4.0?
• Inteligência artificial tenta prever quando as pessoas vão morrer
• Elon Musk revela dispositivo para conectar cérebro a computadores
• Inteligência artificial aumenta o caos climático. Artigo de Silvia Ribeiro
• Os enigmas do capitalismo na era da tecnologia
• Inteligência artificial e práticas cotidianas
• Máquinas Sapiens. Os desenvolvimentos da Inteligência Artificial
• Especialistas em inteligência artificial advertem sobre a 'corrida armamentista da tecnologia' em Roma
• Inteligência Artificial para quem?
• Europa-Mercosul: o acordo de Recolonização
• Papa: hoje existe o risco de dar vida à lógica das máquinas e dos dispositivos
• Máquinas digitais: hora de desconectar?
• ''Assim a inteligência artificial vai dominar o mundo''. Mas é apenas um videogame
• As pistas do método 'Cambridge Analytica' na campanha de Bolsonaro
• Inteligência artificial e tributação: a que(m) os algoritmos devem servir?
• Máquinas, inteligência artificial e o futuro do capitalismo