15 Dezembro 2022
O ensaio de Caterina e Giovanni Maria Flick investiga as perspectivas da revolução tecnológica.
A reportagem é de Giuseppe Salvaggiulo, publicada por La Stampa, 14-12-2022. A tardução é de Luisa Rabolini.
Hoje o dilúvio universal é a crise climática e a torre de Babel é a globalização digital.
Para entender para onde vai um mundo dominado pelo algoritmo, Giovanni Maria e Caterina Flick (L'algoritmo d'oro e la torre di Babele. Il mito dell'informatica. Baldini + Castoldi, O algoritmo de ouro e a torre de Babel. O mito da informática, em tradução livre) não olham para o metaverso, mas para a Bíblia. Especificamente para "dois episódios sintomáticos perigosamente presentes e capazes de influenciar o futuro".
O primeiro é a ruptura da relação entre ser humano e natureza no Jardim do Éden. O homem é expulso por ter desobedecido a Deus, deliciando-se com a árvore do conhecimento por traiçoeira sugestão da serpente e reconhecendo-se na nudez do pecado. Seguirá depois de algum tempo o dilúvio universal. É a primeira decisão fundamental da humanidade - a ciência é preferida à vida - e se revela desastrosa. Acontecerá muitas outras vezes na história.
O segundo episódio é a tentativa do homem - após o dilúvio e a renovação do pacto entre o ser humano, Deus e a natureza - de satisfazer sua sede de conhecimento construindo a torre de Babel. Isso lhe custará o castigo da incomunicabilidade.
Hoje o dilúvio universal é a crise climática; a torre de Babel é a globalização digital. Os riscos da segunda não são menores que os da primeira.
Citando o filósofo Luciano Floridi, os autores colocam a revolução informática na esteira da revolução copernicana sobre a relação entre terra e sol; darwiniana sobre o evolucionismo; freudiana sobre da identidade da pessoa. “Trata-se de retirar a informação da sua desenfreada e predominante exploração pelas lógicas do lucro e/ou do poder. Ou, pelo menos, de defender seu papel de instrumento essencial para a convivência, a cultura, a democracia, diante daqueles que visam transformar a informação apenas em produto comercial ou instrumento de controle e censura”.
O capitalismo de vigilância transformou "jovens empresas em impérios, com uma concentração de informações sem precedentes e poder sem controle". Entre as muitas consequências sociais estão as desigualdades cognitivas e a manipulação da informação. "É preciso escolher entre a democracia para todos ou a riqueza de poucos, como resumiu o juiz Brandeis, da Suprema Corte dos Estados Unidos, na batalha contra o conservadorismo e os grandes complexos monopolistas dos anos 1930".
Se o fim é definido, os meios são o problema não resolvido. Os Estados nacionais parecem indefesos, quando não inertes. As instituições internacionais tentam construir regulamentações obrigatórias, mas encontram a oposição de países economicamente e militarmente mais fortes.
Os autores leem a revolução digital com os olhos da Constituição. E identificam dois campos de ação: a regulação institucional e a educação das pessoas. A Europa representa um modelo autônomo baseado em uma sociedade aberta, no estado de direito e nas liberdades fundamentais em comparação com o estadunidense (autorregulamentação e antitruste) e chinês (dirigismo autoritário e capitalismo de estado).
O principal problema jurídico é que “antes o direito criava a linguagem; agora, no extremo oposto, é a linguagem que cria o direito”. Então, “como articular um novo direito completamente diferente daquele clássico em que fomos educados e que ensinamos aos nossos alunos?”. Trata-se, para o legislador como para o jurista intérprete, de correr atrás. Colocar na gaveta fundamentos centenários como causalidade, dolo, culpa e, inversamente, confiar-se a paradigmas extrajurídicos, tirados de disciplinas “mestiças” como estatística e matemática.
É justiça a justiça preditiva, algorítmica, que elimina o subjetivismo judicial e esclerotiza a relação entre direito vivo e sociedade?
E é democrática uma sociedade que abole o princípio da responsabilidade?
Um ano atrás a Amazon atualizou o software da Alexa após a assistente digital (definição realmente redutiva) ter proposto a uma menina de experimentar o chamado outlet challenge ou penny challenge: inserir pela metade um carregador de telefone numa tomada e encostar com uma moeda os polos expostos. Durante o mesmo período, uma empresa de táxi de Paris suspendeu todos os carros Tesla de "condução assistida avançada" após um grave acidente causado pela perda de controlo de um veículo.
Quem é responsável por esses "comportamentos"? Quem paga pelos danos? O usuário? As empresas produtoras? Os desenvolvedores de software? “Nos programas com funcionamento não determinístico, ninguém tem condições de prever a priori o resultado da aplicação. Isso aumenta a dificuldade de delimitar as responsabilidades dos diversos sujeitos envolvidos”.
O Parlamento Europeu em 2017 propôs um status jurídico específico para os robôs. A ideia é tratá-los, do ponto de vista legal, como pessoas. Os autores desconfiam da tentação de antropomorfização: "aumentaria a complexidade sem resolver os problemas". Sua proposta visa mais focar na responsabilidade objetiva dos protagonistas da cadeia produtiva.
Independentemente dos erros individuais cometidos e tendo como horizonte a dignidade humana.
No final sempre se retorna a esse ponto. O homem como fim, não como meio. A Constituição.
Leia mais
- Inteligência artificial - A disputa entre a busca da eficiência e os desafios ético-morais. Entrevista especial com Brian Green
- A ética da inteligência artificial é a mesma de outras novas tecnologias
- A revolução bate à sua porta. Medium IHU
- A transformação do Mundo 4.0. Medium IHU
- Inteligência artificial, desafio ético. Entrevista com Paolo Benanti
- Máquinas, inteligência artificial e o futuro do capitalismo
- Nenhuma profissão será poupada pela inteligência artificial, diz executivo
- A inteligência artificial: o superego do século XXI. Artigo de Éric Sadin
- Transumano: a união do ser humano com os robôs e a inteligência artificial
- Robôs assassinos, a nova ameaça
- O trabalho e a inteligência artificial. Entre o temor e o otimismo
- 'O valor do trabalho transita para a ideia de criatividade'. Entrevista com Michel Maffesoli
- Dieese se reestrutura para sobreviver e acompanhar futuro do trabalho
- Por que os trabalhos inúteis (e deprimentes) são os mais bem pagos?
- Papa Francisco: ''É o trabalho que dá esperança, não o assistencialismo''
- "A organização capitalista do trabalho privilegia o poder ao lucro". Entrevista com Thomas Coutrot
