28 Abril 2025
Daniel Innerarity (Bilbao, 1959), um dos grandes expoentes do pensamento espanhol atual, não costuma se eximir de abordar temas quentes. Em Una teoría crítica de la inteligencia artificial’ (Galaxia Gutemberg, 2025), mergulha no mundo da inteligência artificial para elucidar que sociedade nos espera e quais desafios devemos definir para o futuro. Com este novo livro, que recebeu o Prêmio de Ensaio Eugenio Trías, o pensador disseca a natureza do raciocínio humano e do pensamento mecânico, que, como ficou claro, são obrigados a coexistir.
A entrevista é de Pedro Silverio, publicada por Ethic, 24-04-2025. A tradução é do Cepat.
Uma das grandes questões de nossos dias é se as nossas vidas são regidas por algoritmos. Isso nos leva a cair em um determinismo tecnológico?
Isso é parte da verdade, porque os algoritmos têm uma capacidade de aprendizagem espetacular justamente porque interagem com os humanos. Se fossem tecnologias mecânicas aplicadas a nós, sem a nossa interlocução, seríamos sujeitos passivos e os algoritmos não teriam a virtualidade que possuem: aprender dessa interação.
Por isso, uma das ideias centrais do livro é que não deveríamos abordar a questão como uma batalha entre humanos e máquinas, mas, sim, como uma interação na qual há assimetrias que implicam dominação, exclusão e não reflexibilidade. No entanto, não acredito que seja útil considerar essa relação como uma gigantesca batalha ética entre humanos e máquinas, algo que a ficção científica nos incutiu, nos últimos anos.
A IA generativa não cria ex novo, mas se limita a ordenar palavras de acordo com as regras sintáticas para que tenham sentido. O pensamento humano, em linhas gerais, é muito parecido. Poucas pessoas podem se gabar de ter ideias originais ao longo da vida ou de serem realmente criativas. Na maior parte das vezes, ficamos limitados a copiar e imitar o que vemos que funciona em outros casos. Isto explica por que a IA pode ser útil para substituir o humano em muitas tarefas?
Nós, humanos, realizamos dois tipos de atividades: tarefas rotineiras e previsíveis, nas quais as máquinas podem ser mais rápidas e eficientes, e tarefas criativas e indutivas, nas quais as máquinas ajudam pouco. A questão está em identificar quais tipos de atividades requerem computadorização e quais exigem intervenção humana. Se acertamos nesta distinção, podemos criar um ecossistema humano-máquina benéfico para nós.
Ainda que a IA nunca chegue a substituir o ser humano em todas as tarefas, parece claro que a robotização eliminará um grande número de postos de trabalho, e é muito provável que a mão de obra necessária seja significativamente reduzida. Que novo contrato social deveríamos ter para que as nossas sociedades permaneçam democráticas e não caiamos no que estão chamando de tecnofeudalismo?
Mais do que falar em postos de trabalho, deveríamos falar de tarefas. Dentro de cada posto há diversas tarefas, e são certas tarefas que serão substituídas. Em muitos casos, isto é positivo, pois significa eliminar trabalhos árduos e repetitivos. Em uma perspectiva histórica, nós, humanos, com o tempo, passamos a trabalhar menos: pensemos nos horários extenuantes da Revolução Industrial ou nos trabalhos perigosos que sacrificavam a saúde, com bem pouca satisfação.
Se agirmos bem, poderemos entrar em uma nova era com menos trabalho, menos árduo e mais bem distribuído. Isso não só não é incompatível com o desenvolvimento da inteligência artificial como também representa uma verdadeira oportunidade. No entanto, essa mudança não será fácil: implicará reorganizar funções e tarefas e exigirá debates democráticos para administrar os conflitos sociais que surgirão para garantir uma sociedade mais justa e equitativa.
Trinta anos atrás, era comum que os gurus da tecnologia profetizassem utopias que anunciavam uma Arcádia Feliz graças à tecnologia. No entanto, parece que agora são apóstolos do chamado Iluminismo obscuro ou ao menos defensores de sistemas econômicos e sociais pouco respeitosos com o liberalismo e o Estado de Direito. Faz sentido continuar confiando neles?
Existe o que poderíamos chamar de tecnosolucionismo pós-democrático, exemplificado por figuras como Elon Musk e Peter Thiel, que promove a ideia de que os grandes problemas do mundo não podem ser resolvidos no marco dos valores e procedimentos democráticos. É verdade que nossas democracias têm dificuldades para abordar problemas graves como as mudanças climáticas e a desigualdade econômica, mas prescindir do tempo, das pessoas e dos debates democráticos não é a solução.
Nós sempre pensamos que a democracia é um sistema de governo que leva em conta os impactos de suas decisões sobre as pessoas e o ambiente. Este aceleracionismo tecnológico representa uma ameaça à nossa tradição democrática e devemos combatê-la. Passamos do debate clássico entre direita e esquerda a um debate entre a pressa e a deliberação.
Alguns sugerem que, no futuro, a tomada de decisões políticas ficará nas mãos de inteligências artificiais que farão avaliações de custos muito mais profundas e refinadas do que os humanos. Independentemente de ser possível ou não, é desejável?
A máquinas e os humanos estão dotados para resolver problemas muito diferentes. As máquinas tomam decisões excelentes quando há muitos dados, pouca ambiguidade e baixa incerteza, ou seja, quando o problema está bem estruturado. Quando o input e o output estão claros. Ao contrário, nós, humanos, agimos melhor do que as máquinas quando estamos diante de problemas pouco estruturados.
Robertson os chamava de problemas selvagens: aqueles com poucos dados disponíveis, alta ambiguidade e incerteza significativa, quando as soluções não são binárias, mas múltiplas. Para esta parte dos problemas, com esta natureza, nós, humanos, estamos mais bem capacitados.
Porque se seguíssemos pelo caminho das decisões da IA, seria quase mergulhar no populismo e acreditar que os problemas complexos têm soluções muito simples...
Buscam nos seduzir com a ideia de que há uma solução computacional. Como se tivesse a ver com um procedimento, com a aplicação de uma tecnologia sofisticada. E há coisas que para chegarmos a uma solução, por mais dados que temos e tecnologias que inventamos, precisamos de empatia, sentido comum, visão de conjunto... e nisso as máquinas são bem pouco confiáveis.
Uma das conclusões do livro é que precisamos redefinir o demos atual. Como você imagina o demos do futuro e quais diferenças considera que existirão em relação ao que até agora concebemos?
Essa disputa já acontece no mundo analógico. O demos não se limita mais ao Estado nacional. Vivemos em um mundo onde as decisões têm impactos transnacionais e afetam as gerações futuras. Neste contexto, pensar que a soberania se esgota no marco estatal é anacrônico. Além disso, surge outro problema no mundo digital: reduzir o demos a rastros digitais ou a comportamentos como consumidores seria um erro. A cidadania deve ser reflexiva. Não basta expressar preferências ou desejos inconscientemente. A democracia é justamente um espaço para refletir sobre nossas decisões e sua compatibilidade com as de outros.
Se abandonarmos a nossa capacidade reflexiva como espécie humana, que riscos corremos?
A reflexão é constitutiva do ser humano. Ainda que não reflitamos constantemente, é essencial para a nossa autoconsciência e transcendência. Sem ela perderíamos a nossa capacidade de inovação e transformação. Além disso, a tecnologia preditiva se baseia somente em dados do passado porque não há dados do futuro propriamente ditos. Isto limita sua capacidade de antecipar rupturas ou mudanças imprevisíveis no comportamento humano. Precisamos preservar espaços de indeterminação para permitir a inovação e a transformação, tanto social quanto política.
Qual é o papel da imprevisibilidade humana diante dos sistemas preditivos?
Embora sejamos geralmente previsíveis, precisamos manter aberta a possibilidade de condutas rupturistas em relação ao nosso comportamento anterior. Isto é essencial para garantir sistemas políticos revisáveis e inovadores. Se confiássemos tudo a sistemas preditivos baseados em dados passados, estaríamos renunciando à nossa capacidade transformadora como sociedade.
A concentração de inovações científicas e técnicas deram lugar a um novo sismo no mercado mundial. Assistimos a uma nova re[...]
LER MAISA decisão mais temida pelos motoristas do Uber começa a se tornar realidade. A empresa firmou um acordo com a montadora sueca Vo[...]
LER MAIS
