As inteligências artificiais podem nos fazer ver aquilo que não existe e estão à disposição de qualquer um. Ao mesmo tempo, o Twitter, com uma módica assinatura mensal, pode nos dar a mesma visibilidade de um chefe de Estado. Ambas as coisas colocam no centro de tudo isso uma pergunta que uma certa contemporaneidade queria crer que havia dissolvido por completo no paradigma da pós-modernidade: em que devemos acreditar?

A reflexão é de Paolo Benanti, frei franciscano da Terceira Ordem Regular, professor da Pontifícia Universidade Gregoriana, de Roma, e acadêmico da Pontifícia Academia para a Vida. Em português, é autor de “Oráculos: entre ética e governança dos algoritmos” (Unisinos, 2020).

O artigo é publicado por Avvenire, 25-05-2023. A tradução é de Moisés Sbardelotto.

Eis o texto.

Uma foto que retratava uma falsa explosão perto do Pentágono circulou no Twitter a partir de várias contas verificadas na terça-feira, causando confusão e pânico entre os usuários. A foto se espalhou amplamente nas mídias sociais durante o frenesi matinal do mercado de ações, provocando um flash crash, isto é, derrubando brevemente as ações estadunidenses e tornando-se talvez o primeiro caso de uma imagem gerada por inteligência artificial que produziu uma queda no mercado de ações.

Não se sabe se alguém manipulou a situação para fazer uma venda a descoberto de ações, uma forma predatória de lucrar em um mercado em baixa. Mas, quando circulou a notícia de que a imagem era uma farsa, o Standard & Poor’s 500, o índice de ações mais importante dos Estados Unidos, rapidamente recuperou seu valor.

A foto falsa, que apareceu pela primeira vez no Facebook, mostrava uma grande nuvem de fumaça que, segundo um usuário, se encontrava perto do quartel-general do Exército estadunidense na Virgínia. Logo ela se espalhou pelas contas do Twitter, alcançando milhões de seguidores, incluindo a rede de notícias controlada pelo Estado russo RT e o site de notícias financeiras ZeroHedge, ambos reconhecíveis pelo selo azul pago ligado ao novo sistema de verificação do Twitter Blue da empresa de Elon Musk.

Esse episódio evidencia a fragilidade da sociedade digital diante do uso inescrupuloso da inteligência artificial e a não confiabilidade do Twitter após as mudanças introduzidas por Elon Musk. Não é a primeira vez que o selo azul engana os usuários.

Ainda no dia 11 de novembro passado, a empresa Eli Lilly parecia ter postado uma mensagem incomum no Twitter, mas depois a gigante farmacêutica se desculpou por um tuíte enganoso no qual uma pessoa que se passava pela empresa escreveu: “Estamos entusiasmados em anunciar que a insulina agora é gratuita”.

A confusão que atingiu a Eli Lilly (cujo nome de usuário oficial é @LillyPad) é fruto das mudanças introduzidas no Twitter após a aquisição da plataforma por 44 bilhões de dólares por parte de Musk. Algumas pessoas conseguiram criar facilmente uma conta no Twitter de aspecto oficial – com um selo azul para o nome de usuário falso “Eli-LillyandCo” – pagando os oito dólares por mês exigidos pelo “Twitter Blue”, que demarca as contas legítimas ou de interesse público.

Antes da chegada de Musk, os selos azuis eram distribuídos gratuitamente às fontes que o Twitter considerava dignas de nota e confiáveis. No dia 5 de novembro, o novo serviço pago “Twitter Blue” foi apresentado como uma democratização da plataforma. A operação abriu as portas para uma série de situações inusitadas, com pegadinhas e enganações comerciais ou financeiras, que afetaram diversas empresas e agora também o mercado de ações.

No dia 26 de março, uma foto do Papa Francisco vestindo uma chamativa jaqueta branca, semelhante às vendidas pela famosa marca de luxo Balenciaga, tinha viralizado nas mídias sociais, despertando muita curiosidade e debate entre os usuários que acreditavam que ela era verdadeira. A foto foi gerada utilizando uma inteligência artificial chamada Midjourney, capaz de criar imagens hiper-realistas a partir de uma descrição de texto fornecida pelo usuário. Nos mesmos dias, foram difundidas fotos falsas de Donald Trump, Emmanuel Macron e Vladimir Putin.

As inteligências artificiais podem nos fazer ver aquilo que não existe e estão à disposição de qualquer um. Ao mesmo tempo, o Twitter, com uma módica assinatura mensal, pode nos dar a mesma visibilidade de um chefe de Estado.

Ambas as coisas colocam no centro de tudo isso uma pergunta que uma certa contemporaneidade queria crer que havia dissolvido por completo no paradigma da pós-modernidade: em que devemos acreditar?

No século XXI, o problema central ainda é este: crer. Em um primeiro sentido, esse crer deve ser entendido como um símbolo da nossa condição humana. Somos seres vivos incapazes de sobreviver apenas com os instintos. Precisamos conhecer o mundo, mas não podemos conhecer tudo diretamente. A maior parte dos nossos conhecimentos é indireta e mediada por fontes como os relatos dos nossos semelhantes, as leituras de livros, as imagens em que acreditamos porque nos convencem. Acreditamos porque os consideramos fontes confiáveis, porque esperamos que assim sejam.

Esse episódio, parafraseando Adorno e Horkheimer, nos coloca diante de uma dialética da informação: se, para os dois autores, no decorrer do Iluminismo, a razão havia se tornado um instrumento de controle social, levando à degradação da cultura e do indivíduo, hoje deve reconhecer que, ao construir a sociedade digital, a informação, de conhecimento compartilhado, como sonhada pelas primeiras comunidades de ativistas online, tornou-se realmente um instrumento de controle capitalista, como Shoshana Zuboff nos ensinou.

Para evitar que as inteligências artificiais sejam os novos oráculos desta época em que todas as coisas, até mesmo as irreais, podem tornar-se verossímeis e, portanto, credíveis, temos uma missão particular como cristãos: recordar que crer não é um ato cego, mas sim saber dar razão da esperança que há em nós (cf. 1Pd 3,15).

Leia mais

• Democratização da internet no Brasil: Um sonho cada vez mais distante
• Twitter de Elon Musk remove “selo azul” do Papa Francisco e de outras contas católicas
• Crise do Twitter: o que há além das Big Techs
• Cada plataforma, um universo: a pluralidade de temas do bolsonarismo e do lulismo no Twitter e no YouTube
• O Twitter no banco dos réus por divulgação de material pornográfico infantil
• Como o Twitter passou a ser chave para a democracia e na opinião pública
• Elon Musk é alvo de investigação por abuso de animais
• “Elon Musk é um exemplo de que o capitalismo está se desintegrando”. Entrevista com Jonathan Crary
• Elon Musk em encontro com o Papa: “A tecnologia salvará o mundo”
• O chip que Elon Musk quer implantar em nosso cérebro é pior do que Black Mirror
• Sociedade civil e era digital: velhas questões, novos desafios na era da sociedade da plataforma
• Riscos e desafios da sociedade digital
• A revolução da inteligência artificial transforma as pesquisas sobre o novo regime climático. Conferência com Sergio Marconi
• “Em tempos de inteligência artificial, não queremos medir a precarização do trabalho nem seus efeitos”. Entrevista com Joan Benach
• Inteligência artificial e estupidez natural. Artigo de Vito Mancuso
• O financismo na era da inteligência artificial. Entrevista com Edemilson Paraná
• ChatGPT não é 'inteligência artificial'. É roubo
• O Google se lança na guerra da Inteligência Artificial
• Da ficção científica à realidade: os novos dilemas éticos da Inteligência Artificial. Entrevista especial com João Cortese
• Inteligência Artificial e a Igreja: desafios e possibilidades. Conferência de Moisés Sbardelotto
• O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
• O ChatGPT veio para ficar no ensino superior? Não se os professores resistirem. Artigo de LuElla D’Amico
• IA: o que há de realmente inteligente nos sistemas que construímos? Artigo de Paolo Benanti
• “A estupidez natural me assusta mais do que a inteligência artificial.” Entrevista com Paolo Benanti
• GPT-4, o algoritmo inexplicável e fechado. Artigo de Paolo Benanti
• Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
• Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti