08 Novembro 2025
“Só há valor porque há fim, escreveu Borges. O risco que a sociedade corre é o do enfraquecimento da nossa existência ao tentar suavizar as arestas da morte por meio da tecnologia, com a corrosão do apreço pela impermanência”, escreve Glauco Arbix, professor da Faculdade de Filosofia, Letras e Ciências Humanas da USP, em artigo publicado por Jornal da USP, 04-11-2025.
Eis o artigo.
Como toda tecnologia transformadora, a IA pode fazer bondades e maldades. Facilita nossa vida nos estudos e no trabalho, impulsiona a descoberta de medicamentos, oferece diagnósticos, dinamiza o desempenho econômico e desponta como esperança no combate à pobreza e às emergências climáticas. Mas também não deixa de gerar tristeza ao marcar presença nas guerras, no tsunami de desinformação, na propagação do ódio e nas ameaças ao emprego e à democracia.
Em tempos mais recentes, porém, a IA ampliou seu cardápio de surpresas e irrompeu no mundo dos mortos. Com a IA, pessoas comuns conseguem dar vida e conversar com quem não está mais entre nós. Nos tempos de hoje, as chamadas ferramentas tecnológicas de luto tentam se firmar como normais, mesmo quando geram mudanças profundas – e perturbadoras – no modo como processamos e aprendemos a lidar com a perda.
Empresas como a You, Only Virtual (Você, Apenas Virtual), Super Brain (Super Cérebro), ProjectDecember (ProjetoDezembro) e a Deep Nostalgia (Nostalgia Profunda) conseguem reviver digitalmente entes queridos que morreram apenas com um punhado de fotos e pouco mais de 30 segundos de dados audiovisuais. E as recriações não deixam de ser assustadoramente convincentes.
A morte, quem diria, deixou o mundo encantado dos mitos, as telas de Bruegel e Bosch, de Hollywood e Bollywood, para fundir o real, o irreal e o surreal.
Victor Frankenstein provocou o desejo obsessivo de prevalecer sobre a morte. Mas Mary Shelley chamou seu romance de filho hediondo, não apenas por conta do monstro criado por ela, mas porque feriu gravemente os sentimentos da perda e do luto. A Grécia revelou quanto o barqueiro Caronte cobrava para levar as almas ao Hades.
Religiões e seus rituais oferecem a esperança de que os vivos possam um dia comungar com os mortos e que o amor em vida não será destruído enquanto persistir a memória. Culturas diversas dedicam dias coloridos para os mortos, momentos de lembrança em que a memória fortalece laços contínuos entre os vivos e os que se foram.
Mas nem sempre o sublime prevalece. A crueldade e o desencanto sabem pegar carona na tecnologia. É o que leva a IA a saltar da literatura para produzir Frankensteins em massa, reanimados agora como almas digitais.
Alguém se lembra de Malcolm X e da luta contra o racismo nos EUA? As gerações de hoje são apresentadas a um ativista grosseiro e inculto, fruto de vídeos distorcidos que brotam do aplicativo Sora2, da OpenAI – a mesma do ChatGPT. Michael Jackson e Elvis Presley também foram corrompidos por vídeos marcados por um realismo tão intenso que muitos acreditam apenas reprisar momentos infelizes.
Imagens em movimento apelaram para o racismo pretensamente cômico, como a reprodução do famoso discurso – I have a dream –, mas com Martin Luther King imitando um macaco; ou John F. Kennedy, que irrompeu nas mídias digitais fazendo pouco do influenciador de direita, Chales Kirk, recentemente assassinado. Não são poucas as figuras famosas expostas como alcoólatras, pervertidas ou drogadas.
Não à toa a esfera pública se debate para sobreviver debaixo da avalanche de deep fakes. Sociedades desprotegidas diante de tecnologias nem sempre maduras tentam se defender com os recursos da indignação.
Foi como o filho de Malcon X, Ilyasah Shabazz, expressou sua dor ao ver a imagem do pai manipulada de modo tão arrogante quanto insensível. A filha do ator Robin Williams, Zelda Williams, chegou a implorar para que o TikTok deixasse de estampar imagens e vídeos desrespeitosos de seu pai.
Em muitos desses casos, a responsabilidade não é da tecnologia. O aplicativo Sora2 gera imagens quase perfeitas e não está voltado para o consolo das famílias. Suas atribuições diferem dos aplicativos voltados para o luto.
Mas os chatbots especializados em clonagem digital de quem já morreu geram mal-estar ao criar imagens com falas e gestos escolhidos com base no que, probabilisticamente, parece soar o mais razoável para os algoritmos.
Difícil imaginar o que esposas e filhos sentem ao conversar com um chatbot chamado Robo Dad, que usa recursos de IA para simular imagens, sons e falas assustadoramente parecidas com o falecido papai. Qual programador, plataforma ou empresa pode garantir que a recriação algorítmica corresponde efetivamente à vontade de quem já morreu?
Que legitimidade tem a IA para controlar a memória, a identidade e o legado dos que já morreram, que tocam em emoções nada triviais, com base em operações de similaridade?
O estranhamento ocorre porque as ressurreições sintéticas podem corroer a compreensão coletiva do real. E os chatbots, ao abrir o diálogo com os mortos, se apropriam da singularidade de quem já viveu.
Os algoritmos mais recentes fazem parte de uma classe de tecnologias que combina IA com os dados e informações que as pessoas deixaram para trás. A sofisticação de recursos se tornou mais acessível com a disseminação da IA generativa, dos grandes modelos de linguagem. Para alguns, os chatbots dos mortos são apenas recursos de entretenimento. Para outros, ajudam a ativar a lembrança e a reflexão sobre a perda. Mas há também os que realçam a desumanidade nessas tecnologias, a evocação de um mundo distópico em franca formação.
Enquanto o debate se desenvolve, é bom não esquecer a emergência de questões éticas relacionadas ao consentimento, propriedade, memória e precisão histórica. Quem deve ter permissão para criar, controlar ou lucrar com essas representações? Será que as famílias têm o direito de liberar um vídeo que arrisca deturpar o passado de quem já morreu? Um pedacinho dessa polêmica chegou ao Brasil por um vídeo da Elis Regina, realizado com autorização da família. O drama é que ninguém sabe – nem saberá – se a Elis concordaria em participar de um comercial de TV.
As chamadas tecnologias de luto podem trair nosso compromisso básico com a realidade. São diferentes das lembranças, fotos, mechas de cabelo ou relíquias dos mortos que muitos guardam em caixinhas da intimidade. Simulações de IA cruzam a fronteira existencial de modo interativo, sustentadas, quando muito, por dados da internet ou registros familiares. Isso significa que a IA consegue fazer com que os mortos conversem conosco, mas de um modo definido pela probabilidade do que os mortos diriam, fariam ou pensariam se estivessem vivos. Lembrem-se que a IA generativa, que anima esses chatbots, frequentemente alucinam, inventam, fantasiam e, quase sempre, tentam agradar os usuários.
Chatbots não são mágicos, mas matemáticos. São modelos de linguagem de IA treinados com base nos dados gerados por uma pessoa antes de sua morte. Graças aos recentes avanços, esses chatbots são capazes de manter conversas dinâmicas, longas e em linguagem natural sobre os mais variados assuntos.
São sombras geradas tecnicamente, mas capazes de mexer com emoções profundas. Por isso mesmo, o debate tem a ver mais com a cultura, a psicologia e a sociedade do que com a tecnologia. O desafio é respeitar o legado de cada um, a complexidade do relacionamento humano e a dignidade do processo de luto.
Se tomarmos a audiência, ou o número de usuários, as tecnologias do luto ainda são marginais. Mas, sua expansão e normalização estão em curso. Plataformas com esses serviços correm hoje sem barreiras de proteção, de idade ou limites temporais de uso que permitiriam a retomada do luto natural.
Muitas empresas colocam filtros e guard rails nesses aplicativos. Assistentes virtuais como o Robo Dad, por exemplo, não podem discutir sexo, uso de álcool, ou drogas.
Mas as crianças parecem torcer pela proteção de suas famílias, pois quando a atenção falha, deparam-se indefesas diante de lembranças que mesclam a memória de um pai ou mãe que se foram com seus clones digitais. São relações que misturam alegria, consolo, dependência e depressão.
Só há valor porque há fim, escreveu Borges. O risco que a sociedade corre é o do enfraquecimento da nossa existência ao tentar suavizar as arestas da morte por meio da tecnologia, com a corrosão do apreço pela impermanência.
Leia mais
- A morte e a negação do luto na era do capitalismo acelerado e hiperconectado. Artigo de Sérgio Botton Barcellos
- A morte como invenção da vida. Artigo de Leonardo Boff
- E o homem criou a morte. Artigo de Enzo Bianchi
- Mundo digital está reescrevendo a nossa relação com a morte
- Velório online e avatar pós-vida: as startups que querem revolucionar a indústria da morte
- A busca do Vale do Silício pela vida eterna
- Dados são o novo petróleo do século XXI
- ''O papa nos ensina a aceitar a nossa irmã morte corporal.'' Entrevista com Vincenzo Paglia
- O futuro do Google é também seu passado: colonialismo digital e capitalismo de vigilância
- “O transumanismo acredita que o ser humano está em um suporte equivocado”, afirma filósofo
- Como Elon Musk quer criar 'vida eterna' transferindo informações do cérebro para o computador
- O trans-humanismo e a superação de nossa biologia para (talvez) nos tornar imortais
- Transumano: a união do ser humano com os robôs e a inteligência artificial
- Cuidado com aquela câmera: o smartphone te espia, a IA do aplicativo estuda as tuas expressões e entende os teus gostos. E monetiza...
