Certamente não vivemos o ocaso do humano, muito embora o discurso alarmista aponte nesse sentido, mas vivemos um salto antropológico de grande envergadura no qual nossa capacidade adaptativa está sendo colocada à prova
Falamos de Inteligência Artificial - IA como quem dá bom-dia. O tema é parte de nosso mundo, mas no fundo ainda somos carentes de uma compreensão mais clara sobre o que é a IA. Neste sentido, Lucia Santaella, em entrevista por e-mail ao Instituto Humanitas Unisinos – IHU, traz respostas luminares sobre o tema e situa as principais implicações nas quais os seres humanos e as máquinas estão imbricados.
Inteligência artificial “passou a ser um termo genérico para uma multiplicidade de variações baseadas em um conjunto de tecnologias que levam os computadores a realizar tarefas que imitam ações inteligentes dos humanos. Ela é capaz de reconhecer rostos, entender a fala e responder, dirigir carros, criar imagens e assim por diante”, pondera Santaella.
Neste contexto há dois modelos principais de IA e que são distintos entre si. De um lado, “a IA preditiva ingere grandes volumes de dados históricos de diferentes fontes, relevantes para o problema que lhe é colocado. Então os algoritmos de aprendizado de máquina analisam esses dados buscando tendências, padrões e relacionamentos entre variáveis”, explica a pesquisadora. A IA generativa, por sua vez, embora ainda se utilize de aprendizagem de máquina e redes neurais, está voltada para a criação de conteúdo novo e original, como imagens, texto e outras mídias, aprendendo com os padrões de dados existentes”, complementa.
“A linguagem é constitutiva do humano. Não por acaso, para Heidegger, a linguagem é a casa do ser. Sábia é a Bíblia ao declarar que ‘no princípio era o verbo’. Embora o verbo seja Jesus, podemos também ler de modo laico ao considerar que ser Sapiens significa estar dotado das faculdades de linguagem. Tanto quanto posso ver, essa emergência imitativa do humano, naquilo que o humano tem de mais humanamente seu, ao fim e ao cabo, coloca em questão o próprio ser do humano. É a ontologia do humano, afinal o que somos, no que passamos a nos constituir que é posto sob interrogação”, sugere.
Por fim, sem cair em um exercício de futurologia, Santaella reflete sobre a questão da IA. Ela diz: “Não tenho vocação catastrofista nem profética. A única certeza que temos em relação ao futuro é que ele será diferente do que pensamos que ele será. Costumo acreditar na força maior da espécie humana que é a capacidade adaptativa. Com a IA, essa capacidade está sendo colocada à prova”.
Lucia Santaella (Foto: Instituto CPFL)
Lucia Santaella é pesquisadora 1 A do CNPq. Professora titular no programa de Pós-Graduação em Comunicação e Semiótica e no programa de Pós-graduação em Tecnologias da Inteligência e Design Digital, ambos da PUCSP. Tem doutoramento em Teoria Literária na PUCSP em 1973 e Livre-Docência em Ciências da Comunicação na ECA/USP em 1993. É vice-líder do Centro de Estudos Peirceanos, na PUCSP e presidente honorária da Federação Latino-Americana de Semiótica. É membro do Advisory Board do Peirce Edition Project em Indianapolis, USA e do Bureau de Coordenadores Regionais do International Communicology Institute.
Recebeu o prêmio Jabuti em 2002, 2009, 2011 e 2014, o Prêmio Sergio Motta, Liber, em Arte e Tecnologia, em 2005, o prêmio Luiz Beltrão-maturidade acadêmica, em 2010 e o Sebeok Fellow Award, 2025. Tem 57 livros publicados, dentre os quais 6 são em coautoria e dois de estudos críticos. Organizou também a edição de 35 livros. Suas áreas mais recentes de pesquisa são: Comunicação, Semiótica Cognitiva e Computacional, Inteligência Artificial, Estéticas Tecnológicas e Filosofia e Metodologia da Ciência.
IHU – Para começar, proponho uma pergunta para delimitarmos claramente o principal tema desta entrevista, a Inteligência Artificial: o que é precisamente a IA?
Lucia Santaella – Tenho desenvolvido a ideia da IA situada. Há alguns anos, no campo da ciência cognitiva, os especialistas descontentes com a teoria representacionalista da cognição –– que propunha que a cognição humana se comportava por obediência a regras sequenciais como os computadores da época –, propuseram a teoria da cognição situada. Imitando essa ideia de uma condição situada no tempo e no espaço, tenho proposto a ideia de uma IA situada. Justificativas para isso não faltam, diante da multiplicação de sistemas, plataformas e desdobramentos da IA que avança a passos largos.
Há alguns anos, tendo em vista a concepção que tenho, e que depois desenvolvi em detalhes no livro Neo humano, a sétima revolução cognitiva do Sapiens (Paulus, 2022), concepção segundo a qual a cognição humana é evolutiva e hoje se expande na IA, avisei os leitores de um breve texto, escrito em 2017 para prepararem seus corações, pois a IA veio para ficar, crescer e se multiplicar. De fato, desde então é ao que temos assistido.
Tudo isso para tentar responder à pergunta sobre o que é precisamente a IA. O advérbio “precisamente” faz toda a diferença aí, já que, segundo minha ideia da IA situada, poderia ser substituído por: o que é a IA “hoje”. Ela passou a ser um termo genérico para uma multiplicidade de variações baseadas em um conjunto de tecnologias que levam os computadores a realizar tarefas que imitam ações inteligentes dos humanos. Ela é capaz de reconhecer rostos, entender a fala e responder, dirigir carros, criar imagens e assim por diante.
Desde que o ChatGPT nos assombrou há pouco mais de dois anos, com suas habilidades conversacionais, muita coisa evoluiu. Os sistemas de IA conversacional avançaram das suas estruturas básicas de chatbots para ferramentas avançadas de engenharia de prompts que prefiro chamar de semiótica de prompts. Novidade mais recente que tem agitado as mentes e o mundo empresarial são os agentes de IA que prometem estar dotados de autonomia. Recentíssimo é o sistema de produção de vídeos... capaz de criar filmes inteiramente em IA. Estamos apenas começando a assistir à agitação que isso irá produzir na economia criativa.
IHU – Em 2023, a senhora publicou um trabalho de compreensão do fenômeno distinguindo cinco tribos da IA: IA conexionista, IA simbólica, IA evolucionista, IA bayesiana e a IA analógica. Poderia explicar o que é cada uma delas e como se diferenciam?
Lucia Santaella – Sim, o texto se encontra no primeiro capítulo do meu livro sobre A inteligência artificial é inteligente? (Edições 70). Faço aqui uma síntese daquilo que se encontra em mais detalhes nesse livro.
Comecemos com os conexionistas que são os mais bem-sucedidos no mercado e cujas pesquisas levaram ao aprendizado de máquina e aprendizado profundo, uma subcategoria do aprendizado de máquina. A engenhosidade desse sistema consiste em simular, por meio de redes neurais artificiais e com seus limites próprios, o funcionamento dos neurônios humanos. Para isso, trabalham com camadas de neurônios em paralelo com pesos específicos. A técnica é complicada e extrapola a intenção da síntese.
Os simbolistas, por seu lado, acreditam que o conhecimento pode ser obtido pela operação de símbolos (sinais que representam um certo significado ou evento) e pela derivação de regras a partir deles. Ao juntar sistemas complexos de regras seria possível obter uma dedução lógica do resultado que se queira saber.
Já a crença dos evolucionistas consiste na seleção natural. Por isso, usam os princípios da evolução para resolver os problemas.
Bayes é o nome de um dos mais tradicionais algoritmos de aprendizagem de máquina, usado como uma solução estatística simples para problemas de classificação. Mas há outros algoritmos mais robustos capazes de complementar suas funções. Por isso, a escola bayesiana é aquela que indica o cultivo dos algoritmos, imprescindíveis ao funcionamento da IA.
Os analogistas usam máquinas específicas para reconhecer os padrões nos dados. Ao reconhecer o padrão em um conjunto de entradas e compará-lo com o padrão de uma saída conhecida, é possível criar uma solução a um problema.
A aprendizagem de máquina evoluiu de maneira tão eficaz, especialmente nas suas aplicações no mundo corporativo, que hoje não se encontram mais referências a essas tribos. Se elas continuam a existir, como é o caso da IA simbólica, trata-se de campos de pesquisa, pois quando se pensa em aplicações, a aprendizagem de máquina derivada do conexionismo ganha todas as paradas.
IHU – Para todo efeito positivo, há correlacionados aspectos inversos. Quais são hoje as principais externalidades negativas da IA?
Lucia Santaella – Costumo dizer que pouco são mencionados os aspectos positivos da IA justo porque eles falam por si e não precisam de defensores. As externalidades negativas, ao contrário, devem ser apontadas e atacadas com firmeza. São muitas e vão das mais visivelmente nefastas até as mais sutis. Costumam ser muito lembrados os vieses nos resultados que a IA apresenta e que afetam os direitos fundamentais, como os vieses raciais, de gênero, etaristas e quaisquer outros. Deve ser, de fato, verdadeira a crítica de que os gigantescos bancos de dados que alimentam a IA estão empanturrados de fontes baseadas nos valores que se desmembram do homem branco, europeu, heterossexual.
Diante disso, defendo que deve ser evitada uma tendência de culpabilização exclusiva sobre a IA. É preciso vasculhar o papel e o peso da responsabilidade humana em todo processo. Prega-se a IA by design, ou seja, o acompanhamento ético e multidisciplinar em todas as fases do desenvolvimento da IA. É preciso vencer a pressa com que o capital contamina as mentes dos desenvolvedores, por mais idealista que isto soe. Existe uma vasta literatura séria e não apenas noticiosa sobre esse tema que também está na agenda das buscas de regulamentação da IA de modo que seus desvios possam ser mitigados de modo antecipado. Recentemente, veio à tona o tema da governança da IA, com regras imprescindíveis ao seu funcionamento saudável.
Mas as coisas se complicam ainda mais, quando se pensa no uso da IA generativa. Embora a regulamentação da IA seja mandatória já que deverá conter as necessárias traves éticas para o seu uso e possível abuso, a IA generativa implica um nível ético muito mais sutil que transcende o crivo de regulamentações para o uso coletivo. Deixo os detalhes dessa afirmação para a resposta de uma pergunta que vem mais abaixo.
IHU – Como as áreas de produção humana relacionadas à linguagem são impactadas pela IA?
Lucia Santaella – A linguagem é constitutiva do humano. Não por acaso, para Heidegger, a linguagem é a casa do ser. Sábia é a Bíblia ao declarar que “no princípio era o verbo”. Embora o verbo seja Jesus, podemos também ler de modo laico ao considerar que ser Sapiens significa estar dotado das faculdades de linguagem. Quer dizer, faculdades semióticas da linguagem que não se limitam ao verbo, mas avançam por todas as linguagens sonoras, visuais e verbais que chamo de Matrizes de linguagem e pensamento (Iluminuras, 2012, 2. ed.). Ora, quando um sistema artificial é capaz de falar, conversar, estabelecer diálogos, produzir sons e imagens, evoluir para produções multimidiáticas, o que tudo isso pode significar para o humano? Tanto quanto posso ver, essa emergência imitativa do humano, naquilo que o humano tem de mais humanamente seu, ao fim e ao cabo, coloca em questão o próprio ser do humano. É a ontologia do humano, afinal o que somos, no que passamos a nos constituir que é posto sob interrogação.
É claro que não faltam atrapalhações diante disso. A mais comum dentre elas é aquela que transpõe para o artificial características que são estritamente humanas e que costuma ser chamada de antropomorfização da IA. Isso é um equívoco, pois só nos afasta do entendimento do próprio humano. Embora tenha um eficiente poder imitativo, toda a potência da IA encontra-se em suas habilidades de simulação. Ela simula qualquer coisa, inclusive, ela erra, tanto ou menos do que o humano, o que só aumenta sua capacidade de nos enganar como se fosse gente.
Os impactos produzidos são incomensuráveis. Começam nos filosóficos, passam pelos sociais, culturais, econômicos, políticos até alcançarem os psíquicos. Mais do que isso, estamos atravessando um marco antropológico de amplíssimas dimensões.
IHU – Neste cenário, quais são os principais dilemas éticos?
Lucia Santaella – Os dilemas éticos são tantos que fica difícil saber por onde começar para destacar quais são os principais. Antes de tudo, os dilemas começam na infeliz simplificação e vulgarização pela qual a ética vem passando. Fala-se em ética sem que se saiba muito bem o que é ética, pois tudo parece ficar limitado a algumas regrinhas de bom comportamento. Um grande autor que tocou nos pontos nevrálgicos da ética contemporânea e de suas complexas diferenças culturais, antes mesmo do advento da IA bem-sucedida, é Richard Rorty que, infelizmente, neste mundo das modas intelectuais, vem sendo esquecido. Com a chegada da IA, as questões se complicaram sobremaneira.
Ora, existe uma ciência da ética, uma filosofia da ética e existem as éticas práticas. É lugar comum que os teóricos e críticos apontem como questões éticas fundamentais a responsabilização, a transparência, o preconceito e a privacidade. Embora elas sempre tenham sido questões éticas, agora elas adquiriram feições expandidas. Portanto, faz parte da ética da IA detectar preconceitos, proteger a privacidade, exigir transparência, apontar riscos, orientar políticas públicas. Isso não implica deixar de defender a necessidade de regulamentação que é mandatória na medida em que deve estabelecer as bases sobre as quais a ética irá agir.
Entretanto, se formos mais longe, é possível verificar que, no que diz respeito à IA generativa, tudo isso não é ainda suficiente. Isto porque a IA generativa é uma IA de uso pessoal. Fazemos com ela o que nos aprouver. Ela está à mão para quaisquer tipos de tarefas. Ela não lava nossas roupas, nem arruma nossas camas, mas para questões que envolvem linguagem, a IA generativa está de prontidão, com uma disponibilidade com que nenhum ser humano pode competir. Nesse caso, a ética atinge níveis de sutileza que não cabem em regras, já que se trata de uma ética internalizada que depende de uma educação para a ética.
IHU – Pode explicar a diferença entre IA preditiva e IA generativa?
Lucia Santaella – Bem lembrado. Desafortunadamente, quando se entra no tema da IA, nem todos se preocupam com a diferença, para mim, fundamental entre, de um lado, a IA preditiva, classificatória, que é a menina dos olhos do mundo corporativo, já que a detecção de padrões e de correlações ajuda e apressa tomadas de decisões e, de outro lado, a IA generativa. É claro que elas se misturam, mas isso não apaga suas diferenças fundamentais.
Sintetizando: a IA preditiva ingere grandes volumes de dados históricos de diferentes fontes, relevantes para o problema que lhe é colocado. Então os algoritmos de aprendizado de máquina analisam esses dados buscando tendências, padrões e relacionamentos entre variáveis. Isso não seria possível sem a modelagem estatística, ou seja, várias técnicas estatísticas e de aprendizado de máquina para, a partir dos dados, treinar modelos que sejam preditivos, ou seja, modelos que sejam treinados com o propósito de alcançar determinado resultado.
Em seguida, vem a fase da validação do modelo. Para isso, a exatidão e a precisão dos modelos são não apenas rigorosamente testadas, quanto também os modelos são refinados até que o nível desejado de desempenho preditivo seja alcançado. A seguir, com os modelos razoavelmente precisos, passa-se para a simulação de cenário, quando diferentes cenários são simulados para o ajustamento dos parâmetros de entrada de modo a estimar previsões sob diversas condições. A etapa posterior é a da implantação do modelo em ambientes de produção, o que não impede que novos dados sejam continuamente inseridos nos modelos para gerar insights preditivos atualizados...
Por fim, vem a integração de processos dos insights preditivos “aos processos de negócios e fluxos de trabalho por meio de painéis, alertas APIs, etc., para permitir a tomada de decisões orientada por dados com base nas previsões do modelo”. Todo esse percurso torna a IA preditiva poderosa e valiosa para as corporações e organizações atuais, com o surplus de que os modelos tornam-se mais inteligentes com o tempo, à medida que processam mais informações.
A IA generativa, por sua vez, embora ainda se utilize de aprendizagem de máquina e redes neurais, está voltada para a criação de conteúdo novo e original, como imagens, texto e outras mídias, aprendendo com os padrões de dados existentes. Ela é um subconjunto do aprendizado profundo, mas de um tipo diferente, chamado de Modelo Gerativo que aprende com um conjunto subjacente de dados para gerar novos dados que imitam de perto os dados originais. Por meio do emprego de aprendizagem não supervisionada, esses modelos são usados principalmente para criar novos conteúdos, como imagens, texto ou até mesmo música, semelhantes àquilo que pode ser criado por humanos. Por ter entrado na seara antes exclusivamente humana da conversação, a IA generativa vem provocando rodopios nas tradicionais concepções de criatividade, autoria, originalidade e autonomia, ferindo nas bases justo esses fatores que costumavam alimentar a autoestima e mesmo a arrogância humana.
IHU – Sabemos que há diferentes subconjuntos deste tipo de inteligência maquínica. Eu gostaria de sublinhar um deles, o Large Language Models – LLM, associado ao processamento de linguagem natural. O ChatGPT é baseado nessa linguagem. Quais são as potencialidades e os limites do LLM?
Lucia Santaella – Pela maneira veloz com que os LLMs vêm evoluindo e aumentando seus potenciais – veja-se agora a entrada no mercado dos Agentes de IA –, fica difícil prever seus limites. Não é por acaso que essa nova tendência da IA está provocando agitações. Antes dos agentes, os sistemas de IA necessitavam de intervenção humana para sua execução. Com eles, como o próprio adjetivo diz, a IA adquire a capacidade de iniciar ações de forma independente, tendo por base as suas avaliações de uma situação determinada. Isso os habilita a navegar em ambientes complexos e realizar tarefas com um nível de iniciativa e adaptabilidade surpreendente.
Equipados com aprendizado de máquina, processamento de linguagem natural e outras tecnologias de ponta, os Agentes de IA aprendem com dados, adaptam-se a novas informações e executam funções complexas de forma autônoma. Eles são de vários tipos, desde chatbots até robôs sofisticados para a área da saúde e da indústria, projetados para entender, analisar e responder a informações humanas, evoluindo constantemente para aprimorar suas capacidades.
Esses avanços são, de fato, assustadores, especialmente para aqueles que estão assistindo a tudo isso do lado de fora, ou seja, usuários não especialistas. Especialistas são aqueles que Martin Ford, no seu livro, justo com esse título, chama de Arquitetos da IA. São esses arquitetos que podem antecipar os riscos, inclusive. Não vem do acaso que alguns antigos desenvolvedores, como Geoffrey Hinton, tenham agora tirado o pé da canoa. Abandonaram suas posições para apontar para os perigos que se avizinham causados pelos efeitos da IA sobre o humano. Na verdade, eles veem o que não conseguimos ver. Conhecem os segredos dos encaminhamentos que as pesquisas podem tomar.
IHU – Como superar o presentismo agudo do debate em torno da IA e pensá-la em sua complexidade e perspectiva futura?
Lucia Santaella – Não me canso de dizer que o presentismo é a praga cultural do nosso tempo. Junto com a arrogância de pessoas que se põem a falar e divulgar pseudossaberes, sobre aquilo que não conhecem como deveriam, forma-se uma mescla nefasta de desprezo pelo passado, pelas raízes que foram levando às condições em que ora estamos.
O passado vale pelas lições que nos dá. Ignorá-lo significa perder a capacidade de avaliar os potenciais e limites do presente. Não é casual a verdadeira mania que nos rodeia com as preocupações relativas ao futuro. Lançar-se com tanta pressa ao futuro pode levar, e leva, não só ao esquecimento do presente, mas à fuga dos desafios, dilemas e contradições que nos assombram. Mais confortável ficar sonhando com o futuro do que enfrentar as dificuldades que entravam o presente.
IHU – O que é possível vislumbrar sobre o humano e sobre o humanismo diante de um mundo marcado pela IA?
Lucia Santaella – Não renuncio à sugestão de que estamos atravessando um salto antropológico de profundas dimensões. A IA é o ponto em que hoje estamos, mas o humano é um ser em evolução. Basta não apenas olhar, mas se interessar pelo passado, nem precisa ir muito longe na arqueologia, pois a história da cultura nos permite dar conta dessa evidência.
Desde que a IA se instalou nas práticas e vida humanas, sem exagero, passamos a existir no vórtice de um furação. Não tenho vocação catastrofista nem profética. A única certeza que temos em relação ao futuro é que ele será diferente do que pensamos que ele será. Costumo acreditar na força maior da espécie humana que é a capacidade adaptativa. Com a IA, essa capacidade está sendo colocada à prova.
IHU – Qual o papel da educação, dos educadores e da formação humanista no mundo atual?
Lucia Santaella – Os educadores sempre foram a alma das sociedades, e assim deveriam ser considerados. A cultura de um povo é medida pelo valor que é dado ao educador. A formação de gerações que brotam depende da transmissão segura e serena de pessoas vocacionadas para as tarefas educativas. Digo vocacionado porque são muitos fatores humanos envolvidos, como empatia, acolhimento, compreensão, amor pelo seu fazer, envolvimento, entrega psíquica e apego aos valores humanos que não podem ser levados de roldão.
Mas atravessamos tempos difíceis. O hiato geracional estreita-se e, ao mesmo tempo, alarga-se cada vez mais. Explico-me. Nós humanos nos tornamos hiper-híbridos e as crianças – difícil de explicar, mas é um fato – parecem já nascer adaptadas. A velocidade, a destreza e a flexibilidade motora com que se manipula o celular hoje funciona como um marcador etário. Fala-se de dependência, o que é um equívoco e revela uma incompreensão com o que está acontecendo e que costumo chamar de simbiose do humano e tecnologia. Não se trata aí de mera metáfora emprestada da biologia. Mais do que isso, estamos emaranhados nas tecnologias.
De resto, a tecnologia nunca foi algo externo ao humano, mas um complemento inseparável de nossa sobrevivência. A partir da revolução industrial, seguida da eletroeletrônica, o processo atingiu o pico que ora vivemos com a revolução digital que conduziu à IA. E não deve parar por aí, pois a quântica já está batendo às portas.