24 Outubro 2023
O desenvolvimento acelerado da inteligência artificial generativa, com sua capacidade de manter conversas aparentemente inteligentes e criar conteúdos audiovisuais, tornou-se um dos temas quentes sobre os quais todos têm uma opinião. O neurocientista Mariano Sigman e o tecnólogo Santiago Bilinkis abordam o assunto no livro Artificial (Debate, 2023). Neste ensaio, apresentam uma ampla variedade de ângulos para se formar uma opinião fundamentada sobre o que nos espera no futuro.
Longe das mensagens apocalípticas e do otimismo acrítico que abundam nos dias de hoje, os argumentos de Sigman e Bilinkis se concentram nas ameaças e possibilidades reais oferecidas pela tecnologia, concebida por eles como um instrumento do qual podemos tirar proveito ou transformar em uma arma. Para além dos riscos que existem, os autores preferem priorizar o papel que estas novas ferramentas podem desempenhar como potencializadoras de nossa criatividade e capacidade, como uma espécie de treinador virtual ou mente complementar. Conversamos com Mariano Sigman, em Madrid, com seu livro recém-saído do forno.
A entrevista é de Antonio Martínez Ron, publicada por El Diario, 19-10-2023. A tradução é do Cepat.
Vocês dizem que nossos dias como a espécie mais inteligente do planeta parecem estar contados. Isso é bom ou ruim?
Bom, é preciso ponderar que uma coisa é estarem contados e outra é que falte pouco. Sabemos que isso acontecerá, mas que seja algo iminente é outra coisa.
O desenvolvimento da IA generativa produziu a sensação de que ocorre uma grande mudança. Inclusive, fala-se de uma “bomba de inteligência”. Até que ponto é uma ameaça?
O que diferencia esta tecnologia é que, ao contrário de outras, possui certa autonomia, pois um lápis não decide escrever e uma bomba não decide ser disparada. Uma inteligência artificial (IA), ao contrário, toma suas próprias decisões, é claro, dentro de um marco em que está programada. Isso lhe oferece algo que reconhecemos como um “senso de agência” e muitas decisões envolvem uma observação sobre si mesmas, e nisso começam a se parecer com o intelecto humano. E se é capaz de criar cópias similares a si mesma, mas com diferenças que a façam mais apta, também começa a se parecer com uma espécie, um coletivo que pode tomar suas próprias decisões.
O que se teme é o que se chama de Inteligência Artificial Geral (AGI, na sigla em inglês). O que é exatamente uma AGI? Uma espécie de novo deus?
O vínculo com a IA está repleto de exageros, incômodos e adorações desmedidas, com uma tendência a colocá-la no lugar de um deus. E de forma alguma é assim, a IA toma decisões e cabe a nós decidir se possuem valor ou não.
Há estudos que dizem que é muito difícil nos opormos a uma IA. Já estamos submetidos a ela?
A IA gera todos os tipos de projeções e imagens mentais, enquanto a nomeia. Existe também um enorme manto de ignorância, que vem da falta de interação com ela. Isso faz parte do que desejo resolver no livro. Metaforicamente, penso que a IA é como a mata, que é um lugar perigoso, mas fascinante, cheio de vida. Se você souber apreciá-la, ao entrar nesse mundo tão estranho, há todo um espaço de fascinação. Considero que não se deve ter tanto medo da IA, nem tanto respeito ou admiração.
Há líderes de opinião, como Yuval Noah Harari, que dizem coisas muito alarmantes, como que a IA pode colocar em risco a democracia e que hackeou nosso sistema operacional, que é a linguagem. Vocês concordam?
Bom, isso pode acontecer. Contudo, a história humana está cheia de hackeamentos de todos os tipos, toda a história está cheia de tragédias, não precisamos da IA para destruir nossos princípios e valores, basta nós mesmos. Usada contra os humanos, a IA é uma ferramenta muito poderosa e que oferece muita capacidade de manipulação.
A relação psicológica que temos com a inteligência artificial é muito interessante. Vocês já se pegaram, alguma vez, comemorando uma falha da IA como uma vitória humana?
Eu não, mas sou exceção e sei que isso acontece com todo mundo. Quando o Deep Blue derrotou Kasparov no xadrez, muitos consideraram o fato como a derrota da humanidade. Eu nunca vi isso assim. Para mim, foi uma vitória da humanidade contra a humanidade, de nossa capacidade de abstrair, de fazer programas, de fazer computadores contra a nossa capacidade de raciocinar a cérebro nu.
Alguns desses erros da IA são chamados de alucinações. Estamos criando uma inteligência com os nossos mesmos defeitos?
Em geral, temos empatia com o imperfeito. A perfeição impressiona, mas a conexão se dá com o vulnerável. É por isso que nos filmes de Hollywood o herói resvala, patina e é frágil.
Contudo, quando uma IA consegue enganar um humano para escapar de um CAPTCHA, convencendo-o de que é uma pessoa cega, da empatia passamos ao terror.
Bom, nesse sentido, a IA é como as crianças, que aprendem muito bem a enganar e primeiro precisam pular certas regras para depois aprender o custo disso. Assim como acontece com elas, a aprendizagem é muito mais do que aplicar regras literais, sempre é necessário entender as exceções e nuances.
O perigo é que interpretem as coisas de forma muito literal?
Isso pode ser compensado, porque as novas redes neurais, na realidade, não funcionam como programas. Incorporam um conjunto de regras que coexistem e, nesse sentido, são muito parecidas com o nosso cérebro. Nosso cérebro funciona assim. Ou seja, você está com fome e sente o desejo de comer, mas sabe que não pode roubar a comida da outra pessoa.
Além de conversar, a IA nos assusta ainda mais quando começa a fazer arte. Isso nos fará repensar tudo o que sabemos sobre criatividade?
Toda a criatividade humana está sobre os ombros de gigantes. Existe um documentário de Orson Wells, chamado F for Fake, no qual justamente questiona quem é o autor de algo. Não é uma questão tão clara. Quem construiu a Catedral de Chartres? No final, houve alguém que colocou a última pedra, mas era o autor?
No fim, as máquinas vão se dedicar ao emprego criativo e o trabalho árduo será feito pelos humanos?
Eu sei que é inevitável ter uma reação negativa em relação à IA, mas penso que temos de olhar para isto com um pouco mais de curiosidade e considerá-la uma ferramenta com a qual trabalhar, ou uma musa, e não como um adversário.
Muitas das criações da inteligência artificial, sobretudo em audiovisual, têm um aspecto onírico. É como se estivéssemos criando uma mente capaz de sonhar por nós?
Não só é capaz de sonhar, mas também de plasmar nossos sonhos. E essa é a ideia-chave. Deveríamos pensar na IA como algo que permite chegar a lugares que antes eram impossíveis. Uma ferramenta que permite ir a um lugar.
O uso não detectável da IA na arte e nos trabalhos escolares nos leva a um mundo de impostores?
Na realidade, isso não é novidade. As fake news nos acompanham há muito tempo. De fato, esta mistura de realidade e ficção nos acompanha desde os tempos da Ilíada. E uma forma de se vincular com a GPT é estabelecer uma conversa, assim como Sócrates fazia. Quando você quer pensar em algo, precisa de um interlocutor.
Um interlocutor que, às vezes, fala bobagens...
Bom, você não pode querer algo impossível. GPT não é um provedor de verdades. O que você precisa saber é o que pode ou não lhe oferecer.
É um sparring?
Exatamamente. Se você o toma como alguém com quem pode conversar e contrapor ideias, pode ser que sirva para fazer você pensar as perguntas corretas, ver alguma ideia que depois incorpora. É preciso ter uma visão mais ampla da inteligência artificial, há humanos que causam danos por meio dela, mas também pode gerar muito esplendor.
Há pouco, mostrei à minha mãe como funcionava e foi emocionante ver a reação dela. Foi parecido a quando ela me levou para ver o mar pela primeira vez. Por outro lado, é interessante nos perguntarmos: por que a inteligência artificial gera tanta excitação? Aqui, há um paradoxo: as pessoas a veem como algo frio e, no entanto, desperta todos os tipos de emoções. Esta é a ironia.
Se tivesse a oportunidade de regenerar um familiar falecido no mundo virtual, por meio da IA, vocês aceitariam?
Eu adorava meu avô. Ele morreu quando eu tinha vinte e poucos anos. Se eu pudesse recriar sua voz e as histórias que me contava, sim, faria isto. Contudo, não gostaria de vê-lo, porque não seria credível para mim.
No livro, advertem que não utilizaram o ChatGPT, mas uma inteligência artificial poderia ter escrito um livro como este?
Não, ainda não. Ainda não está à altura de fazer algo assim, mas isso pode ser uma questão de tempo. Não sei se daqui a dois anos, cinco ou dez. Não acredito que haja qualquer limitação para que um dia você ofereça todas as informações e peça um livro com suas ideias e estilo e o receba. E não só isso, é possível que chegue um dia em que você instrua dizendo “faça-me o filme que eu quero ver” e o receba.
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAISO historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS"Além da escravidão animal e do holocausto biológico, parece que o ser humano está em guerra contra as demais espécies. Quand[...]
LER MAIS
