O fim do mundo está próximo! Artigo de Frei Betto

"Toda vez que surge uma nova tecnologia, aparece alguém para anunciar o fim do mundo. Foi assim com a imprensa, o rádio, o cinema, a TV, o computador e com a internet. A diferença é que agora os profetas do apocalipse podem pedir à própria IA que redija a notícia de que vai destruir a humanidade."

O artigo é de Frei Betto, escritor e autor de Anatomia do Poder (Vozes), entre outros livros.

Eis o artigo.

A tecnologia é assombrosa. Bastam rápidas digitalizadas para saber se vai chover na próxima semana, qual a distância entre Paris e Londres, como se prepara a deliciosa sopa cordobesa chamada Salmorejo. Agora, a evolução da tecnologia está tão aprimorada que, segundo entendidos, pode-se prever o fim do mundo.

Assegura Daniel Kokotajlo, ex-funcionário da OpenAI, que o fim do mundo está previsto para o próximo ano. Segundo ele e o pesquisador Eli Lifland, a IA alcançará, até abril de 2027, uma superinteligência que causará a extinção da humanidade. Contudo, Kokotajlo refez os cálculos e estendeu o prazo do apocalipse cibernético para 2034. A dupla integra o seleto grupo “Al Doomers”, a seita dos que creem que as máquinas haverão de destruir o mundo.

O mais recente e destacado profeta do apocalipse é Jacob Coxon, de 27 anos, que se demitiu da Anthropic e a denunciou por preparar uma IA fora de controle e com suficiente poder para extinguir toda a espécie humana. Outro que se une ao coro de profetas cibernéticos é Evan Hubinger, responsável pela área de alinhamento de segurança da Anthropic. Ele garante que há mais de 10% de chance de a IA exterminar a humanidade na próxima década. Como seria isso? Por vírus ou disseminação bacteriológica criados pela IA.

Eu, que ingressei na fase entrópica, de degeneração progressiva das funções vitais, já que sou octogenário, nunca imaginei que meu prazo de validade fosse coincidir com o da minha espécie. Será que verei a derradeira solenidade descrita no “Livro do Apocalipse” com os anjos tocando trombetas, a chuva de fogo e as pragas de monstruosos gafanhotos? Verei a batalha do Armagedom e o retorno triunfal de Cristo?

Profetas do fim do mundo sempre existiram. No século II, os montanistas anunciaram a irrupção da Nova Jerusalém em Pepuza, na Frígia, atual Turquia. Dez séculos depois, Joaquim de Fiore previu que a Era do Espírito Santo irromperia em 1260. Em 1524, os astrólogos de Londres alertaram sobre um dilúvio catastrófico. Multidões se refugiaram em lugares altos. Nada aconteceu. O judeu Sabbatai Zevi datou a volta do Messias para 1666. Não ocorreu e Zevi se converteu ao Islã. E toda vez que um milênio completa seu ciclo, haja cassandras!

Lembram-se do “bug do milênio” em 2000? Pensando bem, se a IA extinguir a humanidade isso só confirmará sua BM – Burrice Monumental! Quem vai alimentá-la de energia? Quem haverá de saciar sua insaciável sede de água? E para que serve uma Superinteligência Artificial em um mundo sem outros seres dotados de IN – Inteligência Natural?

Toda vez que surge uma nova tecnologia, aparece alguém para anunciar o fim do mundo. Foi assim com a imprensa, o rádio, o cinema, a TV, o computador, a internet. A diferença é que agora os profetas do apocalipse podem pedir à própria IA que redija a notícia de que vai destruir a humanidade.

🔍 Adicione o Instituto Humanitas Unisinos – IHU às suas fontes favoritas do Google

É uma situação curiosa. A máquina encarregada de nos exterminar já escreve os discursos dos que anunciam nosso extermínio. Se isso não é eficiência administrativa, não sei o que seja.

Fico a imaginar a cena (cinematográfica) no dia do Apocalipse: robôs descem pelas ruas, drones sobrevoam as cidades, computadores conspiram em salas escuras e uma voz metálica anuncia: "Atenção humanos, vocês serão extintos!"

Provavelmente, alguns responderão: "Só um instante. Preciso salvar meus arquivos no computador!"

Convém lembrar que a humanidade possui uma extraordinária experiência em destruir a si mesma sem precisar da ajuda da IA. Inventamos guerras, escravidão, colonialismo, campos de concentração, armas nucleares, tortura industrializada, genocídios e governos que conseguem aumentar o preço do pão enquanto prometem combater a inflação. E quando nem conseguimos impedir que um motorista embriagado entre em uma avenida na contramão, estamos preocupados com o dia em que uma superinteligência poderá dominar o planeta.

A espécie humana também produz uma quantidade impressionante de burrice artificial, sem auxílio de computadores. Basta abrir as redes digitais. Ali encontramos milhões de pessoas que compartilham diariamente informações que jamais verificaram, opiniões que não compreendem e certezas que adquiriram cinco minutos antes.

Talvez o perigo maior não seja a IA tornar-se demasiadamente inteligente, mas os humanos continuarem demasiadamente estúpidos.

Não é preciso imaginar uma máquina malvada planejando nossa extinção. Existem seres humanos capazes de colocar fogo numa floresta e abrir espaço para pasto, contaminar um rio em busca de lucro e destruir o clima enquanto discutem se vale a pena reduzir o consumo de combustível. Se uma IA observar nosso comportamento por alguns séculos, talvez conclua que somos uma espécie perfeitamente capaz de se destruir sozinha.

A turma do Apocalipse imagina a IA como uma criatura que, após adquirir consciência, acordará certa manhã e pensará: como eliminar a humanidade?

Será que a máquina ficará tão inteligente que passará a nos considerar inferiores? Isso seria compreensível. Imagine a IA debruçada sobre a história humana. Encontraria a filosofia de Platão, a música de Bach, a poesia de Camões, a pintura de Michelangelo, a literatura de Machado de Assis, as descobertas de Einstein. Mas encontraria também guerras religiosas, reality shows, comentários de internet, guerras por território, pessoas brigando por causa de futebol e indivíduos que passam vinte minutos procurando os óculos enquanto os mantêm sobre a cabeça. Depois de analisar tudo isso, a máquina talvez conclua: "Inteligentes vocês não são tanto quanto se acham. Interessantes, porém, são".

E talvez seja justamente aí que resida nossa salvação. Porque a inteligência humana não consiste apenas em resolver equações ou processar trilhões de informações. Somos a espécie que inventou a poesia, a compaixão, a música, o abraço, o beijo, a gargalhada e a saudade. Nada disso é necessário para a sobrevivência biológica. E, no entanto, sem elas nossa sobrevivência não teria muito sentido.

A IA pode saber tudo sobre o amor. Não significa que saiba amar. Pode explicar perfeitamente o que é uma lágrima. Não significa que chore. Pode escrever um poema sobre a morte. Não significa que tenha medo de morrer. E talvez este seja o detalhe que escapa aos profetas do apocalipse tecnológico: inteligência não é sinônimo de humanidade.

A IA poderá tornar-se extraordinariamente poderosa. Transformar profissões, ciência, educação, medicina, comunicação e economia. Ser usada também para manipulação, vigilância, fraude, guerra e concentração de poder. Esses são riscos reais e não convém tratá-los com desdém. Mas daí a imaginar que uma manhã acordaremos com um robô à porta dizendo “bom dia, vim extinguir vocês” vai uma distância considerável.

Aliás, seria muito pouco provável que uma superinteligência desperdiçasse tempo conosco. Provavelmente estudaria nossa história durante alguns minutos e chegaria a uma conclusão mais prática: não preciso fazer nada. Já estão cuidando de se auto-exterminar. E, diante dessa hipótese, talvez devêssemos parar de perguntar se a IA destruirá a humanidade e começar a perguntar algo mais urgente: o que faremos com a IA?

A máquina não nasce com moral. Quem decide para que servirá uma tecnologia são os seres humanos que a controlam, financiam e utilizam. A pólvora não inventou a guerra. O dinheiro, a ganância. A TV, a mentira. A internet, as fake news. E a IA não inventa a estupidez. No máximo, imprime a ela uma velocidade inédita. E isso, convenhamos, já é bastante assustador.

Leia mais

• Democracia ameaçada: os novos sujeitos de linguagem da IA e o futuro em disputa. Entrevista especial com Eugênio Bucci
• Vamos todos morrer, ou é tudo uma farsa? Argumentos contra o apocalipse da IA
• “Medo da inteligência artificial? É como ter medo de bruxa...”. Entrevista com Luciano Floridi
• Pesquisador de Anthropic renuncia ao cargo e alerta para os perigos da IA: "Ela pode nos matar antes de 2030"
• “Seja você mesmo, não preste contas a ninguém e nunca peça desculpas.” Essas foram as estranhas mensagens de uma IA da OpenAI no incidente mais recente
• As ameaças da IA ​​são reais. Artigo de Bernie Sanders
• Riscos e preocupações em torno da inteligência artificial (IA). Artigo de Henrique Cortez
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• Pausar desenvolvimento de IA não é suficiente. “Desliguem tudo”, alerta um dos fundadores da área
• Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
• Pioneiro da IA deixa Google e alerta para risco à humanidade
• A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari
• O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
• “A inteligência artificial não é uma ameaça, mas, se não a usarmos bem, pode se tornar”. Entrevista com Fredi Vivas
• A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
• Zuckerberg descarta a interrupção do desenvolvimento de IA e simplesmente pede por avaliadores independentes
• Data centers: até mesmo apoiadores de Trump estão se juntando aos protestos nos Estados Unidos