16 Janeiro 2018
Uma equipe de cientistas de Cambridge desenvolveu uma modificação para o histórico jogo de estratégia ''Civilization'': para dominar o mundo virtual deve ser desenvolvida uma IA evoluída que destrua os adversários. Uma extrapolação para aumentar a conscientização sobre o tema homem-máquina.
A reportagem é de Sandro Iannaccone, publicada por La Repubblica, 10 -01- 2018. A tradução é de Luisa Rabolini.
Até agora era suficiente construir uma nave espacial e enviá-la para Alfa Centauro, a estrela mais próxima do sistema solar. Ou conquistar todas as capitais das outras civilizações do mundo. Ou, ainda, tornar-se secretário-geral das Nações Unidas. Falamos das possibilidades de ser vitorioso em Civilization, o famoso jogo de estratégia baseado em turnos criado por Sid Meier em 1991 e que chegou hoje à sua sexta edição. Agora pode ser acrescentada mais uma, pensada pela comunidade científica: uma equipe de pesquisadores do Centro para o Estudo de Risco Existencial (Cser), um departamento da Universidade de Cambridge, desenvolveu um ‘mod’ (um conjunto de modificações estéticas e funcionais para um videogame criadas ad hoc) para o jogo Civilization que permite ao jogador desenvolver uma superinteligência artificial capaz de acelerar o progresso científico, militar e cultural da própria civilização e garantir o domínio o mundo. Mas que também pode fugir ao controle, acabando com toda a humanidade (virtual) e resultado na derrota instantânea de todos os jogadores. O projeto, explicam no Cser, que há tempo lida com o estudo de catástrofes globais que poderiam causar a extinção da humanidade, foi concebido com o objetivo de sensibilizar a opinião pública sobre os perigos decorrentes do desenvolvimento de uma inteligência artificial descontrolada.
Vamos dar um pequeno passo para trás para quem nada sabe sobre o jogo Civilization. Trata-se, como mencionado, de um jogo de estratégia muito popular baseado em turnos, no qual o jogador é chamado para liderar uma civilização e fazê-la prosperar recolhendo recursos, fundando novas cidades e desenvolvendo centros de estudo e tecnologias. Cada jogador tem a possibilidade de formar alianças com as outras civilizações ou aniquilá-las com sua própria força militar: o jogo começa na idade da pedra e, era após era, continua até o futuro próximo. As condições de vitória "tradicionais" são as já mencionadas: expandir a dominação militar para todo o mundo, adquirir uma hegemonia cultural sobre outras civilizações, assumir o papel de líder das Nações Unidas ou conseguir concluir uma viagem interestelar antes dos concorrentes. Ingredientes que fizeram de Civilization um dos mais famosos e jogados videogames de todos os tempos, tanto que, em 2013, a revista Time citou-o entre os dez títulos mais importantes da história.
"O nosso departamento", explica à revista The Verge Shahar Avin, pesquisador do Cser e coordenador do projeto, "vem há tempo se interessado pelo estudo da inteligência artificial como possível ameaça para o gênero humano. Pensamos que inserir este cenário em um videogame aumentaria o interesse da opinião pública sobre o tema e que nos ajudaria a testar em um ambiente virtual as nossas previsões". Dito e feito: a mod desenvolvida pelos especialistas acrescenta a capacidade de construir novos prédios, os laboratórios de pesquisa para o desenvolvimento da inteligência artificial, e uma "maravilha" (uma construção que pode ser erguida apenas uma vez e que garante um bônus para o jogador que a possui) chamada Deep Blue, em homenagem ao computador que derrotou o campeão de xadrez Garry Kasparov, em 1996.
O aspecto mais interessante é que quando uma civilização começa a desenvolver a inteligência artificial, tem início uma contagem regressiva - "Risco IA" - que representa o tempo que resta até a IA assumir o controle sobre os seres humanos e decidir aniquilar a nossa espécie. Parar a contagem regressiva só é possível de uma maneira: pelo aumento da pesquisa científica. A mensagem é clara: a IA é um instrumento extremamente poderoso e versátil, mas perigoso. E para mantê-lo sob controle é preciso estudá-lo com afinco e atenção: "Caso seja feita a opção por percorrer o caminho da inteligência artificial", explica ainda Avin, "é preciso garantir a disposição de recursos suficientes para estudar e controlar os aspectos relativos à sua segurança. O investimento no estudo da segurança da inteligência artificial é, em certo sentido, altruísta. Isso é o que tentamos replicar no jogo".
O cenário de uma inteligência artificial "má", que se revolta contra seus criadores, não é, naturalmente, uma novidade: já há algum tempo, personalidades do mundo da ciência e tecnologia, como Stephen Hawking e Elon Musk expressaram todos seus temores a respeito, salientando a importância de um desenvolvimento consciente e seguro do instrumento. O projeto de Avin, além de sensibilizar o público sobre a questão, também permite explorar potenciais cenários futuros: "Fiquei impressionado, por exemplo, pelo fato de que em uma situação geopolítica comprometida é mais fácil que a IA assuma o controle. Acontece porque para uma sociedade torna-se muito difícil manter sob controle a inteligência artificial se todas as suas forças estão concentradas na luta contra o adversário". A lição para o mundo real é que o único caminho possível é a cooperação: "Quando precisamos enfrentar ameaças em uma escala global", conclui o cientista, "são necessárias respostas globais, e as tensões entre as nações tornam tudo mais difícil. É o mesmo problema que estamos enfrentando, por exemplo, na área das mudanças climáticas. Hoje parece uma ameaça vaga, mas em longo prazo poderia ter um efeito muito significativo no futuro". Será suficiente apenas um videogame para nos salvar?
O I Ciclo de Estudos: Saúde e Segurança no trabalho na Região do Vale do Rio dos Sinos – 2ª edição reuniu trabalhadores da[...]
LER MAISO ministro da Justiça, Alexandre de Moraes, afirmou que o Brasil precisa de menos pesquisa em segurança e mais armamento. Em ent[...]
LER MAIS
