A ameaça de armas nucleares “autônomas”

Mais Lidos

  • O Papa: as paróquias devem ser comunidades próximas, sem burocracia. Vídeo do Papa

    LER MAIS
  • "Vou para Roraima em espírito de serviço e de prontidão para aquilo que Deus quer". Entrevista com Dom Evaristo Spengler

    LER MAIS
  • Por um ‘Tribunal Russel’ sobre o genocídio Yanomami. Artigo de Tarso Genro e Marcelo Carneiro da Cunha

    LER MAIS

Newsletter IHU

Fique atualizado das Notícias do Dia, inscreva-se na newsletter do IHU


Revista ihu on-line

Zooliteratura. A virada animal e vegetal contra o antropocentrismo

Edição: 552

Leia mais

Modernismos. A fratura entre a modernidade artística e social no Brasil

Edição: 551

Leia mais

Metaverso. A experiência humana sob outros horizontes

Edição: 550

Leia mais

28 Fevereiro 2022

 

Esta guerra no coração da Europa é uma tragédia, mas se cruzasse o limiar nuclear seria uma catástrofe para a humanidade! É uma preocupação que não parece alarmar a opinião pública, mas que infelizmente se torna mais terrivelmente concreta com as novas tecnologias para confiar os sistemas de alarme e lançamento de mísseis nucleares a automatismos. Esses sistemas não são mais aqueles dos tempos da Guerra Fria, quando alguns alarmes foram evitados por sorte pela decisão de heroicos oficiais de desobedecer à ordem que os teria forçado a ordenar uma retaliação nuclear (o mais conhecido foi o Coronel Petrov, mas não foi o único).

 

O comentário é de por Angelo Baracca, professor universitário, ativista e escritor italiano, publicado por il manifesto, 27-02-2022. A tradução é de Luisa Rabolini.


Com os recentes avanços (chamá-los de progressos neste caso seria absolutamente inadequado), com a tendência crescente de confiar tudo ao controle dos automatismos (mas como ignorar os interesses colossais por trás disso?), a fim de evitar o "erro humano", a decisão tomada por uma máquina será irrevogável.


Um artigo recente no Bulletin of the Atomic Scientists traz o eloquente título "Se a IA (Inteligência Artificial) controlasse as armas nucleares, todos nós poderíamos ser mortos!" A máquina não é suscetível à reflexão crítica e ao arrependimento, e isso pode levar ao desastre. O enorme problema das armas nucleares autônomas é o erro. A Inteligência Artificial (IA) baseada na aprendizagem automática fundamenta-se em grandes quantidades de dados para executar uma tarefa. Em um contexto de armas nucleares, um governo pode ter poucos dados sobre as plataformas militares adversárias; os dados existentes podem ser estruturalmente distorcidos, por exemplo, baseando-se em imagens de satélite; ou os dados podem não levar em conta variações óbvias e previstas, como imagens tiradas durante um dia nublado ou céu encoberto.


O maior desafio é a alta taxa de falsos positivos na previsão de eventos raros. Um sistema autônomo projetado para detectar e reagir contra uma arma nuclear que estiver a caminho, mesmo que altamente preciso, muitas vezes mostrará falsos positivos. Uma única mudança de pixel é suficiente para convencer uma IA de que um bombardeiro stealth é um cachorro. A IA atual não é apenas frágil, é fácil de enganar: se um país estivesse realmente buscando uma guerra nuclear, poderia primeiro enganar o sistema de IA tornando-o inútil.


O envenenamento dos dados poderia manipular os dados de treinamento que alimentam o sistema de IA, ou sistemas não tripulados ou emissores poderiam ser usados para induzir uma IA a acreditar que um ataque nuclear está a caminho. A falta de dados de treinamento e de ambientes de teste no mundo real significa que uma arma nuclear autônoma poderia sofrer inúmeras distorções, que poderiam nunca ser descobertas até que uma guerra nuclear já tivesse sido iniciada.


Um relatório recente do U.S. Government Accountability Office afirma que o Departamento de Defesa pode não ter suficientes dados utilizáveis  para treinar a IA. Por exemplo, a IA para detectar os submarinos de um adversário requer a coleta de muitas imagens de vários submarinos e sua rotulagem para que a IA possa aprender a identificar um sozinha.


Mais uma vez, a conclusão de que uma guerra nuclear não pode ser vencida e nunca deve ser travada que levou os presidentes Reagan e Gorbachev a concluir o tratado INF em 1987 foi reiterada no encontro dos 5 principais países com armas nucleares no início deste ano: mas ... no establishment da defesa EUA - militares, governo, think tank, indústria – continua-se a promover a percepção de que uma guerra nuclear pode ser vencida e combatida!


As crises anteriores que levaram à beira de uma guerra nuclear - mísseis em Cuba 1962, crise dos Euromísseis 1977-78 – concluíram-se com uma redução das armas nucleares: esta crise, obviamente esperando que não se precipite, deve terminar com uma redução da ameaça das armas nucleares! Para os pacifistas, e os governantes europeus, o mínimo é exigir a retirada das ogivas B-61 localizadas na Europa, cerca de quarenta na Itália nas bases italiana de Ghedi e estadunidense de Aviano.

 

Leia mais

 

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

A ameaça de armas nucleares “autônomas” - Instituto Humanitas Unisinos - IHU