Tecnologia e dilemas éticos

Revista ihu on-line

Diálogo interconvicções. A multiplicidade no pano da vida

Edição: 546

Leia mais

Cultura Pop. Na dobra do óbvio, a emergência de um mundo complexo

Edição: 545

Leia mais

Revolução 4.0. Novas fronteiras para a vida e a educação

Edição: 544

Leia mais

Mais Lidos

  • O Papa publicará, na próxima semana, a exortação pós-Sínodo da Amazônia

    LER MAIS
  • Às leitoras e aos leitores

    LER MAIS
  • ‘Dois Papas’ é melhor do que o novo livro dos ‘três papas’

    LER MAIS

Newsletter IHU

Fique atualizado das Notícias do Dia, inscreva-se na newsletter do IHU


close

FECHAR

Enviar o link deste por e-mail a um(a) amigo(a).

Enviar

05 Dezembro 2017

Inteligência Artificial é uma dessas raras expressões técnicas que muitas vezes podem não só confundir as ideias, mas também gerar fortes reações emocionais.

Vamos então momentaneamente colocá-la de lado e tentar esclarecer um poucos as coisas, porque a questão - não importa como nós a chamemos - merece muita atenção.

O comentário é de Juan Carlos De Martin, publicado por La Repubblica, 03-11-2017. A tradução é de Luisa Rabolini.

O primeiro elemento é que já há alguns anos os computadores começaram a fazer determinados trabalhos significativamente melhor classificados do que anteriormente. Refiro-me a trabalhos do tipo "dado A, responder B " como transformar a voz em texto, reconhecer o rosto de pessoas ou o início de um melanoma, distinguir objetos em fotografias e em vídeo e até mesmo sintetizar um texto ou traduzir instantaneamente de uma língua para outra.

A melhora repentina surpreendeu os próprios pesquisadores, mas as causas do salto de qualidade são relativamente simples: novas maneiras de usar técnicas, em alguns casos já em uso há décadas, e disponibilidade de grandes quantidades de dados adequados para "ensinar" aos algoritmos a resposta correta.

A consequência é que um número crescente de operações de classificação será confiado a computadores. Como escreveu um dos principais especialistas na área, Andrew Ng: "Se uma pessoa pode desempenhar uma tarefa mental em menos de um segundo, provavelmente essa tarefa pode ser automatizada já agora ou no futuro imediato".

Parece coisa pouca, mas não é.

Ter "classificadores" de alta performance dentro de cada dispositivo digital, de fato significará que muitas atividades até agora exclusivas dos seres humanos poderão ser executadas automaticamente em qualquer momento e praticamente em qualquer lugar. As consequências positivas são potencialmente muitas, que vão desde melhorias na medicina até superar, ao menos parcialmente, as barreiras linguísticas.

No entanto, existem também aspectos sobre os quais é preciso refletir cuidadosamente. As técnicas classificatórias, além de eliminar muitos postos de trabalho, poderiam, por exemplo, tornar a vigilância em massa ainda mais invasiva e intrusiva do que é agora. Além disso, também poderiam ser usadas (e, em parte, isso já está acontecendo) para determinar automaticamente a maior ou menor propensão para o trabalho ou para o estudo, as preferências políticas, sexuais ou religiosas, a origem étnica, etc. de uma pessoa. É evidente o potencial discriminatório possível que isso representaria caso as técnicas viessem a ser tratados como oráculos em vez de instrumentos inerentemente imperfeitos.

Mas há um segundo elemento: da classificação á predição o passo é curto. O crescimento exponencial da disponibilidade de dados de todo tipos, de fato, está alimentando o desenvolvimento de algoritmos que visam prever (em base estatística) em que área da cidade ocorrerão mais crimes, se uma determinada pessoa vai ser um trabalhador produtivo ou não (ou se merece ou não receber um empréstimo) ou a probabilidade de cometer mais crimes por parte de um preso. Mais uma vez, corre-se o risco não só de esquecer que os algoritmos são imperfeitos (por exemplo, se os dados de treinamento incorporarem discriminações, os algoritmos discriminarão), mas também se tocam – em questões de previsão - aspectos cruciais da dignidade humana, como o livre arbítrio ou a presunção de inocência.

Trata-se, portanto, de desenvolvimentos que, mesmo sem apelar a "inteligências artificiais" como Hal 9000, por um lado prometem grandes benefícios, mas, pelo outro, levantam questões éticas e sociais de grande importância. A Itália deve urgentemente investir tanto no desenvolvimento e na utilização dessas tecnologias, quanto na reflexão sobre a melhor forma de usá-las para que possa enfrentar essa enésima revolução tecnológica com consciência crítica e sensibilidade democrática.

Leia mais

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

Tecnologia e dilemas éticos - Instituto Humanitas Unisinos - IHU

##CHILD
picture
ASAV
Fechar

Deixe seu Comentário

profile picture
ASAV