11 Dezembro 2023
Paolo Benanti, professor da Pontifícia Universidade Gregoriana, é o único italiano membro do Comitê das Nações Unidas sobre Inteligência Artificial. Enquanto em Bruxelas o Parlamento e o Conselho da UE buscavam um acordo definitivo sobre a Lei da IA, Benanti sentava-se a uma mesa no Palácio de Vidro da ONU, na companhia de especialistas e empresas que deverão reportar ao secretário Guterres os riscos ligados à IA e uma proposta de governança em base internacional. “O nosso trabalho será divulgado no próximo dia 30 de dezembro”, conta Benanti, franciscano da Ordem Terceira Franciscana de espírito nerd, incluído pelo subsecretário Butti no Comitê italiano que trabalhará na estratégia do país sobre o uso da inteligência artificial. “Nós, europeus, deveríamos ficar felizes – afirma Benanti de Nova York, cidade que sedia as Nações Unidas – porque a Lei de IA nos protege e nos tutela”.
A entrevista é de Pier Luigi Pisa, publicada por La Repubblica, 10-10-2023. A tradução é de Luisa Rabolini.
Mas a inovação poderia se ressentir. Alguns acreditam que normas demasiado rigorosas poderiam sufocar o desenvolvimento da IA e tornar a Europa menos competitiva em comparação com os EUA, por exemplo.
Mas nós somos europeus. E justamente diante disso não podemos pensar que algo possa invadir o nosso mercado criando possíveis riscos sem antes avaliá-los. Alguma tecnologia poderá chegar com atraso? Paciência.
Os gigantes da tecnologia dos EUA se adequarão às novas normas?
Eles terão dois anos para o fazer. Pense-se na Microsoft, por exemplo, que foi a primeira grande empresa a integrar o ChatGPT nos seus produtos e que vê a Europa como um mercado muito importante. Certamente irá querer atender as diretivas europeias.
O acordo sobre a Lei de IA foi fechado em três dias. Falou-se em uma “maratona”.
Não são nada comparados com os interesses econômicos em jogo. Dadas as diferentes políticas e um mundo totalmente divididos sobre essas questões, acredito que é um resultado positivo.
Que vantagem tem a Europa?
Uma tradição muito longa baseada nos direitos. Então, quando falamos de direitos fundamentais do homem já existe um acordo básico. Percebe-se isso quando se passa para um nível superior, como a ONU, onde coisas que nós consideramos como garantidas não existem.
O que você mais gosta na Lei de IA?
O fato de dar aos cidadãos a oportunidade de recorrer. Por exemplo, em relação à forma como os dados biométricos são tratados.
A Lei de IA permite o reconhecimento facial apenas em casos extremos. Mas sabemos que em alguns lugares do mundo, como nos EUA por exemplo, é amplamente utilizado.
Estamos assistindo a uma mudança na gestão da identidade. Se eu reservar um quarto de um hotel, hoje tenho que mostrar meu documento. Mas a identidade é minha, quem a mostra sou eu. Se a colocarmos em cada câmera de vídeo, quem realmente é o dono dela? Dizer que na Europa não é possível colecionar os rostos das pessoas é uma boa notícia.
A Lei de IA também proíbe tecnologias que possam “reconhecer emoções”: realmente as máquinas serão capazes de nos olhar por dentro?
Alguns psicólogos evolucionistas dizem que podemos entender as emoções como algoritmos: amor, medo e raiva nada mais seriam do que uma espécie de software biológico que nos empurra a realizar determinadas ações. Segundo essa teoria, poderemos instruir a IA a ler dados que nos interpretam como máquinas biológicas. É aqui que surge o problema.
Continue, qual é o risco?
Poderíamos nos deparar com uma máquina que nos convence com um texto e que também pode nos manipular parando à beira do nível de consciência. Ser manipulados e controlados é um cenário que pertence ao pior filme de ficção científica.
Não há espaço para um futuro distópico na Lei de IA. Também é proibido o uso da IA para atribuir uma “pontuação social” às pessoas com base na análise de seus comportamentos.
Nisso as redes sociais já se mostraram muito hábeis. E casos de manipulação como o que envolveu a ex empresa de análise Cambridge Analytica (que teve acesso indevido à informação de milhões de usuários no Facebook, ndr) evidenciaram isso de forma inequívoca. Pensem no que pode ser feito agora, graças a ferramentas tão poderosas, capazes de gerir os dados mais íntimos das pessoas.”
O quanto lhe assusta a IA?
Assusta-me mais a estupidez natural. A IA, se bem usada e regulamentada, pode tornar-nos melhores.
Você acredita na AGI, a inteligência artificial geral que um dia poderia superar o ser humano?
É um tema para adivinhos. Os especialistas estão divididos sobre isso: há quem acredite que chegará dentro de dez anos.
E como vamos lidar com ela?
Tentando responder já hoje a uma pergunta: que margem de ação poderá ter a IA do futuro fora do controle humano? Se respondermos a essa pergunta, saberemos como usar essa tecnologia para o bem de todos.
A concentração de inovações científicas e técnicas deram lugar a um novo sismo no mercado mundial. Assistimos a uma nova re[...]
LER MAISA decisão mais temida pelos motoristas do Uber começa a se tornar realidade. A empresa firmou um acordo com a montadora sueca Vo[...]
LER MAISUm aplicativo para ajudar mulheres a sair de relacionamentos abusivos, outro para alfabetizar crianças com deficiência ou dificu[...]
LER MAIS
