09 Março 2023
Doutora em matemática, professora de ciência da computação na Universidade de Southampton, especialista em inteligência artificial e próxima doutora honoris causa da Universidade Aberta da Catalunha. E, além disso, Dama da Ordem do Império Britânico.
Estes são alguns dos títulos que Wendy Hall (Londres, 1952) tem em seu currículo e que a credenciam como uma das grandes referências em tecnologia, um fato que tem ainda mais mérito por ser uma das poucas mulheres da área.
Durante sua carreira, tornou-se uma ativista pela igualdade de gênero na tecnologia, não só pela paridade, mas também pelo quanto será necessário, segundo ela, ter um olhar transversal frente a um futuro em que a Inteligência Artificial será determinante em nossas vidas.
A entrevista é de Sandra Vicente, publicada por El Diario, 07-03-2023. A tradução é do Cepat.
Sabia que na Universidade de Castela-Mancha existem alguns prêmios com o seu nome?
Sério? Há muitas pessoas que propõem colocar o meu nome em prêmios e sempre digo que sim. Também me perguntaram, mas eu esqueci.
Então, é algo frequente. Como se sente?
Começa a ficar excessivo. Penso em Ada [Lovelace, matemática e autora do que se conhece como o primeiro algoritmo] e em Hedy Lamarr [atriz de Hollywood que lançou as bases para o Wi-Fi]. São mulheres que só foram lembradas após a morte. A sociedade sempre se lembra mais dos homens do que das mulheres porque... Como posso dizer isso sem ser desagradável? Nós [mulheres] pensamos com a lógica de equipe.
Penso que meu trabalho não teria sido possível sem uma equipe e não tenho problemas em assinar em ordem alfabética, mas considero que tive menos crédito do que teria alcançado se tivesse colocado meu nome primeiro ou assinado sozinha, que é o que um homem teria feito.
Em sua área de estudo, deve ser ainda mais difícil, porque a computação é uma em que há menos mulheres.
Absolutamente! Quando eu tinha 16 anos, queria ser cirurgiã, mas meus professores me disseram que a medicina não era carreira para mulher. E em 1969 não era. Como eu era boa em matemática, orientaram-me para isso.
Queriam que eu estudasse na Oxford ou Cambridge, mas me pareciam universidades muito chiques, então, fui para Southampton. Agora, penso nisso e acredito que meus professores tinham razão: teria sido horrível ser a única mulher na medicina, ao passo que na matemática havia muitas como eu.
Se estava tão à vontade com a matemática, por que dá o salto para a computação?
Porque realmente a odiava. Era professora e o chefe de departamento me pediu para dar um curso de computação, um dos primeiros que houve. Assim, formei-me em meu tempo livre e fiquei sabendo que era isso que eu queria.
Era o boom dos computadores: os primeiros computadores pessoais começavam a chegar ao mercado. Contudo, não havia mulheres. Dediquei parte da minha carreira tentando fazer com que haja mais, mas fracassei rotundamente. Assim como a medicina, sim, se tornou feminilizada, a computação continua sendo um setor muito desagradável para as mulheres.
Por quê?
É algo muito cultural. Na Ásia e no Oriente Médio, há muitas mulheres no setor, o que demonstra que não temos um impedimento genérico. No Ocidente, a computação se ergueu em torno da figura do geek, alguém pouco amigável, que se relaciona melhor com as máquinas do que com as pessoas. É muito difícil tornar isso atraente para as mulheres. Contudo, será necessário, pois a Inteligência Artificial (IA) terá um grande impacto social e precisamos de uma indústria diversificada.
Se penso em um desenvolvedor de IA, penso em um homem. Quais são os vieses de um sistema que não foi pensado a partir da diversidade?
Sem equipes inclusivas, não há justiça. Precisamos da diversidade de pontos de vista, não só em termos de gênero, mas também na forma de ver o mundo. Precisamos de humanistas e artistas, não apenas de matemáticos. Tudo o que for necessário para abarcar todos os desafios e ameaças da IA, garantindo que os dados estejam a salvo, sem serem usados contra qualquer coletivo, intencionalmente ou sem querer.
Considera que a forma como a IA está desenhada, atualmente, é machista?
Pode ser porque muitos dos dados foram coletados de forma machista. O potencial da IA está em que poderá fazer o trabalho que nós não podemos, como analisar grandes quantidades de dados e cruzá-los de forma que para os humanos levariam uma vida toda.
Contudo, o que acontece se esses dados não são uma representação da realidade? Em uma comissão do governo britânico sobre as oportunidades da IA na saúde, uma mulher (negra, por sinal) me perguntou como é possível garantir que a IA será inclusiva, se parte de análises clínicas que só foram feitas com homens brancos.
Um exemplo prático: o Índice de Massa Corporal (IMC) está relacionado à probabilidade de sofrer um ataque cardíaco, mas foi projetado por e com homens. E os medicamentos cardíacos foram testados em homens. Então, os dados que a IA analisará são de homens e não funcionarão para as mulheres.
Como cientistas, não podemos obter os dados que historicamente nos faltaram, nem mudar a realidade, mas, sim, podemos alertar que se deixarmos a IA agir sobre os dados atuais, trará resultados machistas, racistas e classistas.
Se os bancos de dados não podem ser melhorados, como podemos garantir que as decisões tomadas a partir da análise de uma IA não sejam enviesadas?
O essencial é manter o ser humano no processo e nunca deixar para que a IA tome as decisões. Para isso, é fundamental que sempre haja alguém que analise quais dados a IA utilizou para chegar a uma conclusão. É óbvio que os humanos também erram, mas não devemos pensar que as máquinas são sempre perfeitas.
Lembro-me quando as calculadoras entraram nas salas de aula e, de repente, era possível fazer operações complicadíssimas em segundos. Genial, mas se você introduz números errados, obterá resultados errados. 2+2 nunca serão 5, não importa o que a máquina diga. E se diz que são 5, é necessário que haja um humano que verifique o que aconteceu.
Então, você não subscreve a essas correntes tecnofóbicas que dizem que a IA retirará o trabalho de todos nós?
A tecnologia levará muitos trabalhos, mas serão trabalhos chatos ou perigosos. São trabalhos que se não fosse porque as pessoas têm que pagar contas e aluguel, ninguém gostaria de fazer. E espero que isso nos ajude a aliviar a carga e a conquistar a semana de quatro dias.
O que restará a nós, humanos, são esses trabalhos criativos, nos quais é necessário um cérebro. E poderemos usar os três dias livres para ficar com a família, contribuir com a sociedade ou nos reinventar para não ficarmos ultrapassados.
Que tipos de trabalhos a tecnologia vai retirar de nós?
A colheita agrícola, por exemplo. Esses trabalhos que, como dizia, ninguém quer fazer e que seria maravilhoso se os robôs os fizessem. Contudo, é algo que pode ser espinhoso, pois são os trabalhos que as pessoas mais vulneráveis costumam fazer, então, precisam receber uma alternativa.
No Ocidente, não há motivo para criar problema. Onde, sim, haverá, será na Índia e na África rural. O que você fará se o seu trabalho começar a ser realizado por um robô e seu Estado não lhe garantir uma infraestrutura para que estude ou subsídios para que possa enfrentar os gastos?
A indústria tecnológica é altamente privatizada. São os Estados que devem garantir essas alternativas ou é necessário pedir mais responsabilidade às empresas?
Também é responsabilidade da sociedade. Odeio que esperemos que os governos resolvam as coisas para nós. É verdade que pagamos impostos, mas nem sempre os Estados são a resposta. As empresas têm responsabilidades e nós também.
A tecnologia vai mudar a nossa sociedade, vemos isso com coisas como o ChatGPT, que vai alterar o paradigma da educação. Ou com os procedimentos online, aos quais uma pessoa idosa não tem acesso.
Como sociedade, devemos nos comprometer e não aceitar essas mudanças acriticamente. Temos que aproveitar o tempo livre que a tecnologia nos dará para ajudar essas pessoas sem acesso a conexão ou a dispositivos.
É uma visão muito otimista.
Eu sei. Contudo, quem você acredita que conseguirá fazer com que haja pensões ou benefícios para garantir que as pessoas sem trabalho por causa da tecnologia possam sobreviver? Se não for os cidadãos, não será ninguém.
Antes, você mencionava o ChatGPT, uma IA que se tornou muito popular e polêmica. Qual é a sua opinião a esse respeito?
É uma tecnologia muito embrionária. Você diz que é popular, mas não é. É apenas uma ponta do iceberg que a OpenAI [a empresa desenvolvedora do ChatGPT] usou de forma incrivelmente engenhosa para fazer marketing.
Ela ainda comete muitos erros e não é capaz de fazer, ao menos bem, tudo o que promete. Para isso, é necessária uma enorme quantidade de energia que não pode ser sustentada enquanto for gratuita.
Em breve, começaremos a pagar por isso. E aí vem a jogada: existem muitas IA que fazem o mesmo que o ChatGPT, mas a OpenAI conseguiu fazer com que chamemos todas de ChatGPT. Então, quando for necessário pagar, todo mundo recorrerá a ela.
E graças a isso, está conseguindo financiamento de grandes empresas como o Google, porque veem que o ChatGPT, quando puder processar todos os dados da Internet, vai se tornar outra forma de buscar informação e vai ameaçar o seu monopólio.
O que o ChatGPT será capaz de fazer quando puder processar todos esses dados?
É impossível saber. A única coisa que está clara é que não será gratuito e não será ecológico, pois exige uma enorme quantidade de energia. Contudo, temos que deixar claro que não será o Chat em si que será realmente transformador, mas o fato de uma empresa ter o poder de gerir uma quantidade tão grande de dados.
Quem puder analisar e processar a informação é que vai dominar o mundo. E isso não tem nada a ver com escrever redações escolares, que é o que nos preocupa, agora, do ChatGPT.
Houve muitas mudanças desde que você iniciou na computação. Como imagina o futuro daqui a 50 anos?
É preciso assumir que a IA será igual ou mais inteligente do que nós e teremos que aprender a trabalhar com máquinas que serão capazes de criar. No momento, a IA como o ChatGPT só pode copiar e prever a próxima palavra.
Contudo, o problema virá quando a tecnologia conseguir vincular uma informação a outra de forma criativa, assim como nosso cérebro. É quando a porta se abrirá para situações aterrorizantes como Black Mirror. Quando puderem escrever código, serão capazes de se replicar e precisamos estar prontos para isso.
Chegará um momento em que teremos que parar?
Agora, ainda podemos desconectá-las. E temos que aprender a controlá-las enquanto tivermos essa opção. É essencial que criemos máquinas que, chegado o momento, possamos desconectar, assim como nunca criamos uma ferramenta definitiva capaz de tomar decisões.
Se algo colapsar, sempre temos que poder assumir o controle. E ter clareza sobre quem decidirá quando for necessário desconectá-las e por quê.
Quem deveria decidir a esse respeito?
É algo que precisa ser regulamentado, porque as empresas sempre terão interesses por trás. Temos que garantir que sejam responsáveis pelo que fazem.
Sente medo?
[Suspira]. Frequentemente... [Silêncio]. Não.
Isso me faz sentir melhor.
Sempre que compreendamos o que estamos fazendo e inventando. Não é fácil. Se quisermos culpar alguém pela mudança climática, devemos colocar a culpa em quem inventou a eletricidade. Agora, podemos viver sem ela? Não.
Agora, não tem mais como retroceder, mesmo que o que foi feito com ela esteja destruindo o planeta. Teremos que proteger o planeta digital assim como o planeta físico e evitar os erros que nos levaram a esta crise climática, que vêm sendo causados, todos, por inovações tecnológicas.
De 26 de abril a 21 de novembro, o Instituto Humanitas Unisinos – IHU promove o Ciclo de Estudos Inteligência Artificial, fronteiras tecnológicas e devires humanos. O objetivo do evento é debater transdisciplinarmente os limites e possibilidades práticos e teóricos envolvendo a Inteligência Artificial a partir dos mais recentes desdobramentos tecnológicos, éticos, sociais, climáticos e geopolíticos globais.
Confira abaixo as informações da primeira atividade confirmada do ciclo:
Inteligência Artificial e as noções de interação, indistinguibilidade e alteridade
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
