Os algoritmos podem intensificar a desigualdade

Revista ihu on-line

Metaverso. A experiência humana sob outros horizontes

Edição: 550

Leia mais

Caetano Veloso. Arte, política e poética da diversidade

Edição: 549

Leia mais

Mulheres na pandemia. A complexa teia de desigualdades e o desafio de sobreviver ao caos

Edição: 548

Leia mais

Mais Lidos

  • Padres despedaçados. Artigo de Pietro Parolin

    LER MAIS
  • Na igreja do Papa Francisco, os movimentos estão parando

    LER MAIS
  • Abusos, sínodo e a falsa prudência

    LER MAIS

Newsletter IHU

Fique atualizado das Notícias do Dia, inscreva-se na newsletter do IHU


11 Fevereiro 2020

“Chama-me a atenção que noticiemos nossa vida em um site que pertence a uma empresa privada”, aponta nesta entrevista o professor de matemática aplicada David Gómez-Ullate Oteiza, autor junto com David Ríos Insua, de Big data (Libros de la Catarata-CSIC).

A entrevista é de Olivia Carballar, publicada por La Marea, 09-02-2020. A tradução é do Cepat.

Eis a entrevista.

Qual é o principal risco do Big Data?

Cada vez passa a existir mais pessoas conscientes da necessidade de entender bem quais implicações o Big Data possui. Todos usamos dispositivos eletrônicos, todos usamos redes sociais... e, de alguma forma, engolimos o anzol com o qual se criaram, e é o uso que têm para nós. As pessoas usam as redes sociais para colocar suas fotos, conversar com seus amigos... Mas as empresas não criaram essas redes para esse fim, mas para arrecadar dinheiro, principalmente para publicidade induzida e, nesse sentido, foram supereficientes. E as pessoas fornecem a você todos esses dados? É o que perguntam a Mark Zuckerberg no filme “A rede social”. Sim, sim, me fornecem.

Então, estamos vendidos sim ou sim?

Agora está chegando a regulamentação. Com a entrada em vigor da lei sobre proteção de dados e o regulamento geral, há coisas que não podem mais ser feitas sem o consentimento expresso. Na prática, o que significa muitas vezes é que há um clique a mais para aceitar condições que quase ninguém lê. Chama-me a atenção que noticiemos nossa vida em um site que pertence a uma empresa privada. Mas é difícil parar agora, porque está tão instalado em nossa sociedade, que é complicado. Temos que aprender a conviver com isso e exigir a regulamentação para que determinados usos sejam controlados.

Reúnem no livro alguns exemplos em saúde. Aplicativos que, com uma foto de uma pinta, ajudam a diagnosticar o câncer de pele mais rapidamente, por exemplo. Isso gerará mais desigualdade? Ou seja, isso incidirá em uma maior privatização da saúde?

Acredito que são coisas que acontecem paralelamente. Existe uma tendência evidente em fazer negócios com a saúde, que já existia muito antes do surgimento da ciência de dados e da Inteligência Artificial (IA), e provavelmente não irá parar. Mas há uma vantagem do lado da administração. Tais tipos de algoritmos precisam de muitos dados para funcionar: para poder criar uma ferramenta que saiba classificar esse tumor de acordo com a imagem de uma pinta, cerca de 200.000 imagens corretamente catalogadas. E a maior parte desses dados está em posse de administrações públicas. Quem tem os dados é quem tem a capacidade de desenvolver tudo isso. Uma vez desenvolvido, o aplicativo é relativamente barato.

Potencialmente, esse tipo de tecnologia pode ter efeitos positivos para aproximar o conhecimento de áreas onde até agora não chega e reduzir custos. Mas o risco de haver pessoas que desejam fazer negócios é evidente.

Eu trabalho com médicos em Andaluzia e estou cada vez mais consciente de que esses dados têm muito valor e não assinam contratos com empresas sem ter um controle muito claro do que acontecerá com esses dados.

Como isso pode afetar o setor bancário?

No dia em que a Amazon e o Google quiserem entrar no setor bancário, terão uma vantagem competitiva em relação aos bancos tradicionais, que é o fato de conhecerem perfeitamente seus clientes em potencial, especialmente se usarem o tipo de plataforma que muitas pessoas já usam. Se a Amazon sabe o que estou comprando, pode estimar muito bem minha capacidade de crédito. De fato, a Amazon já possui, como parte de seus negócios, serviços financeiros básicos, que permitem pequenos serviços de crédito por meio de sua plataforma, mas ainda não deram o grande salto, e isso pode acontecer e acredito que o veremos.

E pode ser letal na hora de oferecer uma hipoteca...

Antes, eram as pessoas que decidiam isso. Em certo momento, podiam pular as regras e dar crédito a uma pessoa do bairro que conhecem a vida toda. Havia uma margem de flexibilidade, havia um ser humano tomando essa decisão, o gerente da filial. Agora, muitas dessas decisões são tomadas por algoritmos e ao humano cabe executá-las. É um risco importante. Porque é necessário ter um controle muito claro e uma auditoria sobre como são feitos esses algoritmos. Pode haver discriminação de setores da sociedade e do local onde vivem.

Os dados por si só não fazem nada.

Exatamente. Imagine que em uma determinada área da cidade as pessoas correm um risco maior de não devolver um crédito. Seu modelo baseado em dados, como está vendo isso, diz a você que quem vem dessa área precisa pagar um juro maior. Com isso, a situação fica ainda mais difícil para essa pessoa. Esses modelos correm o risco de intensificar a desigualdade e fazer círculos viciosos em uma situação já difícil. E esse é um risco que está acontecendo com os algoritmos e a Inteligência Artificial.

Veremos na Espanha um Cambridge Analytica?

Não acredito que sejamos diferentes. Aqui, chega o mesmo que chega a outros lugares. Nas últimas campanhas eleitorais, vimos notícias falsas, contas falsas... Tudo o que funciona e é testado em uma campanha em um país se espalha. De fato, Cambridge Analytica veio à Espanha, contatou partidos e ofereceu seus serviços, mas, ao final, acho que não foram contratados porque era bastante caro. Existem empresas espanholas que coletam dados do Facebook para fazer o que é chamado microssegmentação, que é enviar mensagens muito direcionadas ao grupo que você deseja alcançar.

O problema é a informação. Onde estão as fontes confiáveis da informação? Sempre houve uma vinculação entre os veículos de comunicação e o poder político, mas havia limites mais ou menos claros e, quando muito percebido, se perdia credibilidade. Agora, é muito difícil saber onde você deve se informar, se deseja obter informações confiáveis. E a informação política explora isso até as últimas consequências. Nós já estamos vivendo isso. Não descubro nada de novo.

 

Nota de IHU On-Line:

O Instituto Humanitas Unisinos – IHU promove o XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida, a ser realizado nos dias 19 a 21 de outubro de 2020, no Campus Unisinos Porto Alegre.

XIX Simpósio Internacional IHU. Homo Digitalis. A escalada da algoritmização da vida.

 

Leia mais

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

Os algoritmos podem intensificar a desigualdade - Instituto Humanitas Unisinos - IHU

##CHILD
picture
ASAV
Fechar

Deixe seu Comentário

profile picture
ASAV