Os algoritmos e a política. Nem bons ou ruins, os algoritmos também não são neutros. Entrevista especial com André Pasti e Marina Pita

Revista ihu on-line

Populismo segundo Ernesto Laclau. Chave para uma democracia radical e plural

Edição: 508

Leia mais

Gênero e violência - Um debate sobre a vulnerabilidade de mulheres e LGBTs

Edição: 507

Leia mais

Os coletivos criminais e o aparato policial. A vida na periferia sob cerco

Edição: 506

Leia mais

Mais Lidos

  • Os filhos dos padres: a nova investigação da equipe Spotlight

    LER MAIS
  • Para compreender a Sociedade do Espetáculo

    LER MAIS
  • Lutero, o “desbravador” da Modernidade

    LER MAIS

Newsletter IHU

Fique atualizado das Notícias do Dia, inscreva-se na newsletter do IHU

close

FECHAR

Enviar o link deste por e-mail a um(a) amigo(a).

Por: Patricia Fachin | 15 Agosto 2016

“Em áreas mais sensíveis, como eleições, segurança pública e tudo que for organizado pelo Estado, devemos cobrar para que haja transparência nos códigos, que seja adotado o uso de códigos abertos, que possam ser auditados, avaliados, questionados e possam evoluir”, afirmam os entrevistados.

“À medida que cresce a importância econômica e política da internet, cresce, também, a disputa por seu controle”, e por isso, “empresas, governos e a sociedade civil disputam as diretrizes que definirão o futuro da Web”, dizem André Pasti e Marina Pita à IHU On-Line.

Eles mencionam, como exemplos dessa disputa, os ataques à liberdade na rede através de projetos de lei que pretendem “acabar” com a neutralidade de rede e o desrespeito à privacidade e ao princípio de presunção de inocência dos usuários.

Na entrevista a seguir, concedida por e-mail, os entrevistados também comentam o uso que empresas e governos têm feito dos algoritmos, “conjuntos de regras e procedimentos lógicos definidos por programação”, para “influenciar e determinar comportamentos e culturas”.

“O processamento de dados em larga escala por algoritmos tem sido usado por governos e empresas para diversos fins — criar produtos sob medida aos costumes dos usuários, identificar padrões de circulação de pessoas etc. Ao mesmo tempo em que podem ser usados para avançar no conhecimento sobre doenças, por exemplo, têm sido usados para diversos fins que nos colocam em alerta — ao moldar nossa comunicação, ao controlar fluxos na cidade, na espionagem virtual e na segurança pública, por exemplo”, explicam.

Segundo André Pasti e Marina Pita, embora os algoritmos não sejam nem bons nem ruins em si mesmos, eles “não são neutros” e, por isso, “é importante questionar quais são suas prioridades e seus critérios”, especialmente nas redes sociais, “que possuem filtros invisíveis para nós para mostrar algumas coisas e esconder tantas outras”. E acrescentam: “Essa mesma seleção é feita pelo algoritmo do Google, que exibe resultados específicos para cada usuário, com base em critérios que não são visíveis e conhecidos pelo usuário. Interessante pensar que, nesses casos, não temos acesso e sequer imaginamos o que fica de fora dessas seleções e filtros. Falta ainda estudar e entender melhor quais são estes impactos e consequências políticas. É claro que, sem ter acesso aos critérios de seleção dos algoritmos, é difícil entender isso a fundo”.

André Pasti é graduado e mestre em Geografia pela Universidade de Campinas - Unicamp e atualmente cursa doutorado em Geografia Humana na Universidade de São Paulo - USP. Leciona no Colégio Técnico de Campinas - Cotuca, da Unicamp, e é integrante do Intervozes.

Marina Pita é jornalista graduada pela Pontifícia Universidade Católica de São Paulo – PUC-SP e integra o Conselho Diretor do Intervozes.

Confira a entrevista.


Imagem: Canaltech

 

IHU On-Line - Por que as redes se tornaram um canal de “agitação política”, conforme vocês afirmam?

André Pasti e Marina Pita - Em primeiro lugar, é importante lembrar que a televisão e a rádio são monopolizadas por poucas empresas de comunicação, que representam interesses comerciais e um mesmo conjunto de ideologias. Além disso, a rádio e a TV são meios de comunicação do tipo “um-para-todos”, em que o conteúdo parte de um centro e chega aos pontos conectados sem canal de retorno.

Essa característica difere dos princípios que organizam a internet, uma rede em que é um meio de comunicação em que todos os pontos de conexão podem ser tanto emissores quanto receptores de informações. A possibilidade de se posicionar, expor suas ideias e tentar dar visibilidade para outras pautas é ampliada pelas possibilidades tecnológicas da internet. Não tendo outro meio de comunicação disponível — já que temos um monopólio — é esperado que os grupos políticos que têm acesso à rede utilizem-se dela para tentar fazer circular seus discursos e ideias. Aqui cabe ressaltar que este grupo dos que podem expor suas ideias na rede é limitado por dois fatores, principalmente: os que têm acesso à conexão — e no Brasil cerca de 40% dos domicílios seguem sem serviço de banda larga fixa — e o conhecimento técnico para usar os recursos tecnológicos da rede.

Mas precisamos observar que há imensos limites para essa utilização das redes para a “agitação política”, e isso tem muito a ver com uma nova centralização do comando da internet nas mãos de poucas empresas, como Facebook e Google/Alphabet, e com a mediação que os algoritmos de seus sites e aplicativos fazem na comunicação.

IHU On-Line - Como compreender que, de um lado, a rede é um espaço para “agitação política” e, de outro, é um espaço visto por muitos como de controle e vigilância? Como essas duas esferas se relacionam hoje?

André Pasti e Marina Pita - A rede é um espaço potencialmente muito fértil para a vigilância justamente porque é possível que todos se manifestem e de forma cada vez mais centralizada em algumas poucas plataformas, o que reduz muito o custo de vigilância — no início da Rede Mundial de Computadores, vale lembrar, a comunicação não estava centralizada em alguns poucos servidores e plataformas no mundo.

À medida que cresce a importância econômica e política da internet, cresce, também, a disputa por seu controle. Empresas, governos e sociedade civil disputam as diretrizes que definirão o futuro da Web. A diferença é que, por uma série de fatores, a internet pode crescer, por boa parte de sua história, estruturada por técnicos, acadêmicos, empreendedores e jovens experimentadores em geral. Mas cada vez mais esta realidade está mudando e o poder de governos e corporações tem crescido bastante.

A internet faz parte da sociedade e do território em que vivemos, não é um mundo à parte. Se o projeto de sociedade instaurado não respeita a democracia e é definido por interesses puramente econômicos (e de poucos), corporativos, a tendência é que o mesmo ocorra na rede mundial de computadores.

Neste momento político, por exemplo, observamos o fortalecimento de um conjunto de parlamentares, movidos pelos interesses corporativos que os financiam, que atacam a liberdade na Rede. Eles têm apresentado projetos de lei para acabar com a igualdade entre os conteúdos que trafegam na Web — a chamada “neutralidade de rede” —, impor uma guarda massiva e desproporcional dos dados das pessoas, desrespeitando a privacidade e o princípio de presunção de inocência e pretendem desmontar o modelo democrático multissetorial que hoje faz a gestão da Web no Brasil. Este é um ótimo exemplo de como diversas corporações e governos não querem mais a participação da academia e da sociedade civil na definição dos rumos da Web.

A Coalizão Direitos na Rede lançou, recentemente, uma campanha #InternetSobAtaque para denunciar essas ameaças especificamente no Brasil, mas que também são observadas em todas as outras partes do mundo em maior ou menor grau.

IHU On-Line - O que são os algoritmos e por que eles têm sido objeto de discussão quando se trata de discutir a vigilância na rede?

André Pasti e Marina Pita - Algoritmos são conjuntos de regras e procedimentos lógicos, definidos por programação, para definir a realização de certas atividades. Até uma receita de bolo, bem definida, poderia ser entendida como um algoritmo. Eles sempre foram utilizados na programação, estando presentes em tudo o que utilizamos no computador, por exemplo.

O que há de novo é a facilidade para coleta massiva de dados e a possibilidade de processar esse volume gigantesco de dados (o tal “Big Data”), inclusive aqueles não estruturados. Além disso, os algoritmos estão cada vez mais presentes em nosso cotidiano: processando dados de câmeras, imagens, postagens, geolocalização e deslocamentos, consumo de vídeos, dados de saúde.

Este novo contexto permite que os algoritmos — na verdade, as pessoas que constroem e controlam esses algoritmos — tenham uma capacidade muito maior de influenciar e determinar comportamentos e culturas. O impacto desta vida mediada por algoritmos em uma escala nunca antes vista é que estamos tentando observar. Vale salientar que, enquanto o dinheiro está ao lado das empresas que produzem sistemas definidos por algoritmos e que permite a publicização dos benefícios desse recurso tecnológico, cabe à academia e à sociedade civil, com seus recursos escassos, levantar os riscos e os ajustes a serem feitos para que os direitos humanos sigam sendo respeitados quando as regras do jogo foram definidas por cálculos matemáticos.

IHU On-Line - Qual é o objetivo de governos e empresas ao usarem os algoritmos?

André Pasti e Marina Pita - Os algoritmos sempre foram utilizados para resolução de problemas dos mais diferentes tipos. Eles não são bons ou ruins em si, é necessário que isso fique claro. Agora, com a possibilidade de coleta e processamento de dados em larga escala, o horizonte de possibilidades de usos dos algoritmos é ainda maior.

O processamento de dados em larga escala por algoritmos tem sido usado por governos e empresas para diversos fins — criar produtos sob medida aos costumes dos usuários, identificar padrões de circulação de pessoas etc. Ao mesmo tempo em que podem ser usados para avançar no conhecimento sobre doenças, por exemplo, têm sido usados para diversos fins que nos colocam em alerta — ao moldar nossa comunicação, ao controlar fluxos na cidade, na espionagem virtual e na segurança pública, por exemplo.

A tendência de uma sociedade desigual, onde prevalecem os interesses das grandes corporações, é reproduzir seu modelo também nas inovações tecnológicas. O que observamos é o desenvolvimento desses algoritmos para processamento de dados em larga escala por um pequeno conjunto de empresas, especialmente dos países centrais do capitalismo, em uma área onde há a predominância dos homens brancos. Assim, é de se esperar que suas ideologias estejam presentes nas “soluções” e que os interesses desse grupo prevaleçam aos interesses de defensores de direitos humanos — especialmente os que trabalham em locais onde o acesso à internet ainda não é uma realidade.

IHU On-Line - É possível falar em "consequências políticas dos algoritmos"? O que isso significa?

André Pasti e Marina Pita - Isso é importante: os algoritmos não são bons ou ruins, mas também não são neutros! Como filmes, textos, imagens e outras produções culturais, os algoritmos trazem concepções, escolhas, visões de mundo — mesmo que não seja de forma consciente pelos programadores.

Certamente há consequências políticas importantes, já que eles têm moldado diversas esferas do nosso cotidiano: a forma como nos comunicamos, a segurança na cidade, a definição dos nossos trajetos, as informações que obtemos sobre o mundo, a cidade, o clima etc. Assim, eles são parte ativa da produção cultural.

Desse modo, é importante questionar quais são suas prioridades e seus critérios. O exemplo mais visível talvez esteja nas redes sociais que utilizamos para nos comunicar, que possuem filtros invisíveis para nós para mostrar algumas coisas e esconder tantas outras. Essa mesma seleção é feita pelo algoritmo do Google, que exibe resultados específicos para cada usuário, com base em critérios que não são visíveis e conhecidos pelo usuário. Interessante pensar que, nesses casos, não temos acesso e sequer imaginamos o que fica de fora dessas seleções e filtros.

Falta ainda estudar e entender melhor quais são estes impactos e consequências políticas. É claro que, sem ter acesso aos critérios de seleção dos algoritmos, é difícil entender isso a fundo. Mais do que isso, a empresa pode mudar esses critérios, quando quiser e de acordo com seus interesses e de seus parceiros. Vale lembrar que as empresas de tecnologia dos EUA são silenciadas pelo governo americano quando obrigadas a entregar dados de seus usuários sem ordem judicial. O que impede que a rede social não seja obrigada a manipular a linha do tempo de usuários de determinado país para atender aos interesses dos EUA em determinada região ou país?

IHU On-Line - O que significa dizer que nossas reações são moldadas no Facebook por algoritmos? De que modo isso tem impactado outras esferas da vida?

André Pasti e Marina Pita - A plataforma Facebook seleciona as publicações que vão aparecer ao usuário — diferentemente do Twitter, onde todos os posts aparecem na ordem em que foram publicados, por exemplo. Assim, o Facebook acaba por fazer um recorte de mundo segundo seus critérios. Quais as regras e interesses que definem este recorte? Nós não sabemos.

O algoritmo do Facebook é absolutamente opaco para seus usuários e para a sociedade como um todo — não sabemos como funciona e não temos nenhum controle sobre ele. Ao mesmo tempo, esse algoritmo pode ser definidor, por exemplo, em uma eleição, ou em mudança política não eleitoral, como a que passa o Brasil.

Mesmo com o algoritmo sendo opaco, é possível perceber algumas tendências. Uma delas é a criação de um universo de informações “agradáveis” ao usuário, excluindo pontos de vista distintos e diversos daqueles com os quais o usuário interage na plataforma. Isso já traz uma consequência política importante, por alimentar o comportamento de “bolha” e dificultar o acesso à diversidade de posicionamentos presentes na sociedade. Um dado muito grave dessa situação é que a maioria dos usuários não está nem consciente de que existe essa seleção.

IHU On-Line - Em quais situações o “comportamento” dos algoritmos tem chamado mais atenção?

André Pasti e Marina Pita - Certamente quando o assunto é política, o debate sobre o impacto dos algoritmos chama mais a atenção. No entanto, quando falamos de costumes e da cultura, eles também são muito relevantes. São inúmeras as situações relatadas. Os seios de mulheres não são aceitos pelo algoritmo do Facebook — o que leva à censura de diversos protestos feministas, à exclusão de fotos de amamentação e à exclusão de uma série de pessoas de culturas indígenas brasileiras, que ficam impedidos de usar a rede (como denunciado pelo então ministro da Cultura Juca Ferreira).

Em outra situação, uma pessoa transgênero teve sua conta bloqueada por usar seu nome social e não o nome de registro, algo identificado pelo algoritmo. Há, ainda, o uso de algoritmos para vigilância na cidade e identificação de “padrões suspeitos” — que têm recebido inúmeras denúncias de que seus padrões são racistas. O racismo foi denunciado, também, em algoritmos usados para basear decisões judiciais nos Estados Unidos.

IHU On-Line - Qual é o papel do usuário diante dos algoritmos?

André Pasti e Marina Pita - O primeiro passo seria ter consciência de que há regras impostas nessas esferas do nosso cotidiano que são desconhecidas por nós. Em áreas mais sensíveis, como eleições, segurança pública e tudo que for organizado pelo Estado, devemos cobrar para que haja transparência nos códigos, que seja adotado o uso de códigos abertos, que possam ser auditados, avaliados, questionados e possam evoluir.

IHU On-Line - Como analisam o caso recente, em que o Facebook foi acusado por ex-funcionários de que os algoritmos e a equipe do Facebook estavam selecionando apenas notícias consideradas liberais para serem exibidas no Trending Topics? Quais as consequências desse tipo de comportamento?

André Pasti e Marina Pita - Esse caso revela diversas questões preocupantes da nossa comunicação. Uma é o fato de que esses filtros e critérios são opacos para todos nós, sem que tenhamos nenhum controle sobre eles. Outra, talvez mais grave, é o poder excessivo dessa empresa em influenciar opiniões e moldar comportamentos na rede. Essa nova concentração de poder de mediação da comunicação é bastante preocupante, em um contexto onde os usos da internet vão se concentrando nas mãos de poucas empresas detentoras desses sites e aplicativos.

É preciso termos capacidade de avançar em pesquisas para entender este tipo de situação. Há organizações, por exemplo, investigando se o algoritmo do Facebook tem comportamento diferente no tratamento de publicações pró-Israel ou pró-Palestina.

Os algoritmos são criados por pessoas e empresas, com interesses próprios e ideologia. Não podemos nos esquecer disso. É necessário superar essa suposta “neutralidade” dos algoritmos para começarmos a entender esse tema, tão desafiante e necessário na atualidade.

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

Instituto Humanitas Unisinos - IHU - Os algoritmos e a política. Nem bons ou ruins, os algoritmos também não são neutros. Entrevista especial com André Pasti e Marina Pita