"Onipresente em nossas vidas, os algoritmos são apresentados como "misteriosos" ao nosso conhecimento porque não sabemos de sua existência e funcionalidade. Uma nova religião com novos saltos de fé. Raramente questionamos como esses processos de lógica e cálculo ocorrem e a visão de mundo que eles carregam", escreve Alfredo Moreno, professor de Tecnologias da Informação e Comunicação, na Universidade Nacional de Moreno, Argentina, em artigo publicado por Alai, 17-08-2020. A tradução é de Wagner Fernandes de Azevedo.
Os dados digitais e a inteligência gerada por algoritmos sobre as condutas das pessoas no território digital, e sobre os fenômenos naturais e de artefatos, estão na base de uma economia digital.
Com a revolução industrial, as máquinas logo tornaram-se inevitáveis em todas as partes; o mesmo ocorrerá com grande parte dos processos e sistemas econômicos baseados na inteligência digital, já que a economia digital ocupa um lugar central na redefinição digital do mundo. O dividendo de eficiência é muito alto, e uma grande quantidade de serviços completamente novos são demasiadamente atrativos para que as sociedades resistam contra.
Um requisito importante para a democracia sobre a política digital é permitir que as pessoas retenham o controle sobre sua informação pessoal e sua ação no território digital. Os cidadãos internautas deveriam poder negar completamente o acesso a alguns tipos de dados e compartilhar outros somente com partes confiáveis. Ainda, deveriam poder conhecer e controlar qualquer uso posterior de sua informação pessoal, cujo abuso pode causar graves danos. Estes são os princípios fundamentais que estão relacionados a vários regimes de proteção de dados pessoais, como o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia e a lei de proteção de dados proposta pela Índia.
À medida que a economia digital prevalece cada vez mais na maioria das relações econômicas, o acesso e o controle sobre vários tipos de dados determina a vantagem ou desvantagem econômica comparativa dos atores envolvidos. Este é um assunto muito diferente da privacidade.
As leis dirigidas à privacidade de dados podem ter algumas implicações para proteger as pessoas contra a exploração econômica baseada em dados. A razão é que as leis atuais de proteção de dados não se centram na dimensão econômica, inclusive em termos de cidadãos. À medida que o pilar principal da economia digital passa de anúncios dirigidos - para os quais os dados pessoais são chave - à gestão inteligente - baseada em dados de atividades de todo o setor - os dados anônimos e agregados são cada vez mais importantes. Os algoritmos aplicados na Inteligência Artificial, por exemplo, baseiam-se nestes dados e são o poder chave por trás da economia digital.
Os EUA e seus aliados têm um forte controle sobre os discursos de política global. Qualquer discussão de “dados como recurso” irá imediatamente na direção de desafiar a extração global de dados valiosos das companhias estadunidenses. Com o apoio de seus aliados, agora os Estados Unidos ocupam-se de tentar firmar um regime de “livre fluxo global de dados” com todos os países. Quem recopila os dados, é que os possui.
Lamentavelmente, a maioria do ativismo digital, inclusive em países em desenvolvimento, segue centrado exclusivamente no tema da privacidade, que sem dúvidas é muito importante. Ignora por completo os direitos econômicos sobre os dados. Aqui parece haver uma amostra da elite, segundo a qual espera-se que os mercados garantam por si a equidade. Porém, a lógica do mercado não parece estar funcionando para o condutor de Uber, o comerciante da Amazon e o pequeno restaurante e hotel explorados respectivamente pelas plataformas de entrega de alimentos e reserva de alojamento.
Imagem: Public Domain Pictures
Entre sua lealdade geoeconômica aos EUA e a rápida erosão das perspectivas da economia digital, a União Europeia (UE) começou a fazer alguns ruídos sobre os direitos econômicos sobre os dados, incluindo os de tipo não pessoal, que poderiam ser dados coletivos / grupais, ou artefatos e dados naturais. Seus documentos de política falam sobre o acesso obrigatório a dados digitais com companhias privadas que se necessita para fins de interesse público.
As autoridades de competência da UE estão investigando quem tem os direitos de dados sobre produtos postos à venda por terceiros na plataforma da Amazon, se pertencem ao vendedor ou à Amazon. Outro documento de política da UE questiona se o proprietário de uma fábrica deve possuir os dados da máquina que se originam na fábrica ou o provedor de aplicativos digitais que pode executar essas máquinas.
É necessário questionar a UE já que estas posições emergentes de política interna formam seu apoio aos EUA nos fóruns de comércio mundial sobre os regimes de “livre fluxo global de dados”.
Em tempo de covid-19 assistimos a uma valorização dos números, as porcentagens, quadros que mostram curvas, análises de dados estatísticos, em definitivo, frente à “tela” vamos nos dando conta de para que servem as Matemáticas e talvez, em particular, a análise de dados.
Nunca antes a humanidade dependeu de infraestruturas de telecomunicações e plataformas de software que prestam serviços na Internet. A quarentena global é possível porque podemos nos conectar à Internet e interagir com os serviços da rede. A tal ponto que valorizamos o trabalho de serviços como o Rappi ou o Pedidos Ya!, plataformas de distribuição comercial que representam os maiores expoentes da flexibilidade laboral e do desconhecimento dos direitos do trabalhador que toca a campainha para fazer a “entrega”.
É muito comum encontrar notas jornalísticas que se referem a algoritmos. Seja na seção de economia, tecnologia ou estilo de vida, esses processos matemáticos rapidamente se tornaram uma parte fixa de nossa vida diária.
Como os algoritmos são os “agentes inteligentes” invisíveis na redefinição do mundo digital, é urgente falar sobre como alertar os cidadãos sobre os impactos dos sistemas de dados que tomam decisões sobre as nossas oportunidades, direitos e possibilidades de vida. Se um dia lhe for negada a oferta de emprego, assistência médica, entrada no sistema bancário, acesso a bolsas de estudo ou contratos para a sua vida profissional por causa de um algoritmo, a quem podemos recorrer?
Um algoritmo, como os dados com os quais é treinado, pode ser influenciado por sua própria conceituação. A sociedade algorítmica reproduz os conceitos de modelo de distribuição de riqueza e desigualdade no acesso ao conhecimento?
Vários autores, em particular Cathy O'Neil em seu livro "Armas de destrucción matemática", denunciaram que os desenvolvimentos desses modelos embutidos no software não têm regulamentação do Estado. Assim, estão criando uma sociedade dual em que os ricos têm o privilégio de uma atenção personalizada, humana e regulada, enquanto os grupos vulneráveis são condenados aos resultados de "máquinas inteligentes", em que não há transparência, direitos nenhum procedimento claro para apelar às decisões algorítmicas.
Os algoritmos constituem um sistema de pontuação. Se sua pontuação for alta o suficiente, você terá uma opção, mas se não conseguir, será negada. A pontuação algorítmica pode ser para um candidato a emprego ou admissão em uma instituição educacional, um cartão de crédito ou uma apólice de seguro. O algoritmo secretamente atribui uma pontuação a você, você não consegue entendê-lo, não pode fazer uma apelação. Não sabemos como funciona. Use um método de decisão que não seja conhecido publicamente.
Porém, não é apenas algo injusto para o cidadão, mas normalmente este sistema de decisão também é algo destrutivo para a sociedade. Com algoritmos, estamos tentando transcender o preconceito humano. Se falharem, fazem com que a sociedade entre em um ciclo destrutivo, porque aumentam progressivamente a desigualdade. Mas também pode ser um pouco mais preciso. Pode ser um algoritmo para decidir quem obtém liberdade condicional, que determina quais bairros sofrem a maior pressão policial com base na presença de estereótipos configurados nos dados de treinamento do algoritmo.
Muitas dessas questões merecem uma reflexão social profunda e a articulação de consensos tecnopolíticos e sociais sobre o que é e o que não é aceitável e desejável. Para começar a articular esses consensos, são necessárias ferramentas que nos ajudem a entender o que está acontecendo. Ter informações públicas sobre o comportamento de algoritmos e dados de treinamento pode ser essa ferramenta?
Compreender os alcances dos algoritmos e seus contextos de aplicação ajudará a compreender como a digitalização da vida cotidiana e nossa relação com as plataformas e serviços digitais está orientada por uma infraestrutura de cômputos que conformam o processo dos algoritmos. Por isso, faz-se necessário compreender, discutir e criticar a maneira como os algoritmos, que não conhecemos, marcam nossos dias.
Define-se algoritmo como “um conjunto ordenado e finito de operação que permite encontrar a solução de um problema”. Estas ações interagem com dados para obter conclusões e conhecimentos.
A expansão dos métodos de cálculos expressados como algoritmos, alguns disponíveis desde 1950, deve-se, hoje, em grande parte ao encontro do software (aplicativos), às capacidades de processamento em grande escala e à crescente banda larga de internet que configuram o território do Big Data.
"O Big Data está te vigiando". Foto: Unsplash
Os cálculos penetram tão intimamente em nossas vidas, que não conseguimos perceber com clareza como conduzem nossos dados a infraestruturas estatísticas localizadas em distantes servidores. Assim, um número crescente de domínios de conhecimentos como a cultura, a ciência, a informação, a saúde, a cidade, o transporte, o trabalho, as finanças e inclusive o amor e o sexo são mediados por algoritmos.
A primeira grande expansão do Facebook coincidiu com a primeira crise econômica do ano 2007, que potencializou o desenvolvimento de serviços de plataformas digitais orientados à individualização, orientação e guia de cada usuário da internet. Em 2015, o Facebook tinha 1,3 bilhões de usuários registrados, que se comunicavam em 70 idiomas e utilizavam 50 mil servidores (computadores de alta capacidade de processamento e armazenamento). Facebook constituiu-se assim em um dos donos da internet controlando Instagram desde 2012 e o Whatsapp desde 2014, um enorme negócio que representa mais de 25 bilhões de dólares anuais e um volume de dados muito maior que os milhões de dólares estimados.
O valor político do fluxo de dados permanente desta plataforma digital foi visível em 2013, quando a Agência de Segurança Nacional dos EUA reconheceu a utilização do Facebook para vigiar cidadãos que entregavam seus dados “inocentemente”, informação que durante anos foi um objetivo dos trabalhos de inteligência.
Algo similar ocorre com os buscadores como o Google, que levam invisíveis cookies (pequenos softwares com algoritmos) que permitem identificar o usuário e traçar um mapa de sua navegação pela web e profundidade de penetração em cada uma, estes dados configuram novos produtos do negócio digital.
A quarentena em que vivemos nos coloca no contexto do teletrabalho, tele-educação, tele-entretenimento, videoconferências; todas as relações sociais por meio de uma tela de um dispositivo que se conecta à internet.
Duas dinâmicas avançam para nos fazer entrar em uma "sociedade de algoritmos". O primeiro é a digitalização da sociedade com crescente demanda dos cidadãos para serem incluídos; a segunda, o desenvolvimento dos processos. Estes últimos, mediados por software, fornecem aos computadores / servidores as instruções matemáticas para classificar, ordenar, agrupar, prever, tratar, agregar e representar a informação por meio de dados cada vez mais despercebidos.
Movimento de pessoas, compra de ingressos, cliques na Internet, consumo online, tempo gasto na leitura de um livro digital, tempo ouvindo música e vídeo sob demanda. Eles são criptografados por algoritmos, algoritmos que classificam e preveem nosso consumo presente e futuro.
Onipresente em nossas vidas, os algoritmos são apresentados como "misteriosos" ao nosso conhecimento porque não sabemos de sua existência e funcionalidade. Uma nova religião com novos saltos de fé. Raramente questionamos como esses processos de lógica e cálculo ocorrem e a visão de mundo que eles carregam.
A sociedade digital colocou o cidadão no lugar do consumidor digital, sabemos operar dispositivos e consumimos conteúdo por meio de aplicativos. Não conhecemos os processos e procedimentos que regulam a sociedade digital. Por exemplo, que os algoritmos usados pelos gigantes tecnológicos, conhecidos como GAFAM (Google, Amazon, Facebook, Apple e Microsoft), nem sempre são justos nas decisões que tomam.
"Em qualquer lugar que vou... eles sabem que sou eu... Foto: Unsplash
Os algoritmos operam em "caixas pretas", não conhecemos suas funcionalidades. O valor que move o cálculo algorítmico não é outro senão o da personalização, o do individualismo. Este viés na construção do software que implementa o algoritmo responde a modelos políticos e culturais de relações sociais e de distribuição de conhecimento e riqueza. Esses preconceitos também podem afetar decisões como seguro saúde ou trabalho social ou pré-pago, escolaridade ou antecedentes criminais, aceitação de um pedido de emprego. Os dados falam apenas em termos das questões e interesses daqueles que os questionam.
Na cultura atual, os cálculos algorítmicos prendem os desejos de liberdades e serviços pessoais; onde os indivíduos, por meio de suas representações, ambições e projetos, se pensem como sujeitos autônomos, fora de modelos políticos inclusivos ou exclusivos.
É preciso construir outras políticas públicas para a sociedade dos algoritmos. Os processos e vieses devem ser explicitados aos cidadãos, como alertas no mundo da internet e nas Estatísticas do Estado. O Estado deve garantir aos cidadãos visibilidade pública sobre o comportamento dos algoritmos e dos dados formativos.
É preciso conhecer a visão política e cultural que se implanta nos processos algorítmicos e o viés dos dados que geram resultados como verdades. Uma análise crítica da operação de cálculos ocultos deve ser instalada. É necessário saber que sentido e propósito os algoritmos implementam. Esses significados configuram um mundo possível onde o reconhecimento dos méritos é desimpedido; onde a autoridade é derivada exclusivamente em torno da qualidade e resiliência.
O GAFAM busca instalar um ambiente tecnológico invisível que permita às pessoas se orientarem, sem incomodá-las. Grande parte de nossas escolhas diárias são feitas por uma infraestrutura sociotécnica; compre uma passagem aérea, tradução automática de idioma, encontre o melhor restaurante, marque um encontro pessoal, encha a geladeira ou carregue no SUBE (cartão digital para usar o transporte público na Argentina).
Com o GPS perdemos a paisagem. Algoritmos guiam nossas preferências e vinculam nossas escolhas. Eles realizam o sonho liberal de uma eleição sem restrições, mas esse sonho também esconde seu outro lado. Uma liberdade modelada por algoritmos.