A doutora em Filosofia pelo Christ Church College, Carissa Vélez, é espanhola, professora do novo departamento de Ética e Inteligência Artificial da Universidade de Oxford, na Grã-Bretanha. Especialista em ética digital, privacidade nas redes sociais, considera que com os dados que nós, usuários, oferecemos livremente todos os dias, as redes são um modelo de negócio baseado na violação sistemática do direito à privacidade.

Autora do livro “Privacy is power”, Vélez propõe abandonar os gigantes da rede por aqueles que não roubam os dados e têm um plano para enfrentá-los.

A entrevista é de María Laura Avignolo, publicada por Clarín-Revista Ñ, 25-11-2020. A tradução é do Cepat.

Eis a entrevista.

Como se mantém este ecossistema de ódio nas redes? Como funciona e por que persiste?

O problema fundamental é um modelo de negócio que está baseado na violação massiva e sistemática do direito à privacidade. Neste modelo, os usuários não são o cliente, de modo que as grandes empresas tecnológicas devem sua lealdade a seus clientes, que são os anunciantes e aqueles que compram e comercializam os dados pessoais. Nós somos o produto.

As redes sociais precisam do maior número de dados sobre nós que seja possível, porque com mais dados podem personalizar melhor os seus anúncios e ter maior poder de negociação para comercializá-los. Para conseguir mais dados precisam nos conectar o maior tempo possível. E o que mais atrela as pessoas são emoções negativas, notícias alarmistas, conteúdo que desperta o ódio, a desconfiança e outros. Sendo assim, é um modelo tremendamente destrutivo. Está na hora de proibir a comercialização de dados pessoais.

Em uma sociedade tão hiperconectada, quais medidas podem ser tomadas para diminuir a presença nas redes?

Cada pequeno ato importa. Não é como se dissessem “bom, se não poderei controlar a minha privacidade em absoluto, então, não faz sentido fazer algo a esse respeito”. Muitas coisas podem ser feitas, desde não estar nas redes até não baixar fotos e ser muito respeitosos com a privacidade de outra pessoa. Pedir consentimento cada vez que desejar baixar algo sobre alguém. Ter um e-mail impessoal, que não contenha seu nome para questões comerciais. Em vez de usar o Google, usar DuckDuckGo, que não coleta nenhum tipo de dado. Em vez de usar o Messenger, que o dono é o Facebook e que o utiliza para todo tipo de comercialização de dados, usar Signal, que não é comercial, e outros.

Por exemplo, quando sair de casa, desligue o Wi-Fi e Bluetooth de seu celular, pois, caso contrário, as empresas podem tirar informação daí. Cada pequena ação de resistência tem significado. As empresas e os governos são muito mais sensíveis a esse tipo de resistência do que imaginamos. De fato, estão monitorando tal tipo de resistência e se importam.

Como é a estrutura e a dinâmica para disseminar mensagens de ódio na internet?

Há muitas formas, mas uma delas é por meio da propaganda personalizada. Por exemplo, imagine que você é um hacker russo e que deseja gerar muita desconfiança e descontentamento nos Estados Unidos, para que haja dúvidas sobre se as eleições são legítimas ou não. Então, o que você faz é identificar pessoas que têm a tendência a certo tipo de emoções negativas: pessoas narcisistas, dadas à psicopatia e muito desconfiadas. Mostra a elas vídeos e conteúdos que trazem alvoroço, por exemplo, de alguém que está zombando de gente como elas.

Ou podem ser anúncios que se parecem muito com um filme de terror, que alerta sobre os imigrantes ou sobre o perigo de seus vizinhos ou seja o que for. E você mostra esses anúncios a tais tipos de pessoas, vê se reagem ou não, se clicam, se compartilham, se veem outro vídeo parecido, se entram em um grupo. E, caso contrário, vai mudando o conteúdo até conseguir realmente tocar nas pessoas que deseja manipular.

Em relação ao caso da decapitação do professor Samuel Paty, na França, foi vítima direta das redes...

Sim. O problema fundamental é que as plataformas têm um conflito de interesse. O conteúdo viral é o conteúdo que mais gera lucros. Sendo assim, se o regulamentam muito bem e conseguem fazer com que as redes sociais sejam um ambiente mais calmo, onde não existe essa velocidade de transferência de informação, estão indo contra seus próprios interesses econômicos.

Isso nos mostra que temos um modelo de negócio falido, que é muito tóxico. E também mostra muito bem como os riscos à segurança individual vão desde o roubo de identidade, que roubem seu número de cartão de crédito, até a segurança física. Samuel Party não é a primeira pessoa que morre, porque não foi o primeiro exposto às redes sociais. Isto está acontecendo em todo o mundo.

Se não há uma supervisão e regulamentação das redes, o ecossistema digital pode se tornar um poderoso instrumento de radicalização?

Sim, de fato, já é. A regulamentação nas redes é inevitável. Regulamentamos qualquer outra indústria na história, de ferrovias a automóveis, aviões, alimentação, farmacêuticas. É realmente muito ingênuo por parte das empresas tecnológicas pensar que não serão regulamentadas.

Por que os gigantes das redes não adotam medidas definitivas para colocar fim a tais tipos de publicações?

Entre outras razões, porque colocariam fim a seu modelo de negócio. Temos que desconfiar muito de plataformas que ganham o seu dinheiro em especial por meio do conteúdo viral e dos dados pessoais. Porque é um modelo tóxico para a democracia, tóxico para os indivíduos, tóxico para os usuários e que precisamos regulamentar.

Sendo assim, tais tipos de plataformas precisam conseguir outro modelo de negócio. Existem algumas que estão tentando se reinventar e outras que estão resistindo, que estão negando a realidade.

Para você parece que o único caminho será a regulamentação dos governos?

Sim, parece-me que a autorregulamentação nunca será o suficiente. Precisamos acabar com a economia de dados, assim como no passado acabamos com o trabalho infantil, ou com todo tipo de exploração no âmbito do trabalho. Em algum momento, no início da revolução industrial, teria sido inconcebível pensar que os trabalhadores teriam somente jornadas de oito horas, que teriam férias, que teriam certas condições básicas. Hoje nos parecem fundamentais e um direito humano. Da mesma forma, a privacidade é um direito humano. A única razão pela qual existe este modelo de negócio é porque nos inteiramos de sua existência muito tarde, quando já estava aí.

Os governos intervirão nas redes? Por que resistem a este controle em nome da liberdade de expressão?

Sim. Gradualmente veremos mais e mais intervenções governamentais. A Nova Zelândia foi um dos primeiros. Há certa vertigem em intervir nessas empresas tecnológicas por muitas razões. Uma delas é porque são muito poderosas, têm muito dinheiro. É preciso mais diplomacia, mais tratados internacionais, caso contrário, seus dados acabam em outro país.

Também ocorre que temos muito pouca experiência com estas novas ferramentas. Nem sempre é fácil entender como funcionam, qual é a consequência de certa intervenção, porque os dados costumam ser algo muito abstrato. É algo que não vemos, que não se sente e que as consequências vêm depois, quando já é muito tarde. Muitas vezes, os legisladores não têm os conhecimentos necessários para entender o que está acontecendo.

Leia mais

• O xadrez da inovação tecnológica e da sustentabilidade. Entrevista com Luciano Floridi
• As três funções da linguagem digital e suas consequências. Artigo de Luciano Floridi
• “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi
• Ética e inteligência artificial: a união que cria valor econômico. Entrevista com Luciano Floridi
• "A era do Onlife, onde real e virtual se (com)fundem". Entrevista com Luciano Floridi
• Política tecnológica: quando a inteligência artificial revela uma mentalidade colonial. Artigo de Paolo Benanti
• “Vemos muito bem que o milagre da Inteligência Artificial não é para nós, mas para a indústria”. Entrevista com Éric Sadin
• Por uma inteligência artificial humanística. Entrevista com Paolo Benanti
• Cidadania vigiada. A hipertrofia do medo e os dispositivos de controle. Revista IHU On-Line, Nº. 495
• Sociabilidade 2.0 Relações humanas nas redes digitais. Revista IHU On-Line, Nº. 502
• A Liberdade Vigiada: Sobre Privacidade, Anonimato e Vigilantismo com a Internet. Cadernos IHU ideias, Nº. 250
• A necessidade de se resistir ao avanço do capitalismo de vigilância
• “O capitalismo monopolizou a tecnologia e a utiliza para precarizar a sociedade”
• Os riscos da vigilância na pandemia: do controle biopolítico dos corpos à prisão dos estímulos na psicopolítica. Entrevista especial com Rafael Zanatta
• “A vigilância biométrica é semelhante à do tráfico de escravos”, afirma Simone Browne
• Os monopólios digitais e a espiral da vigilância comercializada. Entrevista especial com Jonas Valente
• Quando a Covid-19 infecta as inteligências artificiais. Artigo de Paolo Benanti
• COVID-19 e rastreamento humano. Artigo de Giorgio Griziotti
• Aplicativo Immuni. Existe liberdade pessoal por trás da privacidade hi-tech?
• Rastreamento de contato, app e privacidade: o elefante na sala não são os dados, mas a vigilância
• “Uma nova compreensão da tecnologia poderia ter um efeito transformador”. Entrevista com Yuk Hui
• O futuro do Google é também seu passado: colonialismo digital e capitalismo de vigilância
• Haverá proteção contra o capitalismo de vigilância?
• Assange: império da vigilância e imperialismo