29 Março 2023
Agora, falando sério. O ChatGPT ganhou a parada na última newsletter, porque me (nos) divertiu tanto que esquecemos de chegar a uma conclusão. Desde então, li muito mais coisa e fiquei com a certeza que teremos que voltar ao tema da inteligência artificial muitas vezes. Mas, neste momento, queria chamar a atenção para o ciclo que começa depois do processo que eu descrevi antes, o da servidão voluntária no aprimoramento do algoritmo.
O comentário é de Natalia Viana, publicado por Xeque na Democracia, a newssletter de Agência Pública, 27-03-2023.
No seu livro A superindústria do imaginário, o professor Eugênio Bucci (que é conselheiro da Agência Pública) chama a gratificação instantânea provida pelas plataformas de “valor de gozo”, e nos provoca a pensar como internalizamos “a indistinção entre divertimento e trabalho”, a ponto de nos “alegrarmos” em tomar parte da linha de montagem superindustrial do valor de gozo. “O tal ‘usuário’ se diverte, acha que o ‘entretenimento’ que lhe oferecem é um presente, e trabalha até não mais poder”, tornando-se, de uma só vez, mão de obra, matéria-prima e mercadoria. “Nunca o capitalismo desenhou um modelo de negócio tão perverso, tão acumulador e tão desumano”, escreve Eugênio.
Pois, lendo sobre o ChatGPT, encontrei o excelente conceito de Enshitification, ou “amerdalhamento” ou ainda “bostificação”, como preferirem, pois acho que sou a primeira pessoa a traduzir esse conceito criado pelo intelectual canadense e ativista da internet livre Cory Doctorow para descrever o negócio das Big Techs mais disruptivas. Cory está no mercado há muito tempo: em 1999, criou uma empresa de software livre, foi um dos fundadores do Open Rights Group e trabalhou anos com a Electronic Frontier Foundation, uma fundação do bem que defende a internet livre. Seu conceito de “enshitificação” vem menos de uma reflexão profunda e calcada na academia do que a identificação de um padrão que se repete, de novo e novo, no mundo das Big Techs.
“Em resumo, ele diz que o ciclo de vida de plataformas digitais tem funcionado da seguinte maneira: primeiro, elas são boas para seus usuários; depois, elas abusam o usuário para fazer as coisas melhores para seus clientes comerciais; finalmente, elas abusam os clientes comerciais para extrair todo o valor para si mesmas.”
Uma vez tendo conquistado a maior parcela possível do público – hoje já são mais de cem milhões de pessoas usando o ChatGPT – a Open AI deve seguir o caminho trilhado por muitas outras plataformas. Vai seguir o mecanismo que nos mantém aprisionados, seja no Facebook, Google, Uber, Amazon, seja o ChatGPT, e a maneira como essas empresas conseguem extrair valor, ou mais-valia.
Sim, o produto somos nós. Mas Cory vai além, dizendo que a bostificação é praticamente inevitável, dada a facilidade que as plataformas têm em realocar onde extraem mais-valia no seu modelo de negócios. Ou, melhor dizendo, uma vez que as plataformas e seus algoritmos são atravessadores entre vendedores e compradores, “mantendo ambos os lados como reféns”.
Funciona assim: no começo, qualquer plataforma com ambições grandes o bastante dispensa milhões, senão bilhões de dólares em oferecer um serviço inovador, engajante, interessante e interativo, que permita ao usuário o gozo da descoberta de um mundo novo. Grana estratosférica é gasta em desenvolvedores, designers, cientistas sociais, linguistas, psicólogos, que vão construir uma deliciosa experiência de usuário, sem absolutamente nenhum retorno financeiro imediato à empresa. Fora o pessoal do marketing, que vai se esforçar em aliar o lançamento à narrativa do bom-mocismo do Vale do Silício. Então o Uber era pra democratizar a locomoção, o Facebook te conectava com aqueles que você ama, a Amazon te entrega o que você quiser na sua casa, etc.
A Amazon, por exemplo, operou durante anos com um prejuízo estratosférico; o Uber, pra quem não sabe, tem prejuízo todos os anos, chegando a 9 bilhões de dólares em 2022 no seu afã de controlar todo o mercado global. Uma vez tendo os usuários, é fácil atrair os fornecedores, a quem inicialmente também se oferece um bom negócio. Os motoristas de Uber, por exemplo, recebiam uma bela quantia no começo, ficavam extremamente satisfeitos por poderem ter um trabalho mais flexível. E os clientes estavam satisfeitos. Até que o Uber passou a recolher margens maiores, achatando o valor pago aos motoristas. Hoje, tem sido difícil encontrar um Uber – o famoso processo de bostificação.
No caso do Facebook, o começo da era dos impulsionamentos – que eu vivi aqui como diretora da Pública – também não era assim tão mau. Você pagava um pouquinho, sua mensagem chegava a um monte de gente, havia enorme interação. Só que, como se trata de um mercado não regulado, as regras mudam de acordo com a cabeça do CEO da vez.
Imaginem o seguinte: as plataformas funcionam como grandes praças públicas, porém privatizadas, onde as pessoas se encontram e passam um bom tempo da sua vida. Mas, por serem espaços privados (e digitais, sem nenhuma correlação necessária com a materialidade), toda e qualquer regra pode ser mudada a qualquer momento – e sem aviso. Então você é um vendedor de cachorro-quente e um dia o dono da praça decide que a gravidade já não se aplica mais, e suas salsichas saem voando; no outro dia, decidem que seria melhor que a temperatura fosse abaixo de zero; e toda sua mercadoria congela.
É mais ou menos isso que acontece, mas na descrição de Cory (mais sensata que a minha), o que ocorre é um pouco uma extorsão: uma vez que todo-mundo-do-mundo já está capturado na sua plataforma, o algoritmo passa a deixar de entregar sua mensagem, ou seu produto, e passa a cobrar cada vez mais para fazer algo que antes custava pouco. Sendo um monopólio, você é apenas obrigado a pagar.
Lembrando que esse mercado não é regulado. Não tem regra. Não tem supervisão nenhuma. Nenhum monitoramento público. À la americana, o mercado promete resolver sozinho os problemas que cria ao prender as pessoas-produto no ciclo de gozo.
Aí sim chega a fase final, a fase em que o mercado está tão dominado de ambos os lados – quem oferece o serviço e quem compra – que chega a hora de os investidores verem de volta todo aquele investimento inicial. E a plataforma fica uma merda.
É o que estamos vendo agora com o Twitter, e o que vimos com o Facebook.
O final do ciclo, para Cory, seria que as plataformas se tornariam um “monte tão grande de merda” que esse seria o fim. Depois de mexer nas relações humanas extraindo mais valia de todos os lados, o final seria o abandono do cuidado com todas as partes e o fechamento da empresa, depois de extrair muito lucro pros acionistas. Diz Cory que hoje o Facebook, por exemplo, está “terminalmente bostificado”.
Mas eu acho que isso é otimista. Gigantes máquinas de dinheiro não morrem assim tão fácil, e podem inventar novos produtos, comprar outras empresas e tentar recomeçar o ciclo de atrair o público.
Minha preocupação é outra: que essas empresas tenham se tornado tão poderosas e tão gananciosas que consigam frear qualquer mecanismo de regulação até que seja tarde demais para conter as novas ondas de robotização das atividades mais triviais da nossa vida, e, com isso, a nossa prisão, a precarização do serviço ofertado, e então o rebosteio final.
No fundo, o que pode parecer um problema extremamente complexo é simples. “A bostificação só conseguiu durar tanto porque a internet virou ‘cinco websites gigantes’” e é dominada por um “grupo de monopolistas confortáveis”, diz Cory. “A bostificação exerce uma gravidade praticamente irresistível ao capitalismo plataformizado”. Alternativas de serviços melhores não conseguem disputar a atenção, e, quando conseguem, os monopólios apenas as compram.
Esse ciclo pode até ser infinito – veja a corrida do Google por lançar seu próprio chat com inteligência artificial e imagine um ChatGpt que esteja conectado na internet e já saiba tudo sobre você, que já tenha todos os seus dados – desde que as empresas consigam atrasar indefinidamente qualquer regulação pública da atividade de escravização humana, ou da “indústria do gozo”. Já estamos vendo isso na queda de braço da regulação em muitos lugares, inclusive no Canadá e no Brasil.
Para não sermos escravizados por robôs ultracapitalistas, não teremos outra saída a não ser regular, quebrar, e regionalizar as plataformas.
En la entrevista con Evgeny Morozov, se visualizó el contexto del desarrollo de las tecnologías digitales y sus implicaciones so[...]
LER MAIS
O historiador Yuval Noah Harari, um dos pensadores do momento, reflete sobre como a inteligência artificial e o ‘big data’ tr[...]
LER MAIS
