“O viés é uma manifestação do pecado: uma forma de ver, escolher e agir que nega a dignidade inalienável e igualitária de indivíduos e grupos de pessoas humanas. A inteligência artificial pode consolidar e amplificar vieses através de vários fatores”. A reflexão é de David DeCosse e Irina Raicu, em artigo publicado por Promotio Iusticiae, 10-07-2026. A tradução é do Cepat.
David E. DeCosse é especialista em ética social católica e diretor de Ética Católica e Religiosa no Markkula Center for Applied Ethics da Universidade de Santa Clara. Ele é colaborador do National Catholic Reporter.
Irina Raicu dirige o programa de Ética na Internet do Markkula Center for Applied Ethics. Seu trabalho aborda uma ampla variedade de temas, incluindo a exclusão digital e as diversas questões éticas associadas à inteligência artificial. Raicu integrou o primeiro grupo de trabalho da Partnership on AI dedicado a uma IA justa, transparente e responsável, e é autora ou coautora de diversos materiais publicados pelo Markkula Center. Seus textos foram publicados em veículos como The Atlantic, The San Francisco Chronicle e Recode.
Quem o reconhecimento facial reconhece? Quem é recomendado para um emprego por um algoritmo de contratação de IA? Como o viés influencia o resultado de um modelo de geração de imagens? Quais escolhas se refletem em todo o processo multifacetado de “tomada de decisão” que envolve a criação e a implementação de modelos de IA?
Em um mundo saturado de IA, a questão do viés na inteligência artificial apresenta um novo desafio para o pensamento católico. Acreditamos que um ponto de partida útil para abordar esse desafio é a ideia de “pecado estrutural polivalente”, articulada pela teóloga católica americana Kristin Heyer em seu discurso de 2024 intitulado “Hearts of flesh”: structural sin and social salvation (“Corações de carne”: Pecado estrutural e salvação social).
O viés é uma manifestação do pecado: uma forma de ver, escolher e agir que nega a dignidade inalienável e igualitária de indivíduos e grupos de pessoas humanas. A inteligência artificial pode consolidar e amplificar vieses através de vários fatores: a composição dos vastos conjuntos de dados necessários para treinar ferramentas de IA; as diversas escolhas feitas durante o processo de treinamento e implementação dessas ferramentas; as alegações de objetividade que frequentemente acompanham o uso da IA; e a compreensão pública limitada sobre como os modelos de IA operam. O trabalho de Heyer reconhece o papel do pecado original e do pecado pessoal na criação do pecado social, mas concentra-se na maneira como o pecado social assume uma espécie de agência própria: as estruturas pecaminosas, por si sós, agem sobre as pessoas. Heyer argumenta que o pecado social é “polivalente”, constituído por três dimensões: a estrutura, a cultura-ideologia e a interação entre responsabilidade e hábito.
No caso do viés e da IA, a noção de “estrutura” de Heyer nos remete ao poder daqueles que tomam decisões moldando o desenvolvimento e a implementação de ferramentas de IA, especialmente dada a ausência de regimes regulatórios (e o poder desigual daqueles cujos dados estão sendo usados ou que estão sujeitos a decisões automatizadas). Por meio da categoria “cultura-ideologia”, ela nos convida a avaliar as narrativas que afirmam ser a IA objetiva ou mais perspicaz do que os seres humanos. Por fim, ao abordar a “responsabilidade e o hábito”, Heyer nos ajuda a compreender como os vieses em sistemas e narrativas de IA podem interagir com as pessoas e influenciá-las, fomentando hábitos de percepção e ação que moldam tanto desenvolvedores quanto usuários de IA – bem como aqueles que não se enquadram em nenhum desses grupos, mas que, ainda assim, são afetados por decisões algorítmicas.
Iniciamos este ensaio com perguntas sobre o reconhecimento facial, os algoritmos utilizados para decisões de contratação e as formas como vieses podem surgir em interações com chatbots (incluindo, por exemplo, solicitações de geração de imagens). Esses exemplos ilustram fatores estruturais do problema da IA e dos vieses.
O reconhecimento facial não é perfeito e não é implementado em um mundo isento de vieses. Até abril de 2026, pelo menos 14 pessoas nos EUA haviam sido presas injustamente com base em resultados errôneos de reconhecimento facial, considerados precisos pela polícia; uma delas, uma avó, permaneceu presa por um total de seis meses em decorrência da identificação equivocada (e de falhas no processo subsequente). Ferramentas de reconhecimento facial demonstraram apresentar taxas mais elevadas de correspondências imprecisas para diferentes grupos de pessoas – incluindo mulheres, jovens e idosos.
Algoritmos de contratação também não são perfeitos. Em maio de 2026, pesquisadores da Universidade de Stanford, na Califórnia, divulgaram um estudo que analisava os registros de 3,4 milhões de pessoas responsáveis por 4 milhões de candidaturas a vagas de emprego, todas avaliadas pelo mesmo software de contratação baseado em IA; a análise revelou “que essas ferramentas aumentam o viés racial e excluem as mesmas pessoas de oportunidades de emprego, independentemente de onde se candidatem”.
Há alguns anos, um projeto intitulado Models All the Way Down investigou o conjunto de dados LAION-Aesthetics – um dos vários conjuntos de dados de código aberto desenvolvidos para o treinamento de modelos de geração de imagens e disponibilizados publicamente por uma organização sem fins lucrativos alemã. Os autores do projeto demonstraram que “os conceitos do que é ou não visualmente atraente podem ser influenciados de forma desproporcional pelos gostos de um grupo muito restrito de indivíduos e pelos processos escolhidos pelos criadores para a curadoria desses conjuntos de dados”.
As ferramentas de inteligência artificial, assim como todas as criações humanas, incorporam e refletem escolhas humanas. Além das escolhas imediatas de seus criadores, elas também são moldadas, em parte, por restrições que refletem decisões tomadas por humanos há muito tempo. Por exemplo, a arquitetura da internet – e a maneira como os sites permitiram, por longo tempo, a extração automatizada (scraping) de conteúdo enviado por usuários individuais – possibilitou a reunião de um vasto número de imagens nos tipos de conjuntos de dados necessários para treinar IAs de geração de imagens.
No entanto, algumas pessoas têm mais probabilidade do que outras de ter acesso à internet, de possuir câmeras e de publicar suas imagens; não são apenas as escolhas sobre o que é esteticamente agradável, mas também as escolhas de quem ou o que fotografar que moldam os resultados das ferramentas de geração de imagens. Em meio a afirmações frequentes de que a IA é “treinada com todo o conhecimento humano”, é preciso perguntar: de quem é o conhecimento, de quem são as imagens, as vozes e as escolhas que podem estar ausentes ou pouco representadas nesses modelos de ponta que abrangem tanta coisa?
Além disso, dados não são sinônimo de objetividade. Como pesquisadores atentos têm argumentado, os dados são uma construção, e o “processo de construção de dados incorpora valores sociais e padrões de privilégio a eles. Quando esses valores e privilégios são injustos, a injustiça passa a ser uma característica dos próprios dados”. Pense nos dados sobre prisões, por exemplo, e nas escolhas neles embutidas – sobre quem prender e por quais crimes. Nos EUA, essas escolhas se refletem em algoritmos usados no sistema de justiça criminal, que tentam avaliar a probabilidade de reincidência de uma pessoa ou determinar a duração de sua pena.
Para além dos dados, o design do modelo e as escolhas feitas durante o treinamento também moldam os resultados das ferramentas de IA. Por exemplo, pesquisas mostraram que até mesmo a duração do treinamento de um determinado modelo pode “impactar desproporcionalmente as taxas de erro”. Acontece que “as características desafiadoras e sub-representadas são aprendidas mais tarde no processo de treinamento... Assim, escolhas como a parada antecipada (early stopping) e outras semelhantes impactam desproporcional e sistematicamente um subconjunto da distribuição de dados”. Esse subconjunto reflete categorias para as quais há menos dados; no caso dos seres humanos, trata-se daqueles cujas identidades, experiências, vozes, etc., estão menos representadas.
Muitos pesquisadores que trabalham com modelos de IA estão plenamente cientes dessa questão e engajados nela, trabalhando para combater vieses em seus produtos. No entanto, grandes modelos de IA são sistemas de enorme complexidade – cujo sucesso foi descrito por alguns cientistas da computação como “alquimia” – e cujo funcionamento e alterações podem surpreender até mesmo seus próprios desenvolvedores. À medida que novas versões de modelos são lançadas, vantagens em algumas áreas podem vir acompanhadas de retrocessos em outras: os pesquisadores que analisaram a discriminação de dialetos no ChatGPT, por exemplo, constataram que “o GPT-4 supera o GPT-3.5 em termos de compreensão, cordialidade e simpatia, mas também apresenta um aumento acentuado na reprodução de estereótipos (+18%)”.
O nível de viés oscila. E, no caso da IA, o viés não surge apenas por meio dos dados e das escolhas de design.
A própria escolha do problema a ser abordado com IA também pode refletir vieses. Considere o conceito de “policiamento preditivo” – o esforço para prever onde crimes ocorrerão, permitindo que as forças de segurança respondam com mais agilidade quando eles acontecem. Como forma de crítica, os desenvolvedores de um projeto chamado “Zonas de Risco de Crimes de Colarinho Branco” (White Collar Crime Risk Zones) utilizaram aprendizado de máquina para prever os locais mais prováveis de ocorrência de crimes financeiros nos EUA, treinando seu modelo com dados sobre incidentes dessa natureza desde 1964. O ponto central, naturalmente, era que os governos geralmente não aplicam o policiamento preditivo a crimes de colarinho branco – e não por falta de dados.
Na última década, governos de vários países implementaram ferramentas algorítmicas na tentativa de combater fraudes em programas de assistência social (muitas vezes com consequências extremamente prejudiciais para as pessoas vulneráveis que dependem desses benefícios); por outro lado, é muito menos provável vermos ferramentas algorítmicas sendo empregadas para identificar corrupção política ou brechas nos sistemas tributários que permitem aos mais ricos pagar menos impostos.
Embora haja uma crescente consciência sobre as limitações da IA e as interações complexas entre as ferramentas de IA e os diversos contextos sociais em que são aplicadas, o uso dessas ferramentas tem sido acompanhado por certas narrativas e crenças que continuam a exercer influência. Por exemplo, com frequência, a implementação desses produtos vem acompanhada da suposição de que eles funcionam conforme o esperado – uma ideia muitas vezes refutada apenas depois que muitas pessoas já foram prejudicadas.
Também vem acompanhada da afirmação (e da esperança) de que a IA é objetiva: a tomada de decisão baseada em dados é, há muito tempo, contraposta à tomada de decisão baseada puramente na intuição ou em vieses pessoais; além disso, o aprendizado de máquina processa dados por meio de múltiplas camadas matemáticas, o que, novamente, sugere objetividade. Como observado anteriormente, no entanto, a subjetividade permeia o desenvolvimento e a implementação da IA em diversos pontos, o que explica por que alguns críticos se referem à alegação de objetividade da IA como uma “lavagem de vieses”.
E novas afirmações continuam a surgir no debate: por exemplo, a de que dados “sintéticos” (gerados por IA) serão capazes de imitar com precisão dados humanos para diversos fins, incluindo pesquisas sobre como os humanos pensam, se comunicam ou colaboram; a de que a implementação da IA é uma força imparável; a de que tal implementação levará, em última análise, ao florescimento humano; ou a de que a IA está se tornando mais semelhante aos humanos e, portanto, poderia ela própria merecer dignidade e direitos.
A questão do viés na IA, no entanto, nos obriga a examinar todas essas alegações sob a ótica da justiça e do bem comum.
De fato, a IA molda nossos hábitos e nossas formas de ver e escolher. Contudo, no modelo de Heyer, essa influência não exclui as possibilidades de escolha e responsabilidade. Além disso, há esforços importantes em curso para enfrentar o problema do viés na IA como uma questão de hábitos.
Embora ferramentas de IA enviesadas já moldem a vida de muitas pessoas ao redor do mundo, a crescente conscientização sobre o problema do viés na IA também está impulsionando esforços para reformular os próprios sistemas de IA. Existem múltiplas iniciativas paralelas para incorporar uma parcela maior do conhecimento mundial aos conjuntos de dados necessários para as ferramentas de IA: por exemplo, a Fundação Mozilla vem construindo o conjunto de dados chamado Common Voice, que agora abrange mais de 100 idiomas – dados coletados com o apoio de mais de 400.000 voluntários. Há também esforços para desenvolver modelos inteiros mais bem alinhados com diferentes partes do mundo: um exemplo é o Latam-GPT, que visa ser “um modelo específico para a América Latina e o Caribe, atento aos requisitos culturais e aos desafios que isso implica, como a compreensão de diferentes dialetos, da história da região e de aspectos culturais singulares”.
Naturalmente, tais modelos e conjuntos de dados trarão seus próprios vieses – mas também trarão consigo uma crítica intrínseca à alegação de objetividade da IA.
No livro intitulado Fairness and Machine Learning (Equidade e Aprendizado de Máquina), os pesquisadores Solon Barocas, Moritz Hardt e Arvind Narayanan detalham a natureza e as complexidades do desafio de tornar a IA mais justa, mas acrescentam que “a transição para a tomada de decisões automatizada e o aprendizado de máquina oferece uma oportunidade de reconexão com os fundamentos morais da equidade”. Eles argumentam que o aprendizado de máquina “tem o potencial de nos ajudar a debater, de forma mais eficaz, a equidade de diferentes políticas e procedimentos de tomada de decisão”. Ainda assim, eles alertam que o trabalho em prol da equidade na IA não levará a respostas simples.
De fato, até o momento, o viés continua sendo uma questão central, mas representa apenas uma parte do conjunto de problemas relacionados à falta de equidade. Se queremos mais equidade na IA, devemos também contestar a ideia de que o trabalho de criadores individuais e todas as nossas comunicações pessoais podem ser livremente “coletados” como dados de treinamento para grandes modelos. Devemos exigir uma remuneração mais justa para os anotadores de dados e prestadores de serviço que, atualmente, geram fragmentos de código ou texto destinados a servir como dados de treinamento de melhor qualidade. Devemos exigir que quaisquer sistemas de IA que impactem, de alguma forma, a rede de proteção social sejam cuidadosamente testados em programas-piloto e submetidos a auditorias independentes antes de serem implementados em larga escala. Devemos rejeitar o uso de ferramentas algorítmicas que tornem o sistema de justiça criminal menos justo. Devemos exigir que os custos de infraestrutura gerados por data centers de hiperescala otimizados para IA sejam arcados pelas empresas que mais se beneficiam do boom da IA. Devemos também exigir critérios rigorosos para a localização de novos data centers, de modo que comunidades vulneráveis e com menos poder político não tenham de arcar com um ônus desproporcional – em termos de consumo de energia e água e de impactos na saúde pública – decorrente de tais empreendimentos.
Se a coleta de certos tipos de conjuntos de dados já corria o risco de reduzir seres humanos a meros pontos de dados – a menos que fosse realizada com grande discernimento –, o processamento desses dados por grandes modelos de linguagem pode nos levar ainda mais longe na perda da agência, dos direitos e da dignidade humana. Além disso, a implementação da tomada de decisão automatizada em certos aspectos da sociedade pode nos impulsionar em direção àquilo que o Papa Francisco chamou de o maior pecado do nosso tempo: a “globalização da indiferença”.
Para além da indiferença, a sensação de impotência diante de problemas arraigados, como o viés na IA (e não apenas nela), pode levar a uma ameaça correlata: a apatia. No entanto, em Corações e carne, Heyer também oferece uma prescrição oportuna, composta por três frentes, para responder à apatia: “Primeiro, escreve, mudar o foco metodológico da análise da cumplicidade para a assunção de responsabilidade; segundo, permitir que a desorientação – ou as desorientações – amoleça nossos corações; e terceiro, colocar no centro o protagonismo daqueles que estão à margem”.
O que vem sendo chamado de “era da IA” traz, para todos nós, uma boa dose de desorientação. Embora alguns possam ver essa desorientação como uma causa da apatia, Heyer prefere encará-la como um meio de nos tirar de estruturas e hábitos preexistentes. Sua prescrição é um apelo à ação.
Já se passaram dez anos desde que jornalistas da ProPublica publicaram um artigo intitulado Machine Bias (Viés de máquina): “Existe um software usado em todos os [EUA] para prever futuros criminosos, escreveram em 2016, e ele é tendencioso contra negros”. Desde então, muitas pessoas se tornaram mais conscientes das formas como a IA pode perpetuar e ampliar desigualdades, mas ainda há muito trabalho a ser feito.