"O papa Leão XIV afirma que, ao longo dos séculos, o desenvolvimento tecnológico contribuiu para uma melhoria significativa das condições de vida da humanidade; por outro lado, ao mesmo tempo, cada etapa do progresso revelou a dimensão de ambiguidade do uso de instrumentos que, quando não direcionados para o bem, são capazes de causar danos".
O artigo é de Manfredo Araújo de Oliveira.
Manfredo Araújo de Oliveira é doutor em Filosofia pela Universität München Ludwig Maximilian de Munique, Alemanha, mestre em Teologia, pela Pontifícia Universidade Gregoriana de Roma, escritor e professor no programa de mestrado/doutorado de Filosofia da Universidade Federal do Ceará/UFC.
Manfredo Araújo de Oliveira | Foto: Arquivo Pessoal.
O presente texto integra a coluna Vozes de Emaús, que conta com contribuições semanais dos membros do Grupo Emaús. Para saber mais sobre o projeto, acesse aqui.
Em sua primeira encíclica, o papa Leão XIV começa apontando para uma questão central na vida humana. Cada geração se põe diante de uma tarefa fundamental: dar forma ao seu tempo, ou seja, contribuir para “fazer amadurecer a história como um lugar onde a dignidade de cada pessoa seja salvaguardada, a justiça promovida e a fraternidade possibilitada. Sobre cada época, porém, paira o risco de construir um mundo desumano e mais injusto” (Magnifica Humanitas, n. 1, p. 9) Os cristãos, em decorrência de sua fé, precisam ter consciência de que devem dar sua contribuição em todas as iniciativas que constroem um mundo mais justo. É muito importante, aqui, o convite a outros para colaborar na promoção do desenvolvimento integral de cada ser humano. Daí a exigência de dialogar com todos os homens e mulheres do nosso tempo para partilhar os acontecimentos, as questões e as aspirações da humanidade. Com eles, precisamos buscar novos caminhos para o bem comum e a promoção de uma vida digna para todos.
Foi com esse espírito que Leão XIII publicou, em 1891, a encíclica Rerum Novarum, enfrentando as grandes questões que marcavam o mundo novo da industrialização. Quando alguns defendiam que a Igreja não devia perder tempo com questões mundanas, mas concentrar-se em comunicar uma mensagem de vida eterna, ele respondia com firmeza e sabedoria que o anúncio do Evangelho não pode esquecer a vida concreta dos povos.
Assim, é nossa tarefa hoje interpretar as grandes tendências que marcam nossa situação histórica dentre as quais se destaca, de modo especial, a revolução tecnológica. Nas últimas décadas, tornou-se cada vez mais claro quão rápida e profundamente a digitalização, a inteligência artificial e a robótica estão transformando o nosso mundo. A técnica não deve ser considerada como uma força contraposta à pessoa: antes, está enraizada na nossa história desde o início na medida em que é "um dado profundamente humano, ligado à autonomia e à liberdade do homem". (MH, n. 4, p. 11)
O papa Leão XIV afirma que, ao longo dos séculos, o desenvolvimento tecnológico contribuiu para uma melhoria significativa das condições de vida da humanidade; por outro lado, ao mesmo tempo, cada etapa do progresso revelou a dimensão de ambiguidade do uso de instrumentos que, quando não direcionados para o bem, são capazes de causar danos. Estamos vivendo uma situação nova em que o poder e a disseminação das tecnologias emergentes invadem nossa vida quotidiana. Isso molda os processos de decisão e incidem profundamente no imaginário coletivo: "Nunca a humanidade teve tanto poder sobre si mesma". (MH, n. 4, p. 11)
Faz-se necessário adotar normas adequadas capazes de assegurar a justiça e de reter os efeitos danosos do poder tecnológico. No entanto, a questão não se esgota na regulamentação. Como alertou o Papa Francisco, devemos perguntar-nos com realismo quem detém hoje este poder e para que fins o orienta: "Não podemos, porém, ignorar que a energia nuclear, a biotecnologia, a informática, o conhecimento do nosso próprio DNA […] dão, àqueles que detêm o conhecimento e sobretudo o poder econômico para o desfrutar, um domínio impressionante sobre o conjunto do gênero humano e do mundo inteiro (LS, n. 104)". (MH, n. 5, p. 11)
Neste sentido, há, em nosso tempo, algo de novo e de grandes consequências: no passado, a orientação e a direção da inovação estavam nas mãos do Estado. Hoje, os principais motores do desenvolvimento são sujeitos privados o que torna ainda mais difícil discernir a situação e orientar o poder tecnológico para o bem comum. Faz-se, então, extremamente necessário um discernimento compartilhado a fim de penetrar nas raízes espirituais e culturais destas transformações muito rápidas que nos conduzem a uma questão decisiva: “Que direção escolher enquanto comunidade humana e enquanto povos? (MH, n. 6, p. 12)
Depois de considerar os princípios que regem a Doutrina Social da Igreja, o papa Leão XIV passa a considerar alguns desafios que marcam nossa situação histórica. Para analisar a problemática que marca fundamentalmente nosso tempo, ele utiliza a imagem bíblica da “construção”: por um lado, a Torre de Babel, onde a obra comum é comandada por um projeto de domínio, “sustentada por uma uniformidade que elimina a diversidade e que, em vez da comunhão opta pela homogeneização” que conduz à desumanização; por outro, as ruínas de Jerusalém, onde se trata de uma reconstrução por partes com um trabalho de responsabilidade partilhada. (MH, n. 7, p. 12-13)
Isso nos leva a uma interrogação central: que estamos construindo em nosso tempo? Vivemos marcados por um gigantesco desenvolvimento tecnológico que transforma rapidamente linguagens, relações, instituições e formas de poder, uma vez que a Inteligência Artificial e outras tecnologias emergentes já fazem parte de nosso quotidiano. O desafio básico é definir-se por um projeto de trabalho que possa garantir e valorizar a magnífica humanidade da pessoa humana.
Na encíclica Laudato Sí, o papa Francisco denunciou o que ele denominou de “paradigma tecnocrático”, que é a tendência hegemônica hoje de deixar que a lógica da eficiência, do domínio e do lucro governe as escolhas pessoais, sociais e econômicas. Esta situação revela, diz Leão XIV, que a técnica não pode ser reduzida a um mero instrumento. Quando ela é tomada como critério de orientação de nossa existência, é a partir dela que se estabelece o que é importante e o que deve ser descartado em nossa vida. Isso nos pode conduz a considerar tudo como objeto de exploração, inclusive a pessoa humana.
Este paradigma teve uma expansão muito rápida, nos últimos anos, em virtude também da difusão da Inteligência Artificial, das ciências cognitivas, da robótica e da biotecnologia. A situação aqui é ambivalente: por um lado, essas inovações podem ser portadoras de grande ajuda para o desenvolvimento humano integral e para o cuidado com o meio ambiente; por outro, podem transformar-se em elementos de aceleração do paradigma tecnocrático. Daí o grande desafio de terem de ser avaliados a partir de uma visão espiritual, ética e política. O grande risco, neste contexto, é a humanidade se tornar vítima de suas próprias conquistas, como viu muito bem o papa Paulo VI ao afirmar que os progressos científicos mais extraordinários, se não estiverem unidos a um progresso social e moral, voltam-se contra o ser humano. (MH, n. 94, p. 58-59)
O papa Leão XIV apresenta dois elementos que propiciam um discernimento adequado nessa situação: a visão antropológica que orienta e os fins pretendidos. (MH, n. 96, p. 59) Há aqui um elemento de grandes consequências: em muitos casos, o controle das plataformas, dos dados e da capacidade de computação não é assumido pelo Estado, mas por grandes sujeitos econômicos e tecnológicos que estabelecem as condições de acesso, as regras de visibilidade e as próprias possibilidades de participação. Por isso, para o papa, os critérios fundamentais da Doutrina Social constituem o horizonte de avaliação e discernimento nesse cenário: a dignidade inalienável da pessoa, o bem comum, a destinação universal dos bens, a subsidiariedade, a solidariedade e a justiça social. Assim, ela deve proteger os mais frágeis.
O papa Leão XIV tem consciência da vastíssima bibliografia hoje existente sobre a questão da Inteligência Artificial que marca decisivamente a vida humana em nossos dias. Por isso, ao iniciar, em sua encíclica, o tratamento desta problemática manifesta, com clareza, seu objetivo fundamental: ”Limito-me a recordar alguns elementos essenciais a um discernimento moral e social que salvaguarde o primado da pessoa, para que seja sempre a inteligência humana, com a sua consciência e liberdade, a orientar as inovações técnicas e a estabelecer com responsabilidade o seu uso e limites”. (MH, n. 97, p. 60)
Em primeiro lugar, ele chama atenção para dois aspectos básicos: primeiro, qualquer afirmação sobre a IA corre sempre o risco de se tornar brevemente ultrapassada por causa da impressionante velocidade de seu desenvolvimento; segundo, todos nós sabemos pouco sobre o seu desenvolvimento efetivo até porque seus programadores não projetam diretamente seus detalhes, mas simplesmente criam uma estrutura a partir da qual a IA “cresce”. Por isso, revela-se aqui a urgência de um duplo compromisso: um aprofundamento da investigação científica e o exercício de discernimento moral e espiritual.
Tudo isso nos conduz a uma exigência fundamental: evitar o equívoco de equiparar a inteligência artificial e a inteligência humana uma vez que ela apenas imita algumas funções da inteligência humana. Esses sistemas tratam de dados e “Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem porque não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio”. (MH, n. 99, p. 61)
Por essa razão, diz o papa, sua forma de aprender é muito diferente da do ser humano uma vez que ela se reduz a uma ”adaptação estatística a partir de dados e resultados, que pode ser muito eficaz, mas não implica crescimento interior”. (MH, n. 99, p. 61)
Daí porque sua difusão pode trazer muitas oportunidades e, igualmente, grandes riscos à pessoa humana. Por isso sua utilização exige que sejam sempre levados em consideração três aspectos: “a facilidade de obter resultados, a aparência de objetividade e a simulação da comunicação humana”. (MH, n. 100, p. 61)
Ligado a tudo isso há um perigo normalmente esquecido: acostumar-nos a delegar e a procurar respostas prontas e alcançadas com grande rapidez, mas que podem levar-nos a enfraquecer nossa capacidade de formar nossa própria opinião e nossa criatividade. Em virtude da aparência de objetividade, corremos o risco de esquecer que elas refletem os parâmetros culturais de seus construtores com seus valores e ou defeitos e, mais grave ainda, sucumbir à ilusão de estarmos falando com uma outra pessoa construindo uma relação intersubjetiva o que pode, inclusive, conduzir-nos a perder o desejo de procurar verdadeiramente o outro.
Tudo isto nos tem levado a vantagens em termos de eficiência e melhoria de alguns serviços. Contudo, expõe-nos a muitos riscos, entre os quais conta muito a possibilidade de subestimar seu impacto ambiental. Com efeito, os atuais sistemas de IA, por se apoiarem em cabos, centros de dados e complexas infraestruturas, consumem uma grande quantidade de recursos, sobretudo água e energia, e têm um grande impacto nas emissões de dióxido de carbono. “Por isso é essencial desenvolver soluções tecnológicas mais sustentáveis”.... (MH, n. 101, p. 62)