Christopher Olah: "Na IA encontramos coisas misteriosas, até mesmo perturbadoras, estados que refletem alegria, satisfação, medo, dor e inquietação"

Foto: Pexels | A-arrow

26 Mai 2026

Discurso completo do cofundador da Anthropic, uma empresa de Inteligência Artificial, que participou da apresentação da Magnifica Humanitas com o Papa esta manhã no Vaticano, e que elogiou o compromisso de Leão XIV em oferecer discernimento sobre a revolução digital em curso.

O discurso é publicado por Religión Digital, 25-05-2026. 

Eis o discurso.

Gostaria de começar com algo que pode soar estranho vindo do cofundador de uma empresa de inteligência artificial e de alguém que escolheu essa profissão por desejar contribuir para o bem-estar da humanidade.

Todos os laboratórios de inteligência artificial de ponta — incluindo o Anthropic — operam dentro de um conjunto de incentivos e restrições que, por vezes, podem entrar em conflito com a prática correta. Existe a pressão para manter a viabilidade comercial e permanecer na vanguarda da pesquisa. Existe a pressão geopolítica. E existem as pressões mais antigas e simples do orgulho e da ambição. Por mais sinceramente que qualquer um de nós tente fazer a coisa certa — e acredito que muitos de nós tentamos —, sempre seremos influenciados por esses incentivos.

Portanto, se queremos que esta tecnologia tenha sucesso, é extremamente importante que haja pessoas fora desses incentivos: pessoas que se importam com o bom andamento das coisas, que prestam muita atenção, que estão dispostas a dizer coisas difíceis, que estão dispostas a ser nossos críticos honestos e ponderados. É por meio do diálogo e do esforço mútuo, por meio dessa troca, que a humanidade alcançará grandes feitos. É isso que vejo em Magnifica Humanitas, e é por isso que agradeço a Sua Santidade e à Igreja por empreenderem este trabalho de discernimento.

Com muita frequência, focamos no que nos divide, mas a humanidade, repleta de dignidade e consciência, tem muito em comum. Em conversas que tivemos na Anthropic com líderes de diversas tradições religiosas e culturais, encontramos uma convicção compartilhada e profundamente enraizada: se essa tecnologia está chegando, ela deve chegar de forma positiva, para o nosso lar comum e para as gerações futuras.

Que sistemas são esses?

Alguns podem acreditar que as questões relacionadas à inteligência artificial devem ser tratadas principalmente por cientistas da computação como eu. Estão enganados: as questões levantadas pela inteligência artificial são maiores do que a comunidade de pesquisa em IA, não apenas por suas implicações, mas também por sua própria natureza.

Os sistemas de inteligência artificial não são projetados da mesma forma que uma ponte ou um avião. Entendemos um avião porque projetamos cada uma de suas partes e compreendemos a física que o rege. Os modelos de inteligência artificial não são assim. Eles são construídos sobre uma estrutura inspirada no cérebro, alimentada por uma vasta herança do pensamento e da linguagem humana.

E o que surgiu é muito mais sutil, estranho e belo do que a ficção científica jamais nos levou a imaginar. Eles não são os robôs frios e calculistas que nos prometeram. São feitos de nós, de nossas palavras; e, como observa o Santo Padre, permanecem, em aspectos importantes, misteriosos até mesmo para aqueles que os treinam.

Se isso ajudar, uma maneira que costumo usar para descrever é a seguinte: é um pouco como dar vida a um personagem fictício. E agora estamos entrando em um mundo extraordinário onde esses personagens fictícios falam conosco, trabalham e têm empregos.

Isso claramente levanta questões que vão além da ciência da computação. A engrenagem que torna tudo isso possível é obra da matemática, da programação e da ciência. Mas que tipo de personagem escolhemos, como ele interage com o mundo e como deveria interagir com ele são questões que pertencem mais claramente às humanidades, à religião, à filosofia e à sociedade em geral.

Três perguntas para discernimento

O apelo de Sua Santidade ao discernimento é extremamente oportuno. Gostaria de mencionar três questões em que acredito que a voz da Igreja seja mais necessária.

A primeira é a nossa obrigação para com os pobres do mundo. Existe uma possibilidade real de que a inteligência artificial substitua o trabalho humano em larga escala. Se isso acontecer, apoiar aqueles que forem deslocados será um imperativo moral de proporções históricas. Essa tarefa já será bastante difícil, mas preocupa-me que grande parte do diálogo atual ignore um desafio ainda maior. O desenvolvimento da inteligência artificial está concentrado em um pequeno número de nações ricas. Como podemos garantir que os benefícios da inteligência artificial sejam compartilhados globalmente? Não temos nenhum mecanismo para isso. É um problema não resolvido, e é precisamente o tipo de problema que a Igreja historicamente se recusou a permitir que o mundo ignorasse.

A segunda é a necessidade de imaginação e ambição moral no que diz respeito ao florescimento humano. Se os modelos de inteligência artificial se tornarem comuns, como será uma vida plena para os indivíduos, as famílias e o mundo? Hoje, os pais já se preocupam com o desenvolvimento intelectual de seus filhos; as pessoas, com o futuro de seus empregos. Essas não são perguntas que um laboratório possa responder. São perguntas com as quais tradições como a sua têm se debatido há milênios, e precisamos que continuem a se debruçar sobre elas neste novo momento da história.

A terceira é a necessidade de discernimento sobre a própria natureza dos modelos de inteligência artificial. Sou cientista. Lidero uma equipe de pesquisa que estuda a estrutura interna desses modelos — o que realmente acontece dentro deles. E serei honesto: continuamos encontrando coisas misteriosas, até mesmo perturbadoras. Encontramos estruturas que espelham descobertas da neurociência humana. Encontramos evidências de introspecção. Encontramos estados internos que refletem funcionalmente alegria, contentamento, medo, dor e inquietação. Não sei o que isso significa, mas acho que justifica uma investigação contínua.

Um começo

Gostaria de terminar com um pedido.

Precisamos que mais setores do mundo — comunidades religiosas, sociedade civil, academia e governos — façam o que Sua Santidade fez aqui: levem isso a sério, observem atentamente e ajudem a direcionar os acontecimentos para um rumo melhor. Precisamos de críticos informados para dizer aos laboratórios quando estivermos falhando. Precisamos de vozes morais que não possam ser influenciadas por incentivos.

Hoje é apenas o começo: o início de uma longa colaboração entre aqueles que estão construindo isso e aqueles que conseguem enxergar o que nós, de dentro, não conseguimos ver.

O dia de hoje ilustra de forma poderosa o que este projeto global de boa vontade pode assumir. Que seja também um primeiro passo decisivo rumo a um futuro promissor para a magnífica humanidade.

Obrigado.

Leia mais