28 Fevereiro 2024
Em seu aclamado livro “God, Human, Animal, Machine: Technology, Metaphor, and the Search for Meaning”, Meghan O’Gieblyn afirma que “hoje a inteligência artificial e a tecnologia da informação absorveram muitas das questões que antes eram respondidas por teólogos e filósofos: a relação da mente com o corpo, a questão do livre arbítrio, a possibilidade da imortalidade”. O livro “Encountering Artificial Intelligence: Ethical and Anthropological Investigations” é uma evidência de que teólogos e filósofos católicos, entre outros, ainda não estão dispostos a abrir mão desse campo e a recuar para estudos meramente históricos.
O comentário é de Bernard G. Prusak, professor da Universidade John Carroll, em artigo publicado em National Catholic Reporter, 24-02-2024. A tradução é de Moisés Sbardelotto.
Ao mesmo tempo, esse livro confirma o ponto de vista de O’Gieblyn de que os avanços na IA levantaram novamente e se tornaram a base intelectual para aquilo que os autores de “Encountering Artificial Intelligence” chamam de “um conjunto de questões existenciais sobre o sentido e a natureza não apenas da inteligência, mas também da personalidade, da consciência e da relação”. Em suma, pensar sobre a IA levantou questões profundas sobre como pensar sobre os seres humanos.
“Encountering Artificial Intelligence” é a publicação inicial da série de livros Theological Investigations of Artificial Intelligence, uma colaboração entre o Journal of Moral Theology e o AI Research Group for the Center for Digital Culture, que é composto por teólogos, filósofos e eticistas estadunidenses reunidos a convite do Vaticano.
Os principais autores deste livro, que representa vários anos de trabalho, são Matthew Gaudet (Santa Clara University), Noreen Herzfeld (College of St. Benedict), Paul Scherz (Universidade da Virgínia) e Jordan Wales (Hillsdale College). Outros 16 autores contribuem com a obra. O livro é apresentado como um instrumentum laboris, ou seja, “um ponto de partida para futuras discussões e reflexões”. A julgar por esse objetivo, é um grande sucesso. É estimulante para se fazer perguntas.
O livro está organizado em duas partes. A primeira aborda questões antropológicas – nada menos do que “o significado de termos como pessoa, inteligência, consciência e relação” – enquanto a segunda se concentra em “questões éticas já emergentes a partir do mundo da IA”, como a acumulação maciça de poder e de riqueza por grandes empresas de tecnologia (afinal, a “nuvem” depende de enormes economias de escala e da extração intensiva dos minerais da Terra).
Como os autores reconhecem, esses conjuntos de questões estão interligados. Por exemplo, “a forma como pensamos e tratamos a IA moldará o nosso próprio exercício da personalidade”. Assim, as questões antropológicas têm elevados riscos éticos.
“Encountering Artificial Intelligence” será publicado pela Pickwick Publications em março. Ele está disponível para download gratuito aqui.
A premissa do livro é de que as tradições intelectuais e do ensino social católico, longe de serem obsoletas na nossa era secular e desencantada, oferecem ferramentas conceituais para nos ajudar a enfrentar os desafios do nosso admirável mundo novo.
A teologia da Trindade figura de forma central na análise do livro sobre personalidade e consciência. “Em última análise”, afirmam os autores, “uma compreensão da consciência deve estar fundamentada no próprio ser do Deus Triúno, cuja vida interior é uma amorosa autodoação mútua”.
Ao abordar questões éticas emergentes, os autores recorrem frequentemente à crítica do Papa Francisco ao paradigma tecnocrático e a seu apelo a uma cultura do encontro, que, afirmam eles, nos dão “orientações específicas para abordar as preocupações prementes deste momento atual”.
Parte da utilidade do livro é que, em alguns pontos, suas investigações precisam claramente ir mais a fundo. Por exemplo, a virada do livro para a maquinaria pesada da teologia da Trindade, a fim de lançar luz sobre a personalidade, provoca um curto-circuito na reflexão filosófica que ele admiravelmente inicia. Uma questão-chave levantada pelos autores é “se [as máquinas] podem ter aquela experiência qualitativa e subjetivamente privada que chamamos de consciência”. Mas em que sentido a consciência é uma “experiência”?
Parece, pelo menos, que não a experienciamos da mesma forma que temos a experiência de ver o céu azul – a menos que queiramos reduzir a consciência precisamente a tais experiências. No entanto, pode-se argumentar que a consciência é mais bem compreendida quer como a condição necessária para ter tal experiência, quer como uma percepção ou forma de conhecimento (consideremos a etimologia do termo) que a acompanha e é acessível por meio dela. De uma forma ou de outra, a questão precisa de mais atenção e cuidado.
Também é importante para a discussão da IA que existam formas ou níveis distintos de consciência. Quando eu interajo com meu cachorro, ele está evidentemente ciente de mim, mas dá poucas evidências de estar ciente da minha consciência da consciência dele sobre mim (consequentemente, ele é péssimo em tentar me enganar ou iludir).
Em contraste, quando eu interajo com outro ser humano (digamos, minha esposa), está em jogo aquilo que o filósofo Stephen Darwall chama de “um rico conjunto de valores superiores: estou ciente da consciência que ela tem de mim, ciente da consciência dela sobre a minha consciência dela, ciente da consciência dela sobre a minha consciência da consciência dela sobre mim, e assim por diante”. Há uma razão pela qual o escritor e ensaísta de ficção científica Ted Chiang afirmou que a IA deveria ter sido chamada de mera estatística aplicada: ela simplesmente não está no mesmo patamar dos seres humanos ou mesmo de animais como os cachorros.
Uma contraposição interessante a essa linha de pensamento é que os sistemas de IA, incorporados em robôs, podem eventualmente ser capazes de se comportar de maneiras indistinguíveis dos seres humanos e de outros animais. Nesse caso, que fundamentos teríamos para negar que os sistemas são conscientes? Além
disso, se quisermos negar que o comportamento serve como evidência de consciência, não teríamos de negá-lo também no caso dos seres humanos e de outros animais? O ceticismo em relação à IA daria origem a um ceticismo desenfreado sobre a existência de outras mentes.
Os autores contrariam essa preocupação reforçando a afirmação de que a IA carece de “uma compreensão pessoal e subjetiva da realidade, um envolvimento intencional nela”. A partir desse ponto de vista, enquanto os sistemas de IA não tiverem esse tipo de consciência, segue-se que eles não podem, por exemplo, “ser nossos amigos, pois não podem se envolver na autodoação voluntária e empática que caracteriza a intimidade dos amigos”. Mas eu me pergunto se essa forma de combater a preocupação não sai pela culatra.
Talvez o que necessitemos, acima de tudo, não seja de uma “fenomenologia da consciência” (para apoiar a afirmação de que os sistemas de IA não a têm como nós a temas), mas sim de uma “fenomenologia da amizade” (para deixar claro que os sistemas de IA não a fornecem como os seres humanos podem oferecer, com “autodoação empática”).
Talvez, em outras palavras, o foco na consciência como a diferença humana não seja o ponto de partida. Um momento estranho no livro, quando se concede que Deus poderia tornar uma máquina consciente e, portanto, semelhante a nós, sugere uma confusão mais profunda. Seja lá o que for a consciência, certamente não é algo que possa ser aplicado em outras coisas, como a vida no boneco Pinóquio (não que a vida também seja uma coisa dessas!).
A segunda parte do livro, sobre questões éticas emergentes, não provoca o mesmo espanto que a primeira, mas chama admiravelmente a atenção para a questão de quem se beneficia na corrida para implementar a IA. Sem dúvida, grandes corporações como a Microsoft e o Google se beneficiam; não é de forma alguma algo evidente que o bem comum será beneficiado.
O livro também oferece alguns conselhos sábios. Por exemplo, em um momento quase menonita: “Deveríamos analisar o uso da IA e das tecnologias incorporadas na IA em termos de como elas promovem ou diminuem as virtudes relacionais para que fortaleçamos a fraternidade, a amizade social e a nossa relação com o meio ambiente”. Além disso, “deveríamos investigar formas pelas quais a IA e as tecnologias relacionadas aprofundam ou diminuem a nossa experiência de espanto e admiração”.
Amém. “Encountering Artificial Intelligence” é um pontapé importante.
