02 Junho 2022
Neste texto, o jornalista italiano Riccardo Cristiano comenta o livro “Scusi, ma perché lei è qui? Storie di intelligenze umane e artificiali” [Desculpe, mas por que você está aqui? Histórias de inteligências humanas e artificiais] (Ed. Terre di Mezzo), assinado pelo Pe. Andrea Ciucci, coordenador da Secretaria da Pontifícia Academia para a Vida, liderada por Dom Vincenzo Paglia.
Trata-se de uma viagem rumo a desafios não exclusivamente nem estritamente da inteligência artificial, mas que vão da vida analógica à digital, do local ao global.
O comentário foi publicado em Formiche, 27-05-2022. A tradução é de Moisés Sbardelotto.
Quando me vi diante da máquina de cigarros e ouvi a voz de Tobi, o assistente virtual que agora nos acompanha em uma agência dos correios ou enquanto tentamos falar com um operador da empresa que utilizamos para o abastecimento de gás, fui embora: não quero ver nem ouvir Tobi até para comprar cigarros!
Mas, embora muitas vezes e de bom grado a nossa vida com Tobi funcione mal, como não reconhecer que a inteligência artificial chegou também às tabacarias? Mas muitos resistimos a querer saber, a querer entender o que é essa inteligência artificial. É uma passagem enorme dialogar com Tobi, que demonstra como todos nós, mesmo aqueles que negam que são, somos conservadores, mas depois, refletindo um pouco, também nos confirma que o único modo profícuo para conservar é inovar. E é preciso fazer as contas com Tobi e com a inteligência artificial, necessariamente.
Mas, mesmo sabendo que a discussão é muito mais ampla, que somos perseguidos por algoritmos que modelam o nosso celular à nossa imagem e semelhança, aquilo que ele nos faz ver e aquilo que ele não nos mostra, aquilo que os algoritmos decidem que é do nosso gosto ou não é do nosso gosto, e portanto aquilo que nos é oferecido ou negado, chegar por volta da página 77 de um livro que eu não queria ler me fez entender a enormidade da questão, e da questão ética que essa inteligência nos levanta.
Eis aqui o relato ao qual me refiro, relatado por brevidade na única passagem final de uma visita aos Estados Unidos onde a inteligência artificial foi “criada”:
“Inebriado por tanta maravilha tecnológica (o dia para mim, naquele ponto, já estava ganho), eles nos fizeram nos acomodar em um iglu colocado do outro lado da sala. O interior, completamente escuro, abrigava alguns pequenos assentos onde nos acomodamos. Não deu nem tempo de nos sentarmos e nos acostumarmos com a escuridão, e eis que os painéis que cobriam inteiramente a superfície interna do iglu começaram a se iluminar.
‘Bem-vindos à sala de controle de emergências da Prefeitura de Nova York. O que vocês verão em breve é uma simulação, muito verossímil, de um desastre em Manhattan.’ Em uma sucessão frenética de mapas, imagens, toques de celular, esquemas com dados que passavam continuamente, nos encontramos perto do responsável pela gestão de emergências de uma das maiores metrópoles do mundo. Com ele, quase lado a lado, começamos a coletar os dados e as informações sobre o que estava acontecendo. Chegaram os primeiros relatórios técnicos, depois, em outras telas que se abriam uma após a outra, as gravações das ligações para o 911.
Pouco a pouco, a situação ficava mais clara. Era necessário mandar o mais rápido possível algumas equipes de bombeiros para um local específico da cidade. Tratava-se de encontrar a rota mais rápida e, para isso, consultaram-se as câmeras das ruas ainda ativas, os mapas interativos da cidade, os diagramas dos fluxos de tráfego no mesmo horário dos dias anteriores. O percurso foi traçado e enviado para as equipes, que partiram imediatamente, e a polícia também foi alertada. Mas, depois, alguém prestou atenção aos tuítes postados ao vivo a partir daquela zona do desastre: alguém estava escrevendo que se encontrava preso no trânsito enlouquecido de uma rua que a equipe dos bombeiros deveria percorrer em breve. O dado foi verificado, e a rota foi, assim, recalculada: o obstáculo foi evitado prontamente.
“Saí do iglu como uma criança saindo da melhor atração do parque de diversões dos seus sonhos, mas, enquanto me dirijo ao elevador, minha mente se concentra na chave para o sucesso da missão que temos (nós e a proteção civil de Nova York!) recém-resolvida de forma brilhante: a polícia lê continuamente os nossos tuítes e as nossas postagens no Facebook e no Instagram. Em tempo real. Sempre. Felizmente, caso contrário, os bombeiros ainda estariam presos na grade de ruas de Manhattan! Mas quem mais faz o mesmo? A quantos outros permitimos o acesso aos milhões de dados gerados pela nossa vida cotidiana? O que o supermercado da esquina ou o Facebook fazem com a gravação minuciosa das nossas existências? E se alguns mal-intencionados fizessem o mesmo?
“‘Se o serviço é grátis, o produto é você!’ A afirmação que ficou famosa pelo famoso documentário ‘O Dilema das Redes’ ressurge várias vezes nesse turbilhão contínuo de perguntas. O tour estadunidense não nos ensinou nada de novo (eram todas coisas que tecnicamente já sabíamos), mas nos ofereceu uma consciência diferente. Ficou evidente para todos que a questão da ética da inteligência artificial é crucial para as próximas décadas. Amadurece definitivamente a escolha de propor um manifesto ético e de pedir a quem produz e trabalha com esses sistemas que se exponha, que o assine, que aceite o desafio de uma tecnologia que coloca o ser humano e os seus direitos no centro. Em terras estadunidenses, toma forma aquela que será a Rome Call for AI Ethics: cinco páginas, três temas (ética, direito, educação) e seis princípios (transparência, inclusão, responsabilidade, imparcialidade, confiabilidade, segurança e privacidade). Microsoft, IBM, vocês irão a Roma para assinar esse documento na frente do papa?”
Quem escreve é o Pe. Andrea Ciucci, coordenador da Secretaria da Pontifícia Academia para a Vida, liderada por Dom Vincenzo Paglia e que eu pensava que estava lidando com coisas bem diferentes. E, em vez disso, a fronteira a partir da qual se defende a vida, a nossa vida, é esta aqui.
Quando vi o livro “Scusi, ma perché lei è qui? Storie di intelligenze umane e artificiali” (Ed. Terre di Mezzo), senti o desejo de me afastar, depois o guardei durante dias intacto, distante, sem tocá-lo. Preconceito? Medo? Talvez fosse esse o problema, o medo. Mas vencer os medos, como demonstra a página citada, é sempre importante; às vezes é decisivo para saber não apenas onde estamos, mas também quem somos. Não existe um único limiar na nossa vida, são muitos; ter medo de reconhecer e cruzar o da inteligência artificial é um risco a ser evitado, para evitar ficar em um mundo que não existe mais.
(Foto: Divulgação)
A inteligência artificial nos acompanha nos desafios que o autor, sem nunca ceder aos temidos tecnicismos, enfrenta ao reconstruir os seus dias de trabalho na Pontifícia Academia para a Vida. O alimentar é o primeiro citado. Se a impossibilidade de não se alimentar nos demonstra que não podemos ser autossuficientes, saciar de modo adequado uma população de numerosos bilhões de pessoas certamente será um belo desafio. Mas o fato de que a produção de bifes sintéticos para continuar dando proteína para todos, sem esgotar os recursos naturais do planeta, é algo atual nos deixa atordoados.
Eis-nos nos laboratórios onde é possível replicar células de carne bovina. Então, dá um alívio saber que duas mulheres ilustram outro projeto, o de atualizar as técnicas tradicionais de cultivo, adaptando-as ao século XXI. Mas quanto tempo há para conseguir isso? O tempo é importante, pois 13 pessoas morrem de fome a cada minuto. Multiplicar para saber a que número se chega por hora, dia, semana, é simples, mas também aterrorizante.
As intuições oferecidas pelo livro e, em particular, pela seção sobre os desafios são muitas e de natureza diferente: não dizem respeito exclusiva e estritamente à inteligência artificial, vão da vida analógica à digital, do local ao global. Pensar em termos globais já é indispensável, mas viver em modalidade digital nem sempre é possível.
Esse sistema nos acostuma a pensar que sempre há uma saída de emergência, errar nunca é um beco sem saída no digital. Mas a vida nem sempre é assim, e perceber a dimensão global daquilo que é local, ou mesmo individual, é complexo. Mas a resistência ao definitivo, ao irreversível, pode derivar também da vida em um mundo cada vez mais digitalizado? É um tema levantado indiretamente, com delicadeza e perspicácia, assim como o da irreversibilidade do fato globalizado. Mas é a ética da inteligência artificial que permanece no centro do livro. Não faz sentido agir como eu, preferindo se iludir de que não há medo, mas tentar, nós mesmos, nos dar essa ética.
Foi o que o papa quis que se fizesse e que chegou a uma primeira meta pouco contada, em uma grande cerimônia romana centrada no slogan escolhido, RenAIssance, o renascimento da inteligência artificial, quando, em um grande encontro romano, administradores e fés se comprometeram precisamente com isso:
“O discurso do Dom Paglia, então, que recorda o caminho feito e invoca uma ética da inteligência artificial (uma algorética, como o papa escrevia depois no seu discurso, cunhando mais um neologismo), eu também li e reli até de noite, para cortar 15 quinze linhas e assim permanecer dentro dos tempos muito curtos que tínhamos combinado.
A ministra italiana para a Inovação Tecnológica e a Transição Digital não fez um discurso, mas Paola Pisano quis estar lá e assinar a Call, a primeira representante de um governo do G8. Entre as palavras que ouço nos fones e que constituem a trilha sonora daquela manhã, há uma, porém, que me toque e me bloqueia por um momento.
No palco, naquele momento, fala John Kelly III, vice-presidente da IBM, um dos maiores cientistas nesse campo, o pai do Watson (o sistema com o qual a IBM derrotou os seres humanos no Jeopardy). Ele está falando de si mesmo: do fato de ser um católico convicto e da sua vida dedicada à pesquisa, e de como essas duas coisas hoje, para ele, encontram um ponto de síntese simbólico surpreendente e verdadeiro: ele está no Vaticano explicando por que o fruto da sua pesquisa pode e deve preservar a centralidade do ser humano.
Naquele momento, eu entendo que até mesmo os monstros sagrados da ciência, até mesmo John Kelly III, no fim, desejam uma vida unificada, buscam um ponto de autenticidade pessoal. E compreendo por que a sua secretaria verificou várias vezes que, durante a audiência agendada (e cancelada!) com o papa, também houvesse um lugar para a sua esposa. Quem mais você gostaria de ter ao seu lado em um momento desses?”
Ética e inteligência artificial são o cerne desse relato que inclui também outros relatos e outros encontros, outras histórias que têm a ver com a vida neste século XXI. É uma matéria a ser tirada dos especialistas, não para torná-la uma matéria sem substância, mas um tema de discussão e debate para todos, até para mim que tenho medo da inteligência artificial, mas devo entender mais como as suas escolhas, os seus comportamentos são decisivos também em mim e para mim.
Esse é realmente um livro a ser lido. O debate sobre ética e século XXI nos diz respeito, diretamente.
