Antes do amanhecer, o padre Paolo Benanti subiu à torre do sino de seu mosteiro do século 16, admirou o nascer do sol sobre as ruínas do Fórum Romano e refletiu sobre o mundo. “Foi uma meditação maravilhosa sobre o que está acontecendo por dentro”, disse ele, pisando na rua com sua batina de frade. “E também por fora.”
Há muito acontecendo para Benanti, que, como especialista em ética em inteligência artificial do Vaticano e do governo da Itália, passa seus dias pensando no Espírito Santo e nos fantasmas nas máquinas.
Nas últimas semanas, esse professor universitário de ética, padre e autoproclamado geek se juntou a Bill Gates em uma reunião com a primeira-ministra Giorgia Meloni, presidiu uma comissão que busca salvar a mídia italiana das manchetes do ChatGPT, e se reuniu com autoridades do Vaticano para promover o objetivo do papa Francisco de proteger os vulneráveis da tempestade tecnológica iminente.
Em uma conferência organizada pela antiga Ordem dos Cavaleiros de Malta, ele disse que “é necessário uma governança global, caso contrário, o risco é o colapso social”, e elogiou o Rome Call —um esforço de Vaticano, governo italiano, Vale do Silício e ONU que ele ajudou a organizar para proteger um novo mundo com chatbots.
Autor de livros como “Homo Faber: A Condição Tecno-Humana” e presença constante em painéis de IA, Benanti, 50, é professor na Gregoriana, a Harvard das universidades pontifícias de Roma, onde leciona teologia moral, ética e o curso “A Queda de Babel: Os Desafios da Digitalização, Redes Sociais e Inteligência Artificial”.
Para uma igreja e um país que buscam aproveitar e ainda sobreviver à iminente revolução da IA, seu trabalho é fornecer conselhos de uma perspectiva ética e espiritual. Ele compartilha suas ideias com Francisco, que em sua mensagem anual do Dia Mundial da Paz, em 1º de janeiro, pediu um tratado global para garantir o desenvolvimento e uso ético da IA, a fim de evitar um mundo sem misericórdia humana, onde algoritmos inescrutáveis decidem quem recebe asilo, quem obtém uma hipoteca ou quem, no campo de batalha, vive ou morre.
Essas preocupações refletem as de Benanti, que não acredita na capacidade da indústria de se autorregular e acredita que algumas regras são necessárias em um mundo onde deepfakes e desinformação podem corroer as democracias.
Ele está preocupado que os mestres dos universos da IA estejam desenvolvendo sistemas que ampliarão a desigualdade. Ele teme que a transição para a IA seja tão abrupta que campos profissionais inteiros fiquem fazendo trabalhos insignificantes ou nada, privando as pessoas de dignidade e desencadeando “ondas de desespero”.
Isso, segundo ele, levanta enormes questões sobre a redistribuição de riqueza. Mas ele também vê o potencial da IA.
Para a Itália, com uma das populações mais envelhecidas e em declínio do mundo, Benanti está pensando em como a IA pode manter a produtividade em alta. E o tempo todo ele aplica sua perspectiva sobre o que significa estar vivo e ser humano quando as máquinas parecem mais vivas e humanas. “Esta é uma questão espiritual.”
Seu escritório na Gregoriana é decorado com impressões emolduradas de sua própria fotografia de rua —imagens de romanos desfavorecidos fumando cigarros, um casal entediado preferindo seus celulares ao seu bebê— e fotos dele e de Francisco apertando as mãos. Sua vocação religiosa veio depois da científica.
Nascido em Roma, seu pai trabalhava como engenheiro mecânico, e sua mãe lecionava ciências no ensino médio. Quando criança, ele adorava “O Senhor dos Anéis” e “Dungeons & Dragons”, mas não era um recluso dos jogos, pois também era escoteiro e colecionava distintivos de fotografia, navegação e culinária.
Quando visitou Roma aos 12 anos para fazer caridade, ele conheceu monsenhor Vincenzo Paglia, que na época era um padre paroquial, mas que, como ele, passaria a trabalhar para o governo italiano —como membro da comissão do país sobre envelhecimento— e para o Vaticano.
Agora Paglia é o superior de Benanti na Pontifícia Academia para a Vida da igreja, que é encarregada de lidar com a promoção da ética da igreja sobre a vida em meio a convulsões bioéticas e tecnológicas.
Por volta do momento em que Benanti conheceu Paglia pela primeira vez, um tio lhe deu um computador de presente de Natal. Ele tentou adaptá-lo para jogar videogames. “Nunca funcionou”, disse ele.
Ele frequentou um ensino médio que enfatizava os clássicos, e um professor de filosofia achou que ele tinha um futuro refletindo sobre o significado das coisas. Mas o funcionamento das coisas exerceu uma atração maior, e ele seguiu um curso de engenharia na Universidade Sapienza, em Roma. Não foi suficiente.
“Comecei a sentir que algo estava faltando”, disse ele, explicando que avançar na engenharia apagou a mística que as máquinas tinham para ele. “Eu simplesmente quebrei a magia.”
Em 1999, sua então namorada achou que ele precisava de mais Deus em sua vida. Eles foram a uma igreja franciscana em Massa Martana, na Úmbria, onde o plano dela funcionou muito bem. Ele então percebeu que precisava de um espaço sagrado onde pudesse “não parar de questionar a vida”. No final do ano, ele abandonou sua namorada e se juntou à ordem franciscana, para consternação de seus pais.
Ele deixou Roma para estudar em Assis, a casa de São Francisco, e ao longo da próxima década fez seus votos finais como frade, foi ordenado sacerdote e defendeu sua dissertação sobre aprimoramento humano e ciborgues. Ele conseguiu seu emprego na Gregoriana e, eventualmente, como o cara de ética em TI do Vaticano.
“Ele é convocado por muitas instituições”, disse o cardeal Gianfranco Ravasi, que costumava dirigir o departamento de cultura do Vaticano, onde Benanti era um conselheiro científico.
No mês passado, Benanti, que disse não receber verba da Microsoft, participou de uma reunião entre Gates, cofundador da empresa, e Meloni, que está preocupada com o impacto da IA na força de trabalho.
Ela agora nomeou Benanti para substituir o líder da comissão de IA na mídia italiana com quem estava insatisfeita. “A obediência à autoridade é um dos votos”, disse Benanti enquanto mexia nos nós do cinto de corda de seu hábito, que simboliza a promessa de obediência, pobreza e castidade da ordem franciscana.
A comissão estuda maneiras de proteger os escritores da Itália. Benanti acredita que as empresas de IA devem ser responsabilizadas por usar fontes protegidas por direitos autorais para treinar seus chatbots, embora ele se preocupe que seja difícil provar porque as empresas são “caixas-pretas”.
Mas esse mistério também mais uma vez imbuiu a tecnologia de magia, mesmo que seja do tipo sombrio. Nesse sentido, não era tão novo, ele disse, argumentando que, assim como os antigos adivinhos romanos recorriam ao voo dos pássaros para obter orientação, a IA, com sua enorme compreensão de nossos dados físicos e emocionais, poderia ser os novos oráculos, determinando decisões e substituindo Deus por ídolos falsos. “É algo antigo que provavelmente pensamos que deixamos para trás”, disse o frade, “mas que está voltando”.
