O Papa e a IA

Não é a primeira vez que um Papa escreve uma encíclica sobre o impacto da tecnologia. Leão XIII, no final do século XIX, fez o mesmo, nessa altura sobre o impacto da industrialização na dignidade do trabalho. Foi, de alguma forma, a fundação da doutrina social da Igreja.

Mas o Papa atual tem uma desvantagem clara sobre o antecessor: a transformação que a IA produz na sociedade é muito mais rápida e muito menos controlável do que a industrialização do século XIX. Os riscos de mudar a sociedade humana sem que aparentemente ninguém vá ao volante são, por isso, muito mais assustadores.

O Papa recorre a duas metáforas bíblicas familiares aos cristãos: a Torre de Babel, tecnologia organizada sem Deus, movida pelo orgulho e pela homogeneização, reduzindo as pessoas a dados e métricas de desempenho; e Neemias a reconstruir Jerusalém, símbolo de responsabilidade partilhada e discernimento a partir das bases. O primeiro é o risco; o segundo, o modelo.

O verdadeiro perigo, para Leão XIV, não é a máquina substituir o ser humano. É o ser humano substituir-se pela máquina, anular a sua singularidade, criatividade, sentido crítico, a capacidade de sair da norma, do não racional, de tudo o que nos caracteriza como humanos.

A homogeneização do pensamento e da ação por um padrão de IA é, no fundo, o grande sonho de todas as ditaduras baseadas na identidade. Uma forma sofisticada e invisível de controlo que dispensa o polícia na esquina.

Mas Leão XIV não é apocalíptico relativamente à IA. Convida-nos a refletir sobre a nossa própria essência como humanos e sobre as comunidades que integramos. Um convite incómodo numa era em que é muito mais fácil deixar o algoritmo decidir do que assumir a responsabilidade de pensar por nós próprios.

A encíclica não é um documento técnico nem um manifesto contra a tecnologia. É, acima de tudo, uma interrogação sobre quem somos e o que queremos preservar. E essa pergunta, independentemente de fé ou crença, merece ser feita.

Jorge Bento

Diretor do IT Channel