Durante uma audiência geral no Vaticano realizada nesta quarta-feira (16), o Papa Leão XIV manifestou preocupações sobre os riscos do uso da Inteligência Artificial (IA) na tomada de decisões humanas. Ele enfatizou que, embora os avanços tecnológicos ofereçam novas possibilidades, também correm o risco de desumanizar as relações interpessoais, tornando-as cada vez mais virtuais.
“Por outro lado, as relações tendem a tornar-se cada vez menos pessoais, mais virtuais, e corremos o risco de nos habituarmos a delegar aos algoritmos decisões que competem exclusivamente à consciência humana”, afirmou o pontífice. A declaração foi parte de uma catequese que abordou a “comunidade humana”, inspirada no segundo capítulo da Constituição Pastoral Gaudium et spes, parte dos documentos do Concílio Vaticano II.
Leão XIV destacou que, embora a tecnologia possa facilitar a comunicação e eliminar barreiras, é crucial que essa conectividade resulte em uma verdadeira comunidade de pessoas e não apenas em uma rede de interações digitais. “Fazer com que as relações sociais tenham peso real e profundidade pessoal é a contribuição que a comunidade cristã se propõe a oferecer”, disse.
Criticas à delegação de decisões para sistemas de IA
- A preocupação com a transferência de decisões para sistemas de IA já havia sido abordada pelo papa anteriormente;
- Na sua primeira encíclica, Magnifica Humanitas, publicada em maio deste ano, Leão XIV defendeu que a inteligência humana, acompanhada de consciência e liberdade, deve orientar as inovações tecnológicas;
- O pontífice fez uma clara distinção entre a IA e a inteligência humana, afirmando que, embora a IA possa superar humanos em velocidade e capacidade de cálculo, não possui consciência ou experiência;
- Ele destacou que sistemas de IA não vivenciam emoções humanas como alegria, dor ou amor, e carecem de uma consciência moral necessária para julgar questões éticas;
- Leão XIV também alertou sobre o risco de que a facilidade em obter respostas por meio da IA possa levar as pessoas a delegar decisões excessivamente, esquecendo que essas respostas refletem os parâmetros culturais de seus desenvolvedores;
- Além disso, a IA pode simular formas de comunicação humana, mas isso não garante uma relação pessoal autêntica.
IA e decisões sociais
O Papa também mencionou que a IA já está inserida em processos de tomada de decisão em diversas áreas, como comunicação e gestão. Embora reconheça os ganhos de eficiência proporcionados por essa tecnologia, Leão XIV expressou preocupação com a rápida adoção da IA sem uma avaliação crítica adequada. Ele abordou também o impacto ambiental das tecnologias de IA.
O pontífice chamou a atenção para a utilização da IA na comunicação pública e política, alertando que plataformas digitais podem acelerar a disseminação de informações de forma distorcida, dificultando a separação entre fatos e opiniões. Ele afirmou que a IA pode amplificar a desinformação e permitir a manipulação de conteúdos.
Decisões morais e a noção de comunidade
Leão XIV foi enfático ao rejeitar a ideia de que sistemas artificiais possam atuar como “agentes morais” na tomada de decisões, especialmente em questões éticas. Segundo ele, o julgamento moral envolve consciência, responsabilidade e o reconhecimento do outro como pessoa. Por isso, o papa afirmou que não se deve confiar a sistemas artificiais decisões que possam resultar em consequências irreversíveis, especialmente em contextos de conflito armado, onde a tecnologia pode desumanizar a violência.
Na audiência, o papa destacou a importância de construir uma comunidade humana, onde a diversidade seja vista como uma oportunidade de enriquecimento. Ele enfatizou a necessidade de respeito, justiça social e responsabilidade nas relações entre diferentes grupos. Leão XIV concluiu sua reflexão afirmando que a visão da humanidade como uma “comunidade de pessoas” é um legado importante do Concílio Vaticano II, que pode guiar as discussões sociais e políticas atuais.
