Papa Leão XIV

O Papa Leão XIV voltou a alertar, nesta quarta-feira (16), contra o risco de deixar que algoritmos assumam decisões que, segundo ele, pertencem exclusivamente à consciência humana.

Durante a audiência geral no Vaticano, o pontífice afirmou que o avanço tecnológico e a expansão da inteligência artificial (IA) criam novas possibilidades, mas também podem tornar as relações humanas cada vez menos pessoais e mais virtuais.

“Por outro lado, as relações tendem a tornar-se cada vez menos pessoais, mais virtuais, e corremos o risco de nos habituarmos a delegar aos algoritmos decisões que competem exclusivamente à consciência humana”, afirmou Leão XIV.

A declaração fez parte de uma catequese dedicada à “comunidade humana”, baseada no segundo capítulo da Constituição Pastoral Gaudium et spes, um dos documentos do Concílio Vaticano II. Na audiência, o papa relacionou o crescimento das tecnologias de comunicação e da IA com a necessidade de preservar relações baseadas em respeito, dignidade e profundidade pessoal.

Segundo Leão XIV, a multiplicação das relações proporcionada pela tecnologia pode derrubar barreiras e distâncias. Ao mesmo tempo, porém, esse processo precisa resultar em uma comunidade formada por pessoas e não apenas em uma rede cada vez maior de interações virtuais.

“Fazer com que as relações sociais tenham peso real e profundidade pessoal é a contribuição que a comunidade cristã se propõe a oferecer”, disse.

Papa relaciona IA à consciência humana

• A preocupação com a possibilidade de transferir decisões para sistemas de IA não surgiu agora;
• Em sua primeira encíclica, Magnifica Humanitas, publicada em maio, Leão XIV dedicou diversos trechos à tecnologia e defendeu que a inteligência humana, acompanhada de consciência e liberdade, deve continuar orientando as inovações e estabelecendo seus limites;
• No documento, o pontífice faz uma distinção entre a IA e a inteligência humana. Segundo ele, sistemas de IA podem superar seres humanos em velocidade e capacidade de cálculo, mas isso não significa que possuam consciência ou experiência humana;
• Leão XIV afirma que esses sistemas não vivenciam alegria, dor, amor, amizade, trabalho ou responsabilidade. Também não possuem, segundo o texto, uma consciência moral capaz de julgar o que é certo ou errado, compreender o significado último de uma situação ou assumir o peso das consequências de uma decisão;
• A encíclica também chama atenção para o risco de que a facilidade de obter respostas e orientações por meio da IA acostume as pessoas a delegar decisões em excesso. Para o papa, a aparência de objetividade das respostas produzidas por esses sistemas pode fazer com que usuários esqueçam que elas refletem os parâmetros culturais de quem os desenvolveu e treinou;
• Outro ponto levantado pelo pontífice é a capacidade dos sistemas de simular formas de comunicação humana. Segundo a encíclica, uma IA pode reproduzir linguagem de aconselhamento, empatia, amizade ou amor, mas isso não significa que exista uma relação pessoal autêntica por trás dessa interação.

IA já participa de decisões, diz encíclica

Leão XIV também afirma no documento que a IA já está presente em processos de tomada de decisão em diferentes áreas da sociedade, incluindo comunicação, gestão e controle.

O papa reconhece que essa utilização pode trazer ganhos de eficiência e melhorar determinados serviços, mas alerta para os riscos de uma adoção rápida e sem avaliação crítica. Entre as preocupações mencionadas está também o impacto ambiental dos sistemas de IA.

Na encíclica, Leão XIV dedica ainda atenção à utilização de IA na comunicação pública e política. Segundo ele, plataformas digitais e sistemas de IA podem acelerar mudanças na maneira como informações são produzidas e compartilhadas, inclusive facilitando a construção de narrativas distorcidas e dificultando a distinção entre fatos e opiniões.

O pontífice afirma que a IA pode funcionar como um multiplicador da desinformação, permitindo a manipulação de conteúdos, imagens e vídeos. Para ele, a qualidade da comunicação pública depende da confiança social e da busca compartilhada pela verdade factual.

Leia mais:

• Chefe da ONU alerta para corrida pela IA e defende regras comuns entre países para evitar riscos globais
• ‘O mundo está certo em ter medo disso’, declara Sam Altman sobre o avanço sem freios da IA
• Linha do tempo: como IA foi da aliada a ‘ameaça existencial’

“A IA não possui consciência moral”

A posição de Leão XIV é ainda mais direta quando o assunto envolve decisões morais ou irreversíveis. Na encíclica, o papa rejeita a ideia de que sistemas artificiais possam ser tratados como “agentes morais” capazes de distinguir o bem do mal de maneira equivalente à consciência humana. Para ele, o julgamento moral não é apenas um cálculo, pois envolve consciência, responsabilidade pessoal e reconhecimento do outro como pessoa.

Por essa razão, o documento afirma que não se devem confiar a sistemas artificiais decisões letais ou irreversíveis. O pontífice também relaciona essa questão ao uso da IA em conflitos armados, argumentando que a tecnologia pode tornar a violência mais rápida e impessoal ao transformar vítimas em dados e reduzir as barreiras para o uso da força.

Comunidade humana no centro do discurso

Na audiência desta quarta-feira, entretanto, o alerta sobre IA estava inserido em reflexão mais ampla sobre como construir uma comunidade humana.

Leão XIV afirmou que a diversidade entre pessoas e povos não deve ser vista como perigo ou ameaça, mas como possibilidade de enriquecimento e crescimento. Também defendeu a reciprocidade, a partilha e o cuidado nas relações entre diferentes grupos.

A catequese retomou ainda a ideia de que o desenvolvimento da pessoa e o desenvolvimento da sociedade estão ligados. Na interpretação apresentada pelo papa a partir da Gaudium et spes, separar essas duas dimensões comprometeria ambas.

O pontífice também destacou o respeito pela pessoa humana, o amor até mesmo por quem pensa ou age de maneira diferente, a igualdade fundamental entre as pessoas e a necessidade de justiça social. Ao final, defendeu uma atitude de responsabilidade e participação em lugar de uma mentalidade individualista.

Leão XIV concluiu a reflexão, afirmando que a visão da humanidade como uma “comunidade de pessoas” é um legado do Concílio Vaticano II que pode ajudar no discernimento sobre os projetos sociais e políticos atuais, tendo como critérios a dignidade humana, a justiça social e a participação na construção do bem comum.

O post Papa Leão XIV critica uso da IA para decisões humanas em meio a debate sobre segurança da tecnologia apareceu primeiro em Olhar Digital.