Papa Leão XIV alerta para os riscos da IA no comportamento humano e nas conexões no Dia Mundial das Comunicações

O Papa Leão XIV alertou sobre os perigos da inteligência artificial para o comportamento humano e as conexões. Ele observou que os modelos de IA poderiam usurpar identidades e relacionamentos humanos, influenciar a opinião pública e aprofundar a polarização social.

Os comentários surgem quando muitos modelos de inteligência artificial enfrentam críticas desde o início do ano. O mais flagrante é o do chatbot Grok da xAI, que tem sido criticado pela sua utilização para criar imagens deepfake inadequadas de mulheres e crianças.

Países em todo o mundo emitiram uma ordem permanente à plataforma para corrigir o seu chatbot, com alguns chegando mesmo a suspender a sua utilização no seu país enquanto pedem a Elon Musk para criar salvaguardas para resolver o problema.

Papa Leão XIV destaca os perigos da IA para os humanos

Na sua mensagem a assinalar o Dia Mundial das Comunicações Sociais, o papa mencionou que os sistemas de IA podem refletir como os seus criadores veem o mundo. Ele mencionou que também podem moldar padrões de pensamento ao reproduzir os preconceitos incorporados nos dados que processam. "O desafio é uma questão de proteção da identidade humana e de relacionamentos autênticos", disse o pontífice.

Os avisos do Papa Leão XIV surgem também enquanto a IA generativa continua a fazer avanços significativos em direção à replicação. Os modelos são agora utilizados para fabricar imagens, música e textos a níveis onde são por vezes indistinguíveis de obras criadas por humanos.

Em 2023, o seu predecessor, Papa Francisco, foi objeto de várias imagens falsas de IA que se tornaram virais. Em algumas imagens, ele usava um casaco acolchoado branco em vez das suas vestes habituais, enquanto noutras foi alterado de alguma forma.

Desde então, a IA generativa tem sido a ferramenta preferida para algumas figuras de alto perfil, incluindo o Presidente dos Estados Unidos Donald Trump, que gerou e publicou várias imagens geradas por IA nas suas contas online.

No seu discurso, o Papa Leão XIV alertou que apenas um pequeno número de empresas detém poder significativo sobre o desenvolvimento de IA, e que as ferramentas de IA estão agora a aumentar a dificuldade de distinguir obras que foram criadas por humanos daquelas criadas utilizando os modelos.

Papa insta líderes tecnológicos a analisar riscos da IA

Esta não é a primeira vez que o Papa Leão XIV alertou a população global sobre os riscos e perigos associados à inteligência artificial. Desde que foi eleito Papa em maio passado como o primeiro pontífice dos Estados Unidos, ele tem alertado consistentemente sobre a crescente influência da tecnologia de IA.

Em novembro, ele instou os líderes da indústria tecnológica a construir modelos de inteligência artificial que respeitem a dignidade humana.

Ele destacou que o desenvolvimento de IA faz parte de uma luta maior sobre quem nos tornamos quando construímos sistemas que aprendem, decidem e operam à escala global.

"A inovação tecnológica pode ser uma forma de participação no ato divino da criação. Carrega um peso ético e espiritual, pois cada escolha de design expressa uma visão da humanidade", disse o Papa na altura. Ele apelou aos criadores de IA para criar modelos que demonstrem genuína reverência pela vida.

Além de criar modelos que demonstrem genuína reverência pela vida, o Papa também criticou sistemas que apresentam probabilidade estatística como conhecimento fiável, acrescentando que as ferramentas apenas oferecem aproximação. Ele observou que o desafio à frente é estabelecer uma governação eficaz e apelou aos países para educar os jovens sobre como os algoritmos influenciam as perceções da realidade.

O pontífice também condenou o uso crescente de IA em aplicações militares, alertando contra delegar decisões de vida ou morte a máquinas.

Garanta o seu lugar gratuito numa comunidade exclusiva de trading de criptomoedas - limitada a 1.000 membros.