El Papa León XIV advierte sobre los riesgos de la IA para el comportamiento humano y la conexión en el Día Mundial de las Comunicaciones

El Papa León XIV ha advertido sobre los peligros de la inteligencia artificial para el comportamiento humano y la conexión. Señaló que los modelos de IA podrían usurpar identidades y relaciones humanas, influir en la opinión pública y profundizar la polarización social.

Los comentarios llegan mientras muchos modelos de inteligencia artificial enfrentan críticas desde el inicio del año. El más destacado es el del chatbot Grok de xAI, que ha sido criticado por su uso para crear imágenes deepfake inapropiadas de mujeres y niños.

Países de todo el mundo han emitido una orden permanente a la plataforma para que corrija su chatbot, y algunos han llegado incluso a suspender su uso en su país mientras solicitan a Elon Musk que cree salvaguardas para solucionar el problema.

El Papa León XIV destaca los peligros de la IA para los humanos

En su mensaje con motivo del Día Mundial de las Comunicaciones Sociales, el papa mencionó que los sistemas de IA pueden reflejar cómo sus creadores ven el mundo. Mencionó que también pueden moldear patrones de pensamiento al reproducir los sesgos incorporados en los datos que procesan. "El desafío es una cuestión de proteger la identidad humana y las relaciones auténticas", dijo el pontífice.

Las advertencias del Papa León XIV también llegan mientras la IA generativa continúa dando grandes saltos hacia la replicación. Los modelos ahora se utilizan para fabricar imágenes, música y textos a niveles donde a veces son indistinguibles de las obras creadas por humanos.

En 2023, su predecesor, el Papa Francisco, fue objeto de varias imágenes falsas virales creadas con IA. En algunas imágenes, llevaba una chaqueta acolchada blanca en lugar de sus túnicas habituales, mientras que en otras fue alterado de alguna manera.

Desde entonces, la IA generativa se ha convertido en la herramienta preferida de algunas figuras de alto perfil, incluido el presidente de los Estados Unidos, Donald Trump, quien ha generado y publicado varias imágenes generadas por IA en sus cuentas en línea.

En su discurso, el Papa León XIV advirtió que solo un pequeño número de empresas tienen un poder significativo sobre el desarrollo de la IA, y que las herramientas de IA ahora están aumentando la dificultad de distinguir entre obras creadas por humanos y aquellas creadas con los modelos.

El Papa insta a los líderes tecnológicos a considerar los riesgos de la IA

Esta no es la primera vez que el Papa León XIV advierte a la población mundial sobre los riesgos y peligros asociados con la inteligencia artificial. Desde que fue elegido Papa en mayo pasado como el primer pontífice de los Estados Unidos, ha advertido constantemente sobre la creciente influencia de la tecnología de IA.

En noviembre, instó a los líderes de la industria tecnológica a construir modelos de inteligencia artificial que respeten la dignidad humana.

Destacó que el desarrollo de la IA es parte de una lucha más amplia sobre en quién nos convertimos cuando construimos sistemas que aprenden, deciden y operan a escala global.

"La innovación tecnológica puede ser una forma de participación en el acto divino de la creación. Conlleva un peso ético y espiritual, porque cada elección de diseño expresa una visión de la humanidad", dijo el Papa en ese momento. Hizo un llamado a los constructores de IA para crear modelos que muestren una genuina reverencia por la vida.

Además de crear modelos que muestren una genuina reverencia por la vida, el Papa también criticó los sistemas que presentan la probabilidad estadística como conocimiento confiable, añadiendo que las herramientas solo ofrecen aproximación. Señaló que el desafío por delante es establecer una gobernanza efectiva y llamó a los países a educar a los jóvenes sobre cómo los algoritmos influyen en las percepciones de la realidad.

El pontífice también condenó el uso cada vez mayor de la IA en aplicaciones militares, advirtiendo contra delegar decisiones de vida o muerte a las máquinas.

Reclame su asiento gratuito en una comunidad exclusiva de trading de criptomonedas - limitada a 1,000 miembros.