Organismos internacionales advierten sobre riesgos de imágenes generadas por IA

La Oficina del Comisionado de Información del Reino Unido, junto a autoridades de protección de datos de distintos países, publicó una declaración conjunta en la que manifiesta su preocupación por el uso de inteligencia artificial para generar imágenes de personas reales sin su autorización.

El documento subraya que las organizaciones que desarrollan o implementan tecnologías de IA deben incorporar salvaguardas desde el diseño, aplicar principios de privacidad por defecto y evaluar de manera rigurosa los impactos sobre derechos fundamentales, especialmente cuando se trata de menores de edad.

Los reguladores advierten que la generación y difusión de imágenes sintéticas puede derivar en daños significativos, incluyendo acoso, fraude, desinformación y explotación. Asimismo, recalcan que el tratamiento de datos biométricos y la creación de contenidos que simulan la identidad de una persona pueden infringir normativas de protección de datos vigentes en distintas jurisdicciones.

En este escenario, la declaración hace un llamado a la colaboración proactiva entre empresas tecnológicas y autoridades regulatorias, enfatizando que la innovación no puede avanzar a costa de la dignidad, la seguridad y la privacidad de las personas.

Cristian Vásquez, Territory Manager de Check Point Software, valoró el esfuerzo coordinado, pero advirtió que las medidas deben ir más allá de las declaraciones formales.

‘La colaboración internacional en torno a la gobernanza de la IA y las normas de seguridad es fundamental para proteger a las personas de los contenidos nocivos y reducir los riesgos cibernéticos. Sin embargo, aunque las declaraciones de intenciones firmadas son un gesto noble, poco servirán para tranquilizar a las miles de víctimas de delitos relacionados con la IA que sufren cada día en este mundo digital cada vez más peligroso. De cara al futuro, es necesario crear un grupo de trabajo mundial específico para proteger a los inocentes y castigar a los delincuentes que explotan la tecnología para sus propios fines siniestros’, señaló Vásquez.

El avance de la inteligencia artificial generativa plantea nuevos desafíos regulatorios a nivel global. Mientras las herramientas continúan perfeccionándose y masificándose, los expertos coinciden en que será clave establecer estándares comunes, fortalecer la cooperación transfronteriza y mejorar los mecanismos de detección y sanción frente al uso malicioso de estas tecnologías.

La discusión abre además un debate más amplio sobre la responsabilidad de plataformas, desarrolladores y usuarios en la creación y difusión de contenidos sintéticos, en un entorno donde la línea entre lo real y lo artificial es cada vez más difusa.