Malasia e Indonesia restringen Grok por abuso de IA con contenido sexualmente explícito

Malasia e Indonesia han restringido el acceso a Grok, el chatbot de inteligencia artificial asociado con la plataforma de redes sociales de Elon Musk, X. Esta decisión se produce en respuesta a las preocupaciones de que la herramienta de IA se está utilizando para generar imágenes falsas sexualmente explícitas de personas reales.

Grok permite a los usuarios crear y modificar imágenes. Sin embargo, las autoridades de ambos países han expresado su preocupación de que se está utilizando cada vez más para manipular fotos en contenido revelador o sexualizado sin consentimiento. Los reguladores han destacado los riesgos para las mujeres y los niños, afirmando que la herramienta podría usarse fácilmente de manera indebida para producir deepfakes pornográficos.

Malasia e Indonesia son ahora los primeros países del mundo en bloquear completamente Grok, adoptando una posición firme contra las herramientas de IA que las autoridades creen que avanzan más rápido que las regulaciones de seguridad.

Grok cruza líneas legales y sociales

Los reguladores están preocupados por problemas más amplios más allá de un solo chatbot, ya que el aumento de imágenes sexuales generadas por IA revela vacíos en las leyes de seguridad en línea y representa riesgos para los usuarios. En Malasia, el regulador de comunicaciones señaló que previamente advirtió a X sobre el uso indebido de su IA, pero sintió que la respuesta de la compañía priorizó los informes de usuarios sobre abordar el problema central.

El ministerio de asuntos digitales de Indonesia enfatizó la necesidad de dignidad y derechos humanos, afirmando que las herramientas de IA que crean contenido sexual sin consentimiento dañan la confianza pública y ponen en peligro a grupos vulnerables. El gobierno ha solicitado a X que explique cómo se está controlando y moderando Grok.

La prohibición también refleja la postura de larga data de Indonesia sobre el contenido en línea. El país ha bloqueado previamente plataformas como Pornhub y OnlyFans, y los funcionarios ven las imágenes sexuales generadas por IA como una extensión del mismo problema, ahora entregado a través de tecnología más nueva.

También lee: Dentro de la crisis de pornografía deepfake de Grok y el ajuste de cuentas legal por venir

La controversia de Grok está ganando atención más allá del sudeste asiático. En el Reino Unido, los reguladores están evaluando actualmente si X cumple con las regulaciones de seguridad en línea. Además, los líderes políticos han criticado públicamente el uso de tecnología para crear imágenes falsas explícitas.

Para los usuarios, el impacto es personal. Algunas personas cuyas imágenes fueron alteradas usando Grok informan que reportar el contenido hizo poco para evitar que se propagara. En ciertos casos, alentar a otros a reportar las publicaciones solo resultó en que más personas vieran las imágenes falsas, exacerbando el daño.

La creciente reacción negativa está impulsando a X a reconsiderar cómo opera Grok, particularmente a medida que los gobiernos comienzan a ver las herramientas de IA como productos regulados en lugar de características experimentales.

La publicación Malasia e Indonesia restringen Grok por abuso de IA sexualmente explícito apareció primero en Technext.