MANILA, Filipinas – El gobierno filipino busca bloquear el chatbot de IA Grok en Filipinas debido a su capacidad para crear deepfakes sexualmente explícitos o reveladores de personas.

En una rueda de prensa el jueves 15 de enero, el Secretario del Departamento de Tecnología de la Información y las Comunicaciones, Henry Aguda, dijo que el "[Centro de Investigación y Coordinación de Delitos Cibernéticos del DICT] está trabajando junto con la [Comisión Nacional de Telecomunicaciones] para realizar el bloqueo de eso", citando a Grok como un vector para el abuso sexual en línea y la explotación de niños u OSAEC.

Aguda añadió que la presencia de Grok en el país era pequeña en comparación con otros chatbots como ChatGPT o Claude, pero el proceso de bloquear Grok aún requeriría coordinación con los proveedores de servicios de Internet, ya que no es algo que se haga automáticamente usando un solo botón.

Reproducir video

Grok bajo escrutinio

La plataforma de redes sociales X de Elon Musk, su brazo de inteligencia artificial xAI, y su chatbot de IA Grok están bajo escrutinio por parte de gobiernos, organismos de vigilancia tecnológica y grupos de interés que buscan responsabilidad por las respuestas de Grok a solicitudes que le piden eliminar o crear ropa más reveladora en imágenes de personas.

En Estados Unidos, tres senadores demócratas han pedido a Apple y Google que eliminen X y Grok de sus respectivas tiendas de aplicaciones, mientras que Malasia e Indonesia ya han prohibido Grok debido al contenido explícito. Las autoridades en Europa y el Reino Unido también han anunciado investigaciones sobre Grok.

Musk 'no tiene conocimiento de ninguna imagen de menores desnudos' creada por Grok

Musk, en una publicación en X el miércoles 14 de enero, dijo que "no tiene conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero."

"Obviamente, Grok no genera imágenes espontáneamente, lo hace solo según las solicitudes de los usuarios. Cuando se le pide generar imágenes, se negará a producir cualquier cosa ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado."

Musk, en su declaración, añadió que puede haber casos de "hackeo adversarial de indicaciones de Grok", lo que dijo que puede hacer "algo inesperado."

"Si eso sucede, arreglamos el error inmediatamente", añadió.

– Rappler.com