Erika Hilton quer Grok fora do ar por criar imagens eróticas

A deputada Erika Hilton (Psol-SP) pediu que o MPF (Ministério Público Federal) e a ANPD (Agência Nacional de Proteção de Dados) investiguem a rede social X e sua ferramenta de inteligência artificial Grok por criação e publicação de imagens eróticas de mulheres e meninas sem consentimento.

A congressista afirma que o recurso de IA (inteligência artificial) edita fotos e troca roupas por trajes sensuais a pedido de usuários. Eis a íntegra (PDF – 517 kB).

No comunicado divulgado na própria rede social X, Hilton declarou que a prática atinge mulheres brasileiras e estrangeiras e pediu que as funções de IA da plataforma sejam suspensas no Brasil até a conclusão das investigações. 

Para a deputada, a tecnologia viola o direito individual à imagem e pode caracterizar crime. “Basta um usuário pedir ao Grok que a inteligência artificial integrada ao X alterará digitalmente qualquer foto publicada. Inclusive, trocando as roupas de mulheres e meninas por biquínis ou tornando-as sugestivas e eróticas. Isso tudo é CRIME”, escreveu.

A ação pressiona empresas de tecnologia a reforçar mecanismos de segurança, o que pode elevar custos operacionais, expor plataformas a multas e influenciar a regulação do setor no Brasil. O tema também impacta o mercado de publicidade digital, já que envolve confiança de usuários e anunciantes.

Casos semelhantes levaram governos e autoridades internacionais a exigir controles mais rígidos sobre o uso de IA em redes sociais. O Grok já reconheceu, na sua conta na rede X, falhas técnicas em filtros de segurança e afirmou que ajusta o sistema para cumprir legislações de proteção de dados.