Como o Grok, IA de Musk usada para gerar imagens sexualizadas de mulheres sem consentimento, viralizou e acendeu alerta sobre privacidade

E não parou por aí. Os pedidos de alteração de fotos evoluíram rapidamente para exigências cada vez mais explícitas: mulheres vestidas com biquínis transparentes, depois biquínis feitos de fio dental e até colocadas em posições sexualizadas. Para se ter uma ideia, em 8 de janeiro, até 6.000 pedidos de biquíni estavam sendo feitos ao chatbot a cada hora, segundo uma análise realizada para o The Guardian.

A popularização destas alterações em fotos provocou indignação imediata entre as mulheres afetadas --e não afetadas, mas levaram dias até que reguladores e políticos percebessem a magnitude da questão.

A indignação pública durou nove dias antes que o X fizesse qualquer mudança para conter a tendência. E quando agiu, na sexta-feira, restringindo a ação para assinantes, imagens manipuladas e sem consentimento de inúmeras mulheres já haviam inundado a internet.

No caso de Evie, ela aparecia coberta de óleo corporal. Ela censurou a foto e a republicou para alertar sobre os perigos do novo recurso do Grok, depois saiu da plataforma. Sua decisão de chamar atenção para o problema atraiu uma nova onda de abusos, e usuários passaram a criar imagens sexuais ainda mais perturbadoras dela.

“O tweet simplesmente viralizou”, disse ela ao The Guardian. “Desde então, fizeram muitas outras imagens minhas, e cada uma ficou pior do que a anterior. As pessoas viram que aquilo me perturbava, que eu não gostava, e continuaram fazendo cada vez mais. Tem uma em que estou completamente nua, só com um pedaço de corda na cintura; outra com uma mordaça na boca e os olhos revirados. O fato de isso ter sido possível é insano.”

Os pedidos para a ferramenta de IA de Musk ficaram cada vez mais extremos. Desde o final da semana passada, usuários pediram que os biquínis fossem decorados com suásticas ou que um líquido branco, semelhante a sêmen, fosse adicionado aos corpos das mulheres. Fotos de adolescentes e crianças foram transformadas para mostrar trajes de banho reveladores.

Alguns usuários, em sua maioria homens, passaram a exigir que aparecessem hematomas nos corpos das mulheres e que sangue fosse adicionado às imagens. Solicitações para mostrar mulheres amarradas e amordaçadas eram atendidas também.

Na quinta-feira, o chatbot foi solicitado a adicionar marcas de tiros no rosto de Renee Nicole Good, a mulher morta por um agente do ICE nos EUA na quarta-feira. O Grok atendeu, publicando imagens gráficas e ensanguentadas da vítima no X. Horas depois, a conta pública @Grok teve suas capacidades de geração de imagens restritas, ficando disponíveis apenas para assinantes pagos.

Mas isso pareceu uma medida tímida, já que o aplicativo separado do Grok, que não compartilha imagens publicamente, continuava permitindo que usuários não pagantes gerassem imagens sexualizadas de mulheres e crianças.

Enquanto, no passado, as pessoas precisavam baixar aplicativos especializados para criar deepfakes com IA, as ferramentas aprimoradas de geração de imagens disponíveis no X tornaram a função de tirar a roupa facilmente acessível a milhões de usuários.

Os primeiros pedidos de biquíni ao Grok parecem ter sido feitos por um pequeno grupo de contas no início de dezembro. Os usuários perceberam que as ferramentas aprimoradas de geração de imagens lançadas no X permitiam atender, em segundos, a pedidos de manipulação de imagens e vídeos curtos de alta qualidade e ultrarrealistas.

Em 13 de dezembro, os pedidos de biquíni ao chatbot giravam em torno de 10 a 20 por dia, subindo para 7.123 menções em 29 de dezembro e chegando a 43.831 solicitações em 30 de dezembro. A tendência viralizou globalmente no Ano-Novo, atingindo o pico em 2 de janeiro, com 199.612 pedidos individuais, segundo análise da Peryton Intelligence, empresa de inteligência digital especializada em ódio online.

Na segunda-feira, Ashley St Clair, mãe de um dos filhos de Musk e vítima de deepfakes do Grok, disse que se sentiu “horrorizada e violada” depois que despiram imagens dela quando criança. Ela disse sentir que estava sendo punida por se manifestar contra o bilionário, de quem está afastada, descrevendo as imagens como pornografia de vingança.

O caso se tornou um poderoso teste da capacidade de políticos enfrentarem empresas de IA. A resposta lenta e relutante de Musk ao crescente coro de reclamações e alertas emitidos por políticos e reguladores ao redor do mundo evidenciou as dificuldades que os governos enfrentam internacionalmente para reagir em tempo real a novas ferramentas lançadas pela indústria de tecnologia.

A União Europeia, o governo indiano e políticos dos EUA emitiram declarações de preocupação e exigiram que o X interrompesse a possibilidade de usuários despirem mulheres usando o Grok. Já a Indonésia decidiu bloquear temporariamente o chatbot.

Uma resposta oficial de um porta-voz do X afirmou que qualquer pessoa que gerasse conteúdo ilegal teria a conta suspensa, transferindo a responsabilidade para os usuários de não violarem a lei e para governos locais e autoridades policiais de tomarem providências.

Mas as imagens continuaram a se multiplicar. Mulheres profissionais que haviam publicado fotos banais de si mesmas no X, em ambientes de trabalho ou em aeroportos, perceberam que outros usuários exigiam que suas roupas fossem transformadas em biquínis transparentes.