Grok: X vai limitar como os utilizadores editam imagens de pessoas reais após reação internacional negativa

A empresa de IA de Elon Musk, xAI, introduziu medidas para apertar os controlos sobre a sua funcionalidade de geração de imagens Grok. A decisão surge após a crescente preocupação sobre a forma como os utilizadores na plataforma X estavam a editar fotos de pessoas reais. 

Reguladores, grupos de direitos e os meios de comunicação social levantaram o alarme sobre o uso indevido da ferramenta para gerar pornografia deepfake sem consentimento. A reação negativa foi unânime da América à Europa e em toda a África.

Relatórios de autoridades e jornalistas mostrando que o Grok estava a ser usado para gerar conteúdo explícito sem consentimento levaram a xAI a agir. 

De acordo com a equipa de segurança da empresa, novas salvaguardas bloqueiam agora todos os utilizadores de editar imagens de pessoas reais para vestuário revelador, como biquínis ou roupa interior, em jurisdições onde tal conteúdo viola a lei local. A medida aplica-se a todos, incluindo subscritores premium.

A mudança marca uma alteração significativa para o Grok. Reclamações anteriores descreviam como os utilizadores podiam solicitar à IA para "despir" ou alterar fotos para criar imagens deepfake de mulheres e menores. Investigações na Califórnia indicam que mais de metade de dezenas de milhares de imagens geradas durante um período de férias recente mostravam pessoas com o mínimo de roupa, sendo que algumas pareciam ser menores de idade. Esse escrutínio legal acrescentou peso à crítica.

Funcionalidades de imagem do Grok da xAI, agora rigorosamente controladas

Numa publicação na sua conta oficial de segurança, X afirmou que, embora as funcionalidades de imagem do Grok estejam agora rigorosamente controladas, não foram totalmente removidas. A criação e edição de imagens através do Grok continuarão disponíveis, mas apenas para subscritores pagos na plataforma X. 

A empresa afirmou que isto melhoraria a responsabilização e ajudaria a rastrear o uso indevido. O geobloqueio também foi introduzido em países onde tais criações são ilegais, impedindo efetivamente que os utilizadores nessas regiões gerem conteúdo problemático.

Os controlos mais apertados não silenciaram os críticos. Alguns reguladores e grupos de fiscalização afirmaram que as medidas ainda ficam aquém. 

Relatórios dos meios de comunicação social e testes investigativos sugerem que as salvaguardas podem ser contornadas em alguns casos. Os críticos argumentam que colocar capacidades prejudiciais atrás de uma paywall não impede a sua existência, mas sim as empilha atrás de uma barreira de subscrição. Outros notam que a aplicação Grok autónoma e o portal web ainda permitem certas manipulações de imagem sem as mesmas restrições.

Há também uma crescente pressão internacional. Funcionários governamentais na Califórnia, na União Europeia e em vários países asiáticos expressaram preocupação sobre o uso indevido de deepfakes. 

Alguns reguladores estão agora a considerar ou a prosseguir com ações legais contra a xAI e X por não fazerem o suficiente para prevenir que imagens predatórias ou exploratórias sejam criadas na sua plataforma. Em resposta, a Comissão Europeia afirmou que avaliará as novas salvaguardas para garantir que realmente protegem os cidadãos.

Este episódio surge no meio de um debate mais amplo sobre como governar a IA generativa de forma responsável. A nossa análise recente destacou que o design "não filtrado" do Grok o tornou particularmente vulnerável a abusos, transformando-o numa ferramenta para pornografia deepfake sem consentimento em larga escala. Esse artigo explorou como a combinação de salvaguardas laxas e modelos generativos poderosos pode rapidamente tornar-se numa crise social e legal se não for abordada.

Por agora, a xAI mantém que está a ajustar o Grok em resposta a riscos emergentes. A empresa apresentou os últimos controlos como parte de esforços contínuos para trabalhar com utilizadores, reguladores e parceiros na segurança. 

Mas o desafio mais amplo permanece: como equilibrar a inovação em IA generativa com proteções robustas para a privacidade, dignidade e direitos dos indivíduos. Reguladores e grupos de defesa afirmam que isto é apenas o início de uma jornada legal e ética complexa.

A publicação Grok: X vai limitar a forma como os utilizadores editam imagens de pessoas reais após reação internacional apareceu primeiro no Technext.