Comissão Europeia abre processo formal contra o chatbot de IA Grok da xAI

A Comissão Europeia abriu um processo formal contra a plataforma de redes sociais X de Elon Musk depois de o seu chatbot de inteligência artificial Grok ter sido encontrado a produzir imagens sexuais de pessoas reais sem a sua permissão, incluindo fotografias de crianças.

Pessoas que utilizam o X têm estado a criar versões alteradas por IA de fotografias reais pedindo ao Grok para as criar. Um estudo divulgado na semana passada pelo Centro para Combater o Ódio Digital descobriu que o Grok criou aproximadamente três milhões de imagens deepfake de mulheres e crianças em apenas alguns dias.

A controvérsia levou a pedidos de investigações em vários países. Na Irlanda, vários ministros do governo fecharam as suas contas no X em resposta.

Regina Doherty, membro do Parlamento Europeu pelo Fine Gael, confirmou a ação da Comissão contra a empresa numa declaração divulgada esta manhã. Afirmou que apoiava a decisão de iniciar uma investigação formal.

"Quando surgem relatórios credíveis de sistemas de IA a serem utilizados de formas que prejudicam mulheres e crianças, é essencial que a lei da UE seja examinada e aplicada sem demora," disse Doherty.

Acrescentou que o caso levanta sérias preocupações sobre se as plataformas estão a seguir as suas responsabilidades legais de verificar riscos e impedir a propagação de material ilegal e prejudicial.

Doherty enfatizou que a investigação precisa de resultar em consequências reais.

"Nenhuma empresa a operar na UE está acima da lei," afirmou.

Também salientou que a situação mostra problemas maiores na forma como a nova tecnologia de IA está a ser regulada e monitorizada, pedindo que sejam tomadas mais medidas ao nível da UE.

"Este caso sublinha por que razão a Lei da IA deve permanecer uma peça legislativa viva. Se ficarem claras lacunas na aplicação ou supervisão, então é nossa responsabilidade abordá-las. As leis da UE devem ser aplicáveis em tempo real quando ocorrem danos graves," disse Doherty.

Investigação adiada devido à crise da Gronelândia

De acordo com a fonte noticiosa alemã Handelsblatt, a Comissão tinha planeado iniciar o processo ao abrigo da Lei dos Serviços Digitais da UE na segunda-feira passada, mas a decisão foi adiada enquanto o bloco lidava com as ameaças do Presidente dos EUA Donald Trump de tomar a Gronelândia.

Esta não é a primeira vez que o X enfrenta problemas com os reguladores da UE. Em dezembro de 2025, a plataforma recebeu uma multa de 120 milhões de euros da UE por violar a Lei dos Serviços Digitais. As violações incluíam marcas de verificação azuis enganosas, falta de transparência sobre publicidade e impedir investigadores de aceder à plataforma.

Funcionários da administração Trump tiveram palavras fortes sobre essa multa. O Secretário de Estado Marco Rubio e o Vice-Presidente JD Vance criticaram-na fortemente, chamando-lhe um ataque às plataformas tecnológicas americanas.

Foco na avaliação de risco e moderação de conteúdo

A mais recente investigação centra-se especificamente em saber se o X avaliou adequadamente os riscos do seu chatbot de IA e tomou medidas suficientes para prevenir a criação e propagação de conteúdo prejudicial. A Lei dos Serviços Digitais exige que as grandes plataformas online identifiquem e abordem riscos relacionados com conteúdo ilegal e danos aos utilizadores.

A rápida produção de um volume tão grande de imagens inadequadas num período tão curto fez soar alarmes entre defensores da segurança digital e legisladores.

A situação tornou-se num caso de teste para a forma como os regulamentos da UE vão lidar com tecnologias de IA emergentes. Embora a Lei da IA tenha sido aprovada para regular sistemas de inteligência artificial, este caso está a ser prosseguido ao abrigo da Lei dos Serviços Digitais, que cobre responsabilidades de plataformas online.

A investigação poderá levar a multas adicionais ou requisitos para o X mudar a forma como o Grok opera. A Comissão tem o poder de impor penalizações até seis por cento da receita anual global de uma empresa por violações graves da Lei dos Serviços Digitais.

O X ainda não comentou publicamente a nova investigação. A forma como a empresa lida com a situação será acompanhada de perto enquanto outros países consideram as suas próprias respostas regulatórias. Múltiplas nações já exigiram ação urgente para abordar a capacidade do chatbot de criar imagens inadequadas.

Não se limite a ler notícias sobre cripto. Compreenda-as. Subscreva a nossa newsletter. É gratuita.