Malásia e Indonésia restringem Grok devido a abuso de IA com conteúdo sexualmente explícito

A Malásia e a Indonésia restringiram o acesso ao Grok, o chatbot de inteligência artificial associado à plataforma de redes sociais de Elon Musk, X. Esta decisão surge em resposta a preocupações de que a ferramenta de IA está a ser utilizada para gerar imagens falsas sexualmente explícitas de indivíduos reais.

O Grok permite aos utilizadores criar e modificar imagens. No entanto, as autoridades de ambos os países expressaram preocupações de que está a ser cada vez mais utilizado para manipular fotografias em conteúdo revelador ou sexualizado sem consentimento. Os reguladores destacaram os riscos para mulheres e crianças, afirmando que a ferramenta pode ser facilmente utilizada indevidamente para produzir deepfakes pornográficos.

A Malásia e a Indonésia são agora os primeiros países do mundo a bloquear totalmente o Grok, assumindo uma posição firme contra ferramentas de IA que as autoridades acreditam estar a avançar mais rapidamente do que as regulamentações de segurança.

Grok ultrapassa limites legais e sociais

Os reguladores estão preocupados com questões mais amplas para além de um único chatbot, uma vez que o aumento de imagens sexuais geradas por IA revela lacunas nas leis de segurança online e representa riscos para os utilizadores. Na Malásia, o regulador de comunicações observou que anteriormente alertou o X sobre o uso indevido da sua IA, mas sentiu que a resposta da empresa priorizou o reporte por parte dos utilizadores em vez de abordar o problema central.

O ministério dos assuntos digitais da Indonésia enfatizou a necessidade de dignidade e direitos humanos, afirmando que as ferramentas de IA que criam conteúdo sexual não consensual prejudicam a confiança pública e colocam em perigo grupos vulneráveis. O governo solicitou ao X que explique como o Grok está a ser controlado e moderado.

A proibição também reflete a posição de longa data da Indonésia sobre conteúdo online. O país bloqueou anteriormente plataformas como Pornhub e OnlyFans, e os funcionários veem as imagens sexuais geradas por IA como uma extensão do mesmo problema, agora fornecido através de tecnologia mais recente.

Leia também: Por dentro da crise de pornografia deepfake do Grok e o ajuste de contas legal à frente

A controvérsia do Grok está a ganhar atenção para além do Sudeste Asiático. No Reino Unido, os reguladores estão atualmente a avaliar se o X está a cumprir as regulamentações de segurança online. Além disso, os líderes políticos criticaram publicamente o uso da tecnologia para criar imagens falsas explícitas.

Para os utilizadores, o impacto é pessoal. Alguns indivíduos cujas imagens foram alteradas usando o Grok relatam que reportar o conteúdo fez pouco para impedir que se espalhasse. Em certos casos, encorajar outros a reportar as publicações apenas resultou em mais pessoas a verem as imagens falsas, agravando o dano.

A crescente reação negativa está a levar o X a reconsiderar como o Grok opera, particularmente à medida que os governos começam a ver as ferramentas de IA como produtos regulamentados em vez de funcionalidades experimentais.

A publicação Malásia e Indonésia restringem Grok por abuso de IA sexualmente explícito apareceu primeiro no Technext.