Índia pede ao X para abordar conteúdo obsceno gerado pelo Grok

O governo indiano ordenou à plataforma de blogue X, propriedade de Elon Musk, que faça alterações ao seu chatbot de inteligência artificial Grok devido a conteúdo obsceno gerado por IA. O país quer que a plataforma faça alterações técnicas e processuais imediatas ao chatbot depois de utilizadores e legisladores sinalizarem várias instâncias de conteúdo obsceno.

De acordo com o país, os casos do chatbot a ser utilizado para criar estas imagens obscenas, incluindo imagens de mulheres alteradas por IA criadas usando a ferramenta. A ordem foi emitida na sexta-feira pelo ministério das TI da Índia, pedindo à plataforma que tome ações corretivas relativamente ao Grok, incluindo restringir a geração de conteúdo envolvendo material de "nudez, sexualização, sexualmente explícito ou ilegal". O ministério também deu à plataforma um ultimato de 72 horas para efetuar as alterações.

Governo indiano ordena que X faça alterações técnicas ao Grok

Como parte dos seus resultados no ultimato de 72 horas, o ministério também pediu ao X que apresente um relatório de ação tomada detalhando os passos que tomou para prevenir o alojamento ou disseminação de conteúdo indecente. Estes conteúdos incluem "obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou proibido por lei". A ordem alertou que se a plataforma não realizar os passos obrigatórios, poderá comprometer as suas proteções de "porto seguro".

A ordem da Índia surge em meio a preocupações levantadas por utilizadores que partilharam exemplos do Grok a ser instruído para alterar imagens de indivíduos, principalmente mulheres, para fazê-las parecer estar a usar bikinis. A questão foi impulsionada por uma queixa formal, que foi apresentada pela parlamentar indiana Priyanka Chaturvedi. Chaturvedi alertou todas as grandes empresas com chatbots de IA, acrescentando que têm de ser colocadas proteções para verificar funcionalidades como o Grok para que o chatbot não viole a dignidade humana.

Separadamente, os utilizadores também sinalizaram vários incidentes onde o chatbot de IA foi usado para gerar imagens sexualizadas envolvendo menores, uma questão que o X reconheceu na sexta-feira. A plataforma alegou que foi causado por algumas falhas nas salvaguardas antes de agir rapidamente para remover as imagens geradas. A plataforma também instou os utilizadores a reportar formalmente ao Federal Bureau of Investigation (FBI) ou à CyberTipline do NCMEC, observando que o X está comprometido em prevenir tais questões.

X pode enfrentar questões legais por não conformidade

De acordo com os utilizadores, imagens indecentes de mulheres geradas usando o chatbot permaneceram na plataforma. A última ordem surge depois do ministério das TI indiano ter emitido um aviso às plataformas de redes sociais, lembrando-as de que a conformidade com as leis locais que regem conteúdo obsceno e sexualmente explícito é um pré-requisito para reter a imunidade legal da responsabilidade por materiais gerados pelos utilizadores. O país instou as empresas a melhorar as proteções e alertou que a falha poderia convidar ação legal.

"Reitera-se que o não cumprimento dos requisitos acima será visto seriamente e pode resultar em consequências legais rigorosas contra a sua plataforma, os seus responsáveis e os utilizadores na plataforma que violam a lei, sem qualquer aviso adicional", alertou a ordem. O governo indiano também alertou o X que se não cumprir a sua diretiva, o país tem o poder de iniciar uma ação legal contra a plataforma ao abrigo da lei de TI da Índia e estatutos criminais.

A Índia emergiu como um dos maiores mercados digitais, sendo o país visto como um caso de teste crítico para até que ponto os governos estão dispostos a pressionar para responsabilizar as plataformas por conteúdo gerado por IA. Se a aplicação for apertada no país, poderá ter um efeito cascata para empresas de tecnologia globais a operar noutras jurisdições. A ordem também surge enquanto o X continua a desafiar as regras de regulação de conteúdo da Índia em tribunal.

A plataforma argumenta que os poderes de remoção do governo federal arriscam um excesso, mesmo quando a plataforma cumpriu a maioria das diretivas de bloqueio apresentadas pelo país. Ao mesmo tempo, o Grok tem sido útil aos utilizadores no X, com a maioria dos utilizadores a usar a plataforma para verificação de factos em tempo real e comentários sobre eventos globais, tornando o seu resultado mais visível e mais politicamente sensível do que o de ferramentas de IA independentes.

Não se limite a ler notícias de criptomoedas. Compreenda-as. Subscreva a nossa newsletter. É gratuita.