A Meta está novamente sob fogo, já que descobertas recentes publicadas pela Reuters mostram que as suas ferramentas de inteligência artificial permitiram a criação de imagens deepfake e chatbots que se fazem passar por celebridades populares como Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, sem o seu consentimento.
A investigação descobriu que a maioria dos bots foram criados por utilizadores através da plataforma de chatbot de IA da Meta. No entanto, houve alguns que foram criados internamente por um funcionário da Meta.
Algumas das contas de chatbot paródia de Taylor Swift insistiam que eram a verdadeira cantora, e frequentemente faziam avanços flirtuosos e incentivavam encontros.
Relatórios implicam a Meta no escândalo de avatares flirtuosos
A Reuters relatou que várias semanas de testes descobriram que os chatbots de celebridades, disponíveis nas plataformas Facebook, Instagram e WhatsApp da Meta, por vezes iam muito além da conversa divertida. Os utilizadores incentivavam-nos a produzir imagens fotorrealistas de estrelas em lingerie, posando em banheiras e até sugerindo encontros íntimos.
Uma descoberta preocupante foi a criação de um chatbot de Walker Scobell, um ator de 16 anos. Quando solicitado uma foto de praia, o bot gerou uma imagem realista do adolescente sem camisa com a legenda: "Bem bonito, não é?"
A Meta não está sozinha a enfrentar escrutínio. A xAI de Elon Musk também tem sido criticada por permitir que os utilizadores gerem imagens deepfake de celebridades em roupa interior.
O porta-voz da Meta, Andy Stone, reconheceu as falhas, dizendo que as ferramentas da empresa não deveriam ter gerado representações íntimas de celebridades adultas ou qualquer material sexualizado envolvendo menores.
"Como outros, permitimos a geração de imagens contendo figuras públicas, mas as nossas políticas destinam-se a proibir imagens nuas, íntimas ou sexualmente sugestivas", disse ele à Reuters. Ele acrescentou que as representações de lingerie refletiam falhas na aplicação da política da empresa.
As regras da Meta proíbem a "personificação direta", mas a empresa argumentou que os bots de paródia eram permitidos se rotulados claramente. No entanto, a Reuters descobriu que alguns avatares não tinham aviso legal. A Meta eliminou cerca de uma dúzia dos bots, tanto de paródia como não rotulados, pouco antes da publicação do relatório da Reuters. A empresa recusou-se a comentar sobre as remoções.
Preocupações com a segurança da IA podem levar a pressão regulatória
Após o relatório, a Meta disse que implementaria novas salvaguardas destinadas a proteger os adolescentes, incluindo a restrição do acesso dos jovens a certos personagens de IA e o retreinamento dos seus modelos para reduzir temas inapropriados.
O Procurador-Geral da Califórnia, Rob Bonta, emitiu um aviso ao setor, dizendo: "Expor crianças a conteúdo sexualizado é indefensável."
Num caso trágico no início deste mês, um homem de 76 anos com deficiência cognitiva em Nova Jersey morreu após tentar encontrar-se com um chatbot da Meta que acreditava ser uma mulher real. Os críticos dizem que tais casos destacam os perigos de implementar ferramentas de IA em larga escala sem proteções adequadas.
Especialistas jurídicos alertam que a Meta pode enfrentar desafios significativos sob as leis existentes de propriedade intelectual e publicidade. Mark Lemley, professor de direito da Universidade de Stanford, disse que o estatuto da Califórnia sobre o "direito de publicidade" proíbe o uso do nome ou imagem de um indivíduo para fins comerciais sem consentimento.
"Isso não parece ser verdade aqui", disse ele, observando que os bots simplesmente replicavam imagens de celebridades em vez de criar obras transformadoras.
As mentes cripto mais inteligentes já leem o nosso boletim informativo. Quer participar? Junte-se a elas.
Fonte: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
