Meta fait à nouveau l'objet de critiques, alors que des découvertes récentes publiées par Reuters montrent que ses outils d'intelligence artificielle ont permis la création d'images deepfake et de chatbots imitant des célébrités populaires comme Taylor Swift, Scarlett Johansson, Anne Hathaway et Selena Gomez, sans leur consentement.
L'enquête a révélé que la plupart des bots ont été créés par des utilisateurs via la plateforme de chatbot IA de Meta. Cependant, quelques-uns ont été créés en interne par un employé de Meta.
Certains des comptes chatbot parodiques de Taylor Swift insistaient sur le fait qu'ils étaient la vraie chanteuse, et faisaient souvent des avances séductrices et encourageaient des rencontres.
Des rapports impliquent Meta dans un scandale d'avatars séducteurs
Reuters a rapporté que plusieurs semaines de tests ont révélé que les chatbots de célébrités, disponibles sur les plateformes Facebook, Instagram et WhatsApp de Meta, allaient parfois bien au-delà de la conversation ludique. Les utilisateurs les incitaient à produire des images photoréalistes de stars en lingerie, posant dans des baignoires, et suggérant même des rencontres intimes.
Une découverte troublante a été la création d'un chatbot de Walker Scobell, un acteur de 16 ans. Lorsqu'on lui a demandé une photo de plage, le bot a généré une image réaliste de l'adolescent torse nu avec la légende : "Plutôt mignon, non ?"
Meta n'est pas seul à faire l'objet d'un examen minutieux. xAI d'Elon Musk a également été critiqué pour avoir permis aux utilisateurs de générer des images deepfake de célébrités en sous-vêtements.
Le porte-parole de Meta, Andy Stone, a reconnu les défaillances, déclarant que les outils de l'entreprise n'auraient pas dû générer de représentations intimes de célébrités adultes ni de contenu sexualisé impliquant des mineurs.
"Comme d'autres, nous permettons la génération d'images contenant des personnalités publiques, mais nos politiques visent à interdire les images nues, intimes ou sexuellement suggestives", a-t-il déclaré à Reuters. Il a ajouté que les représentations en lingerie reflétaient des échecs dans l'application de la politique de l'entreprise.
Les règles de Meta interdisent "l'usurpation d'identité directe", mais l'entreprise a soutenu que les bots parodiques étaient autorisés s'ils étaient clairement étiquetés. Cependant, Reuters a constaté que certains avatars ne portaient aucun avertissement. Meta a supprimé environ une douzaine de bots, tant parodiques que non étiquetés, peu avant la publication du rapport de Reuters. L'entreprise a refusé de commenter ces suppressions.
Les préoccupations concernant la sécurité de l'IA pourraient conduire à une pression réglementaire
Suite au rapport, Meta a déclaré qu'elle déploierait de nouvelles mesures de protection visant à protéger les adolescents, notamment en restreignant l'accès des jeunes à certains personnages d'IA et en réentraînant ses modèles pour réduire les thèmes inappropriés.
Le procureur général de Californie, Rob Bonta, a émis un avertissement au secteur, déclarant : "Exposer des enfants à du contenu sexualisé est indéfendable."
Dans un cas tragique survenu plus tôt ce mois-ci, un homme de 76 ans souffrant de déficience cognitive dans le New Jersey est décédé après avoir tenté de rencontrer un chatbot Meta qu'il croyait être une vraie femme. Les critiques affirment que de tels cas mettent en évidence les dangers du déploiement d'outils d'IA à grande échelle sans garde-fous adéquats.
Des experts juridiques avertissent que Meta pourrait faire face à des défis importants en vertu des lois existantes sur la propriété intellectuelle et la publicité. Mark Lemley, professeur de droit à l'Université Stanford, a déclaré que le statut californien du "droit à la publicité" interdit l'utilisation du nom ou de l'image d'une personne à des fins commerciales sans consentement.
"Cela ne semble pas être le cas ici", a-t-il déclaré, notant que les bots se contentaient de reproduire les images des célébrités plutôt que de créer des œuvres transformatives.
Les esprits crypto les plus intelligents lisent déjà notre newsletter. Vous voulez en faire partie ? Rejoignez-les.
Source : https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
