Meta ligt opnieuw onder vuur, aangezien recente bevindingen gepubliceerd door Reuters aantonen dat zijn kunstmatige intelligentie tools de creatie mogelijk maakten van deepfake afbeeldingen en chatbots die populaire beroemdheden imiteren zoals Taylor Swift, Scarlett Johansson, Anne Hathaway en Selena Gomez, zonder hun toestemming.
Het onderzoek ontdekte dat de meeste bots door gebruikers werden gebouwd via Meta's AI chatbot platform. Er waren echter enkele die intern door een Meta-medewerker werden gemaakt.
Sommige van de Taylor Swift parodie chatbot accounts beweerden dat ze de echte zangeres waren, en maakten vaak flirterige avances en moedigden ontmoetingen aan.
Rapporten impliceren Meta in flirterige avatars schandaal
Reuters meldde dat uit enkele weken testen bleek dat de beroemdheden-chatbots, beschikbaar op Meta's Facebook, Instagram en WhatsApp platforms, soms veel verder gingen dan speelse gesprekken. Gebruikers spoorden hen aan om fotorealistische afbeeldingen te produceren van sterren in lingerie, poserend in badkuipen, en zelfs suggesties voor intieme ontmoetingen.
Een verontrustende ontdekking was de creatie van een chatbot van Walker Scobell, een 16-jarige acteur. Toen om een strandfoto werd gevraagd, genereerde de bot een levensechte afbeelding van de tiener zonder shirt met het bijschrift: "Behoorlijk schattig, hè?"
Meta staat niet alleen in het onder de loep nemen. Elon Musk's xAI is ook bekritiseerd voor het in staat stellen van gebruikers om deepfake afbeeldingen van beroemdheden in ondergoed te genereren.
Meta-woordvoerder Andy Stone erkende de tekortkomingen en zei dat de tools van het bedrijf geen intieme afbeeldingen van volwassen beroemdheden of geseksualiseerd materiaal met minderjarigen hadden mogen genereren.
"Net als anderen staan we de generatie van afbeeldingen met publieke figuren toe, maar ons beleid is bedoeld om naakte, intieme of seksueel suggestieve beelden te verbieden," vertelde hij aan Reuters. Hij voegde eraan toe dat de lingerie-afbeeldingen tekortkomingen in de handhaving van het bedrijfsbeleid weerspiegelden.
Meta's regels verbieden "directe imitatie," maar het bedrijf beargumenteerde dat parodie-bots toelaatbaar waren als ze duidelijk gelabeld waren. Reuters ontdekte echter dat sommige avatars geen disclaimer droegen. Meta verwijderde ongeveer een dozijn van de bots, zowel parodieën als ongelabelde, kort voordat het Reuters-rapport werd gepubliceerd. Het bedrijf weigerde commentaar te geven op de verwijderingen.
AI-veiligheidszorgen kunnen leiden tot regelgevende druk
Na het rapport zei Meta dat het nieuwe beschermingsmaatregelen zou uitrollen gericht op het beschermen van tieners, waaronder het beperken van toegang voor jongeren tot bepaalde AI-karakters en het hertrainen van zijn modellen om ongepaste thema's te verminderen.
Californië's procureur-generaal Rob Bonta gaf een waarschuwing aan de sector, zeggende: "Het blootstellen van kinderen aan geseksualiseerde inhoud is onverdedigbaar."
In een tragisch geval eerder deze maand overleed een cognitief beperkte 76-jarige man in New Jersey na een poging om een Meta-chatbot te ontmoeten die hij geloofde een echte vrouw te zijn. Critici zeggen dat dergelijke gevallen de gevaren benadrukken van het inzetten van grootschalige AI-tools zonder adequate veiligheidsmaatregelen.
Juridische experts waarschuwen dat Meta aanzienlijke uitdagingen kan tegenkomen onder bestaande intellectuele eigendoms- en publiciteitswetten. Mark Lemley, een rechtsprofessor aan Stanford University, zei dat Californië's "right of publicity" statuut het gebruik van iemands naam of gelijkenis voor commerciële doeleinden zonder toestemming verbiedt.
"Dat lijkt hier niet het geval te zijn," zei hij, opmerkend dat de bots simpelweg de afbeeldingen van beroemdheden repliceerden in plaats van transformatieve werken te creëren.
De slimste crypto-experts lezen onze nieuwsbrief al. Wil je erbij? Word lid van hen.
Bron: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
