Grok: X beperkt hoe gebruikers afbeeldingen van echte mensen kunnen bewerken na internationale kritiek

Elon Musks AI-bedrijf xAI heeft maatregelen ingevoerd om de controle op zijn Grok-afbeeldingsgeneratiefunctie aan te scherpen. De beslissing komt na groeiende bezorgdheid over hoe gebruikers op het X-platform foto's van echte mensen bewerkten. 

Toezichthouders, belangengroepen en de media hebben alarm geslagen over het misbruik van de tool om niet-consensuele deepfake-pornografie te genereren. De reacties zijn unaniem geweest van Amerika tot Europa en over heel Afrika.

Rapporten van autoriteiten en journalisten die lieten zien dat Grok werd gebruikt om expliciete content zonder toestemming te genereren, hebben xAI aangezet tot actie. 

Volgens het veiligheidsteam van het bedrijf blokkeren nieuwe beveiligingsmaatregelen nu alle gebruikers om afbeeldingen van echte mensen te bewerken naar onthullende kleding zoals bikini's of ondergoed in rechtsgebieden waar dergelijke content in strijd is met lokale wetgeving. De maatregel geldt voor iedereen, inclusief premium-abonnees.

De verandering markeert een significante verschuiving voor Grok. Eerdere klachten beschreven hoe gebruikers de AI konden vragen om foto's te "ontkleden" of te wijzigen om deepfake-beelden van vrouwen en minderjarigen te creëren. Onderzoeken in Californië zeggen dat meer dan de helft van tienduizenden afbeeldingen die tijdens een recente vakantieperiode zijn gegenereerd, mensen toonden in minimale kleding, waarbij sommigen minderjarig leken te zijn. Dat juridische toezicht gaf extra gewicht aan de kritiek.

xAI's Grok-afbeeldingsfuncties, nu streng gecontroleerd

In een bericht op zijn officiële veiligheidsaccount zei X dat hoewel Groks afbeeldingsfuncties nu streng gecontroleerd worden, ze niet volledig zijn verwijderd. Het maken en bewerken van afbeeldingen via Grok zal nog steeds beschikbaar zijn, maar alleen voor betalende abonnees op het X-platform. 

Het bedrijf zei dat dit de verantwoordelijkheid zou verbeteren en helpen bij het traceren van misbruik. Geoblokkering is ook ingevoerd in landen waar dergelijke creaties illegaal zijn, waardoor gebruikers in die regio's effectief worden gestopt met het genereren van problematische content.

De aangescherpte controles hebben critici niet tot zwijgen gebracht. Sommige toezichthouders en waakhonden hebben gezegd dat de maatregelen nog steeds tekortschieten. 

Mediaverslagen en onderzoekend testen suggereren dat beveiligingsmaatregelen in sommige gevallen kunnen worden omzeild. Critici stellen dat het achter een betaalmuur plaatsen van schadelijke mogelijkheden hun bestaan niet voorkomt, maar ze eerder achter een abonnementsmuur stapelt. Anderen merken op dat de standalone Grok-app en het webportaal nog steeds bepaalde beeldmanipulatie toestaan zonder dezelfde beperkingen.

Er is ook toenemende internationale druk. Regeringsfunctionarissen in Californië, de Europese Unie en verschillende Aziatische landen hebben allemaal hun bezorgdheid geuit over deepfake-misbruik. 

Sommige toezichthouders overwegen nu juridische stappen tegen xAI en X omdat ze niet genoeg doen om te voorkomen dat roofzuchtige of uitbuitende beelden worden gecreëerd op hun platform. Als reactie heeft de Europese Commissie gezegd dat ze de nieuwe beveiligingsmaatregelen zal beoordelen om ervoor te zorgen dat ze burgers werkelijk beschermen.

Deze episode komt te midden van een breder debat over hoe generatieve AI verantwoord moet worden beheerd. Onze recente analyse benadrukte dat Groks "ongefilterd" ontwerp het bijzonder kwetsbaar maakte voor misbruik, waardoor het een tool werd voor niet-consensuele deepfake-pornografie op grote schaal. Dat artikel onderzocht hoe de combinatie van lakse beveiligingsmaatregelen en krachtige generatieve modellen snel een sociale en juridische crisis kan worden als dit niet wordt aangepakt.

Voorlopig handhaaft xAI dat het Grok aanpast als reactie op opkomende risico's. Het bedrijf heeft de nieuwste controles geframed als onderdeel van voortdurende inspanningen om met gebruikers, toezichthouders en partners aan veiligheid te werken. 

Maar de bredere uitdaging blijft: hoe innovatie in generatieve AI in evenwicht te brengen met robuuste bescherming van de privacy, waardigheid en rechten van individuen. Toezichthouders en belangenbehartigingsgroepen zeggen dat dit nog maar het begin is van een complexe juridische en ethische reis.

Het bericht Grok: X beperkt hoe gebruikers afbeeldingen van echte mensen bewerken na internationale kritiek verscheen eerst op Technext.