Europese Commissie start formele procedure tegen xAI's Grok AI-chatbot

De Europese Commissie heeft een formele procedure geopend tegen Elon Musk's socialemediaplatform X nadat ontdekt werd dat zijn kunstmatige intelligentie-chatbot Grok seksuele afbeeldingen van echte mensen produceerde zonder hun toestemming, inclusief foto's van kinderen.

Gebruikers van X hebben AI-aangepaste versies van daadwerkelijke foto's gemaakt door Grok te vragen deze te creëren. Een onderzoek dat vorige week werd gepubliceerd door het Centre for Countering Digital Hate ontdekte dat Grok in slechts enkele dagen ongeveer drie miljoen deepfake-afbeeldingen van vrouwen en kinderen maakte.

De controverse heeft geleid tot oproepen voor onderzoeken in verschillende landen. In Ierland hebben een aantal regeringsministers hun X-accounts gesloten als reactie.

Regina Doherty, lid van het Europees Parlement namens Fine Gael, bevestigde de stap van de Commissie tegen het bedrijf in een verklaring die vanmorgen werd vrijgegeven. Ze zei dat ze de beslissing steunde om een formeel onderzoek te starten.

"Wanneer geloofwaardige rapporten opduiken over AI-systemen die worden gebruikt op manieren die vrouwen en kinderen schaden, is het essentieel dat EU-wetgeving zonder vertraging wordt onderzocht en gehandhaafd," zei Doherty.

Ze voegde eraan toe dat de zaak ernstige zorgen oproept over de vraag of platforms hun wettelijke verantwoordelijkheden volgen om te controleren op risico's en te voorkomen dat illegaal en schadelijk materiaal zich verspreidt.

Doherty benadrukte dat het onderzoek moet leiden tot daadwerkelijke consequenties.

"Geen enkel bedrijf dat in de EU opereert, staat boven de wet," verklaarde ze.

Ze wees er ook op dat de situatie grotere problemen laat zien in hoe nieuwe AI-technologie wordt gereguleerd en gemonitord, en vroeg om meer stappen op EU-niveau.

"Deze zaak onderstreept waarom de AI-wet een levend stuk wetgeving moet blijven. Als hiaten in handhaving of toezicht duidelijk worden, dan is het onze verantwoordelijkheid om deze aan te pakken. EU-wetgeving moet in real-time uitvoerbaar zijn wanneer ernstige schade optreedt," zei Doherty.

Onderzoek vertraagd door Groenland-crisis

Volgens de Duitse nieuwsbron Handelsblatt was de Commissie van plan de procedure onder de Digitale Dienstenwet van de EU afgelopen maandag te starten, maar de beslissing werd uitgesteld omdat het blok omging met de dreigementen van de Amerikaanse president Donald Trump om Groenland over te nemen.

Dit is niet de eerste keer dat X problemen heeft met EU-toezichthouders. In december 2025 ontving het platform een boete van €120 miljoen van de EU voor het overtreden van de Digitale Dienstenwet. De overtredingen omvatten misleidende blauwe vinkjes, gebrek aan transparantie over advertenties en het verhinderen van onderzoekers om toegang te krijgen tot het platform.

Functionarissen van de Trump-regering hadden sterke woorden over die boete. Minister van Buitenlandse Zaken Marco Rubio en vicepresident JD Vance bekritiseerden het beide heftig en noemden het een aanval op Amerikaanse technologieplatforms.

Focus op risicobeoordeling en contentmoderatie

Het nieuwste onderzoek richt zich specifiek op de vraag of X de risico's van zijn AI-chatbot goed heeft beoordeeld en voldoende stappen heeft ondernomen om de creatie en verspreiding van schadelijke content te voorkomen. De Digitale Dienstenwet vereist dat grote online platforms risico's identificeren en aanpakken die verband houden met illegale content en schade aan gebruikers.

De snelle productie van zo'n groot volume aan ongepaste afbeeldingen in zo'n korte tijd luidde alarmbellen bij belangenbehartigers voor digitale veiligheid en wetgevers.

De situatie is een testcase geworden voor hoe EU-regelgeving opkomende AI-technologieën zal behandelen. Hoewel de AI-wet is aangenomen om kunstmatige intelligentiesystemen te reguleren, wordt deze zaak vervolgd onder de Digitale Dienstenwet, die de verantwoordelijkheden van online platforms dekt.

Het onderzoek zou kunnen leiden tot aanvullende boetes of vereisten voor X om te veranderen hoe Grok werkt. De Commissie heeft de bevoegdheid om boetes op te leggen tot zes procent van de wereldwijde jaaromzet van een bedrijf voor ernstige overtredingen van de Digitale Dienstenwet.

X heeft nog niet publiekelijk gereageerd op het nieuwe onderzoek. De manier waarop het bedrijf met de situatie omgaat, zal nauwlettend worden gevolgd terwijl andere landen hun eigen regulerende reacties overwegen. Meerdere landen hebben al dringend optreden geëist om het vermogen van de chatbot om ongepaste afbeeldingen te creëren aan te pakken.

Lees niet alleen cryptonieuws. Begrijp het. Abonneer je op onze nieuwsbrief. Het is gratis.