Maleisië en Indonesië beperken Grok vanwege seksueel expliciete AI-misbruik

Maleisië en Indonesië hebben de toegang tot Grok, de kunstmatige intelligentie chatbot van Elon Musk's sociale mediaplatform X, beperkt. Deze beslissing komt als reactie op zorgen dat de AI-tool wordt gebruikt om seksueel expliciete nepafbeeldingen van echte personen te genereren.

Grok stelt gebruikers in staat om afbeeldingen te maken en te wijzigen. Autoriteiten in beide landen hebben echter hun bezorgdheid geuit dat de tool steeds vaker wordt gebruikt om foto's zonder toestemming te manipuleren tot onthullende of geseksualiseerde content. Toezichthouders hebben de risico's voor vrouwen en kinderen benadrukt en stellen dat de tool gemakkelijk kan worden misbruikt om pornografische deepfakes te produceren.

Maleisië en Indonesië zijn nu de eerste landen ter wereld die Grok volledig blokkeren, en nemen een sterk standpunt in tegen AI-tools waarvan de autoriteiten geloven dat ze sneller ontwikkelen dan veiligheidsregels.

Grok overschrijdt juridische en sociale grenzen

Toezichthouders maken zich zorgen over bredere kwesties dan alleen een enkele chatbot, aangezien de opkomst van AI-gegenereerde seksuele afbeeldingen hiaten in online veiligheidswetgeving blootlegt en risico's voor gebruikers met zich meebrengt. In Maleisië merkte de communicatietoezichthouder op dat het X eerder had gewaarschuwd over het misbruik van zijn AI, maar vond dat de reactie van het bedrijf prioriteit gaf aan gebruikersrapportage boven het aanpakken van het kernprobleem.

Het Indonesische ministerie van Digitale Zaken benadrukte de noodzaak van waardigheid en mensenrechten, en stelde dat AI-tools die niet-consensuele seksuele content creëren het publieke vertrouwen schaden en kwetsbare groepen in gevaar brengen. De regering heeft X verzocht uit te leggen hoe Grok wordt gecontroleerd en gemodereerd.

Het verbod weerspiegelt ook Indonesië's langdurige standpunt over online content. Het land heeft eerder platforms zoals Pornhub en OnlyFans geblokkeerd, en functionarissen beschouwen AI-gegenereerde seksuele afbeeldingen als een uitbreiding van hetzelfde probleem, nu geleverd via nieuwere technologie.

Lees ook: Inside Grok's deepfake pornography crisis and the legal reckoning ahead

De Grok-controverse trekt aandacht buiten Zuidoost-Azië. In het Verenigd Koninkrijk beoordelen toezichthouders momenteel of X voldoet aan online veiligheidsregels. Daarnaast hebben politieke leiders publiekelijk kritiek geuit op het gebruik van technologie om expliciete nepafbeeldingen te maken.

Voor gebruikers is de impact persoonlijk. Sommige personen wiens afbeeldingen zijn gewijzigd met Grok melden dat het rapporteren van de content weinig deed om verspreiding te voorkomen. In bepaalde gevallen resulteerde het aanmoedigen van anderen om de berichten te rapporteren er alleen in dat meer mensen de nepafbeeldingen zagen, waardoor de schade verergerde.

De toenemende weerstand zet X ertoe aan te heroverwegen hoe Grok werkt, vooral nu regeringen AI-tools beginnen te zien als gereguleerde producten in plaats van experimentele functies.

Het bericht Maleisië en Indonesië beperken Grok vanwege seksueel expliciet AI-misbruik verscheen eerst op Technext.