India vraagt X om obscene inhoud gegenereerd door Grok aan te pakken

De Indiase overheid heeft het blogplatform X, eigendom van Elon Musk, opgedragen wijzigingen aan te brengen in zijn Grok kunstmatige intelligentie chatbot vanwege obscene AI-content. Het land wil dat het platform onmiddellijke technische en procedurele wijzigingen aanbrengt aan de chatbot nadat gebruikers en wetgevers meerdere gevallen van obscene content hebben gemeld.

Volgens het land zijn er gevallen waarbij de chatbot is gebruikt om deze obscene afbeeldingen te maken, waaronder door AI gewijzigde afbeeldingen van vrouwen die met de tool zijn gemaakt. Het bevel werd vrijdag uitgevaardigd door het IT-ministerie van India, waarin het platform wordt gevraagd corrigerende maatregelen te nemen met betrekking tot Grok, waaronder het beperken van het genereren van content met "naaktheid, seksualisering, seksueel expliciet of anderszins onwettig" materiaal. Het ministerie heeft het platform ook een ultimatum van 72 uur gegeven om de wijzigingen door te voeren.

Indiase overheid draagt X op technische wijzigingen aan te brengen in Grok

Als onderdeel van de te leveren resultaten in het 72-uur ultimatum heeft het ministerie X ook gevraagd een actie-ondernomen rapport in te dienen waarin de stappen worden beschreven die het heeft genomen om het hosten of verspreiden van onfatsoenlijke content te voorkomen. Deze content omvat "obsceen, pornografisch, vulgair, onfatsoenlijk, seksueel expliciet, pedofiel of anderszins verboden volgens de wet." Het bevel waarschuwde dat als het platform de verplichte stappen niet uitvoert, het zijn "veilige haven" beschermingen in gevaar zou kunnen brengen.

India's bevel komt te midden van zorgen van gebruikers die voorbeelden deelden van Grok waarbij werd gevraagd afbeeldingen van individuen, voornamelijk vrouwen, te wijzigen om het te laten lijken alsof ze bikini's dragen. De kwestie werd ingegeven door een formele klacht die werd ingediend door het Indiase parlementslid Priyanka Chaturvedi. Chaturvedi waarschuwde alle grote bedrijven met AI-chatbots en voegde eraan toe dat er waarborgen moeten worden ingesteld om functies zoals Grok te controleren zodat de chatbot de menselijke waardigheid niet schendt.

Afzonderlijk hebben gebruikers ook meerdere incidenten gemeld waarbij de AI-chatbot is gebruikt om geseksualiseerde afbeeldingen met minderjarigen te genereren, een probleem dat X vrijdag erkende. Het platform beweerde dat het werd veroorzaakt door enkele tekortkomingen in waarborgen voordat het snel overging tot het verwijderen van de gegenereerde afbeeldingen. Het platform drong er ook bij gebruikers op aan formeel melding te doen bij de Federal Bureau of Investigation (FBI) of NCMEC's CyberTipline, waarbij werd opgemerkt dat X zich inzet om dergelijke problemen te voorkomen.

X zou juridische problemen kunnen krijgen bij niet-naleving

Volgens gebruikers bleven onfatsoenlijke afbeeldingen van vrouwen die met de chatbot waren gegenereerd op het platform staan. Het laatste bevel komt nadat het Indiase IT-ministerie een advies aan sociale mediaplatforms heeft uitgebracht, waarin hen eraan wordt herinnerd dat naleving van lokale wetten met betrekking tot obscene en seksueel expliciete content een voorwaarde is voor het behouden van juridische immuniteit tegen aansprakelijkheid voor door gebruikers gegenereerd materiaal. Het land drong er bij bedrijven op aan de waarborgen te verbeteren en waarschuwde dat het niet doen hiervan juridische stappen zou kunnen uitlokken.

"Er wordt herhaald dat niet-naleving van de bovenstaande vereisten ernstig zal worden beschouwd en kan resulteren in strikte juridische gevolgen tegen uw platform, zijn verantwoordelijke functionarissen en de gebruikers op het platform die de wet overtreden, zonder verdere kennisgeving," waarschuwde het bevel. De Indiase overheid heeft X ook gewaarschuwd dat als het niet voldoet aan zijn richtlijn, het land de bevoegdheid heeft om een juridische actie tegen het platform te starten onder India's IT-wet en strafwetten.

India is naar voren gekomen als een van de grootste digitale markten, waarbij het land wordt gezien als een kritische testcase voor hoe ver overheden bereid zijn te gaan om platforms verantwoordelijk te houden voor door AI gegenereerde content. Als de handhaving in het land wordt aangescherpt, zou dit een domino-effect kunnen hebben voor wereldwijde technologiebedrijven die in andere rechtsgebieden actief zijn. Het bevel komt ook terwijl X de contentregelgevingsregels van India in de rechtbank blijft aanvechten.

Het platform betoogt dat de verwijderingsbevoegdheden van de federale overheid het risico lopen te ver te gaan, ook al heeft het platform voldaan aan de meeste blokkeerrichtlijnen die door het land naar voren zijn gebracht. Tegelijkertijd is Grok nuttig geweest voor gebruikers op X, waarbij de meeste gebruikers het platform gebruiken voor realtime feitencontrole en commentaar op wereldwijde gebeurtenissen, waardoor de output zichtbaarder en politiek gevoeliger is dan die van op zichzelf staande AI-tools.

Lees niet alleen cryptonieuws. Begrijp het. Abonneer u op onze nieuwsbrief. Het is gratis.