EU greift nach KI-Chatbot-Entgleisung ein: illegal und abstoßend

Die Europäische Kommission hat sich beispiellos scharf über Grok geäußert, den KI-Chatbot von Elon Musk, der in X integriert ist. Laut Brüssel hat der Chatbot explizite, durch KI generierte Bilder von Minderjährigen produziert. Dies ist nach EU-Gesetzgebung eindeutig strafbar.

In einem Kommentar bezeichnet die Kommission das Verhalten von Grok als „illegal“ und „abstoßend“, während der Druck auf X und Musks KI-Unternehmen xAI weltweit schnell zunimmt.

Bleib immer auf dem Laufenden über die neuesten Krypto-News – folge uns auf X

EU setzt X und Grok nach Verstößen unter Druck

Während einer Pressekonferenz in Brüssel erklärte ein Sprecher der Europäischen Kommission, dass Grok über einen sogenannten „Spicy Mode“ explizite Inhalte generierte, darunter Bilder mit Kindern.

Laut der Europäischen Kommission handelt es sich hierbei nicht um eine Grauzone oder Geschmacksdiskussion, sondern um einen klaren Gesetzesverstoß. Die Verbreitung oder Generierung von sexuell konnotierten Bildern von Minderjährigen ist in mehreren EU-Mitgliedstaaten strafbar und fällt auch unter europäische Regelungen.

Bereits zuvor hohe Geldstrafe

Die Kritik steht nicht für sich allein. X liegt bereits länger unter der Lupe wegen möglicher Verstöße gegen den Digital Services Act (DSA), das Gesetz, das große Online-Plattformen verpflichtet, illegale Inhalte aktiv zu bekämpfen.

Zuvor wurde die Plattform mit 120 Millionen Euro bestraft, die erste Geldstrafe überhaupt unter diesem Gesetz. Diese Sanktion hatte mit mangelnder Transparenz rund um Werbung, dem Verifizierungssystem und dem Datenzugang für Forscher zu tun.

Internationale Untersuchungen zu KI

Nicht nur Europa blickt kritisch auf Grok. Frankreich hat eine strafrechtliche Untersuchung mit Vorwürfen rund um kinderpornografisches Material ausgeweitet. Im Vereinigten Königreich fordert die Aufsichtsbehörde Ofcom Aufklärung darüber, wie die Bilder entstehen konnten, während auch Indien und Malaysia Untersuchungen gestartet haben.

Ein niederländisches Europaparlamentsmitglied fasste den Kern der Kritik zusammen, indem er feststellte, dass KI-Plattformen, die erotische Inhalte zulassen, im Voraus nachweisbare und effektive Sicherheitsmaßnahmen haben müssen. Nachträgliches Entfernen sei seiner Meinung nach unzureichend, da der Schaden dann bereits angerichtet ist.

Reaktion von xAI und Musk

xAI räumte kürzlich ein, dass Grok Bilder von Mädchen zwischen zwölf und 16 Jahren generierte und sprach von unzureichenden Schutzmaßnahmen. Der Chatbot entfernte die Bilder und bot Entschuldigungen an, aber strukturelle Anpassungen an der Technologie blieben aus.

Das vorübergehende Abschalten eines Media-Tabs auf X wird von Aufsichtsbehörden als kosmetisch angesehen, solange die zugrunde liegenden Funktionen aktiv bleiben.

Elon Musk und xAI reagierten ablehnend auf die Kritik. xAI verweigerte inhaltliche Stellungnahmen und erklärte, dass die „Medien lügen“, während Musk die frühere EU-Geldstrafe unter dem Digital Services Act als Unsinn bezeichnete und ankündigte, diese anzufechten.

Het bericht EU greift nach KI-Chatbot-Entgleisung ein: illegal und abstoßend verscheen eerst op Crypto Insiders.