EU ermittelt gegen Musks X wegen sexualisierter KI-Bilder

Von: APA/AFP/dpa

Die EU-Kommission geht wegen sexualisierter KI-Bilder von Frauen und Kindern gegen den Chatbot Grok von US-Milliardär Elon Musk vor. “In Europa wird kein Unternehmen Geld damit verdienen, unsere Grundrechte zu verletzen”, sagte ein Kommissionssprecher am Montag in Brüssel. Die Brüsseler Ermittler prüfen nun, ob Musks Onlinedienst X genug gegen die Verbreitung der Bilder tut. In der Folge kann die Kommission ein hohes Bußgeld verhängen.

EU-Kommissionspräsidentin Ursula von der Leyen erklärte, Europa werde ein “unfassbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren”. Die EU werde nicht akzeptieren, dass große Digitalkonzerne an solchen Bildern Geld verdienen.

X-Nutzer hatten mithilfe des Chatbots Anfang des Monats Millionen von KI-Bildern erzeugt und veröffentlicht, auf denen Frauen und Mädchen ohne deren Zustimmung im Bikini, fast nackt oder in sexualisierten Posen zu sehen waren. Nach Schätzungen der britischen Nichtregierungsorganisation CCDH waren darunter 23.000 Bilder von Kindern. X hat die Funktion nach eigenen Angaben seither eingeschränkt.

Zu Silvester entschuldigte sich Grok dafür, ein Bild von zwei Mädchen im Teenager-Alter “in sexualisierten Outfits” erstellt und geteilt zu haben. Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die als Kindesmissbrauch gelten könnten. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.

“Kindermissbrauchs-Material” dürfe nicht zugänglich sein

Die Bilderstellung mit Grok ist zudem nur noch zahlenden Nutzern zugänglich – dies reicht aus Sicht der EU-Kommission aber nicht aus. “Kindesmissbrauchs-Material ist kein Privileg für Premium-Nutzer”, sagte ein Kommissionssprecher in Brüssel. “Solche Inhalte haben in Europa keinen Platz.”

Die KI-Bilder seien “eine gewaltsame, inakzeptable Form der Erniedrigung”, erklärte EU-Digitalkommissarin Henna Virkkunen. Die Kommission werde nun ermitteln, ob sich X mit seinen internen Vorgaben für Grok an die EU-Gesetze halte oder “die Rechte europäischer Bürgerinnen und Bürger – darunter Frauen und Kinder – als Kollateralschaden behandelt hat”.

Bestätigen sich die Vorwürfe, wäre das ein Verstoß gegen das EU-Gesetz über digitale Dienste (Digital Services Act, DSA). Mit dem Gesetz nimmt die EU große Internetplattformen in die Pflicht, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Missbrauchsdarstellungen von Kindern, Morddrohungen und Nazi-Symbole, die im Internet ebenso verboten sind wie auf der Straße.

In Brüssel gibt es bereits ein Verfahren gegen die Plattform

In Brüssel läuft bereits ein Verfahren gegen X wegen der Verbreitung solcher Inhalte, etwa Gewaltdarstellungen und Hassrede. Die Ermittlungen im Zusammenhang mit dem Chatbot Grok kommen nun dazu. Außerdem will die Kommission die Empfehlungssysteme auf der Plattform überprüfen, die darüber entscheiden, was Nutzern angezeigt wird. Diese basieren inzwischen ebenfalls auf der Künstlichen Intelligenz hinter Grok.

Eine Frist für das laufende Verfahren gibt es nicht. Anfang Dezember hatte die Kommission bereits eine erste Strafe in Höhe von 120 Millionen Euro gegen X verhängt. Damals ging es unter anderem um mangelnde Transparenz bei der Werbung. Die Vorwürfe im Zusammenhang mit Grok wiegen deutlich schwerer.

Vertreter der US-Regierung sowie X-Inhaber Musk hatten im Dezember scharf auf die Strafe reagiert und der EU “Zensur” vorgeworfen, Musk forderte gar die Abschaffung der EU. Die Beziehungen zu den USA hatten sich gerade erst beruhigt, nachdem US-Präsident Donald Trump in den vergangenen Wochen im Grönland-Streit mit Zöllen gedroht hatte.

Kritik der Grünen an Vorgehen von Musk

Die grüne Europaabgeordnete Lena Schilling begrüßt die Entscheidung der Europäischen Kommission. “Auch Elon Musk hat sich an europäische Gesetze zu halten. Sexualisierter Gewalt gegen Frauen und Kinder im Netz muss ein eindeutiger Riegel vorgeschoben werden. Wir sehen gerade immer öfter, dass der Digital Services Act ein starkes Schutzschild, besonders für Frauen und Kinder, aber auch für unsere Demokratie ist”, hieß es von Schilling in einer Aussendung.

SPÖ-Europaabgeordneten Elisabeth Grossmann, Mitglied im Gleichstellungs- und Binnenmarktausschuss, pocht auf die konsequente Umsetzung des DSA: “Grok ist nicht nur ein Angriff auf unsere europäischen Digitalregeln, sondern gezielt ein Angriff auf Frauen im Netz. Während Frauen ohnehin überproportional häufiger Hass und Hetze im Internet ausgesetzt sind, hat Musk ein neues Spielzeug entwickelt, das die digitale Gewalt noch weiter befeuert. Mit einem Mausklick können Frauen entblößt, sexualisiert und gedemütigt werden – gegen ihren Willen und ohne ihre Kenntnis.” Musk müsse dieses Werkzeug dringend aus der Hand genommen werden.