EU-Parlament – Verbot von KI-Anwendungen für sexuelle Fakes

Von: APA/AFP

Im EU-Parlament haben die zuständigen Ausschüsse den Weg für ein Verbot von KI-Anwendungen geebnet, mit deren Hilfe sexualisierte Bilder von Menschen ohne deren Einwilligung hergestellt werden können. Bei einem Treffen von Justiz- und Verbraucherschutzausschuss am Mittwoch in Brüssel einigten sich die Abgeordneten auf eine entsprechende Änderung des Gesetzes zur Künstlichen Intelligenz (KI).

Der Schritt gilt als Reaktion auf die Erstellung und Verbreitung von Millionen sexualisierter KI-Bilder von Frauen und Kindern mithilfe des Chatbots Grok von US-Milliardär Elon Musk Anfang des Jahres. Das Verbot soll Teil einer Reihe von Veränderungen am bestehenden KI-Gesetz werden, das die EU 2024 verabschiedet hatte. Der Rat der EU-Länder hatte sich bereits vergangene Woche für ein solches Verbot ausgesprochen.

Bei Grok handelt es sich um eine beim Onlinedienst X integrierte Funktion. Stein des Anstoßes war Anfang Jänner der neue “Spicy Mode” bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten – etwa mit Aufforderungen wie “Entferne ihre Kleider” oder “Zieh ihr einen Bikini an”. Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.

Plenum muss noch über Verbot entscheiden

Die irische Aufsichtsbehörde leitete im Auftrag der EU eine Untersuchung ein. Grundlage ist das EU-Gesetz über digitale Dienste (DSA). Das Parlament muss nun noch im Plenum über das Verbot entscheiden. Die Abstimmung ist für nächste Woche geplant. Im Anschluss verhandeln dann Parlament und Mitgliedstaaten über den abschließenden Text.

Die SPÖ-EU-Abgeordnete und frauenpolitische Sprecherin Elisabeth Grossmann begrüßte die Entscheidung am Mittwoch in einer Reaktion. “Sexualisierte Deepfakes sind keine harmlosen Online-Spielereien, sie sind Gewalt. Und wieder einmal sind überproportional oft Frauen betroffen, aber auch immer mehr Kinder”, sagte Grossmann. Mit der Entscheidung stelle das Europäische Parlament “unmissverständlich klar, dass dieser entwürdigenden und zutiefst gewaltvollen Praxis ein Riegel vorgeschoben werden muss”.

Für die österreichische EU-Abgeordnete Lena Schilling (Grüne) sind die nun verbotenen Apps und Anwendungen “eine Form digitaler Gewalt und sie treffen vor allem Frauen und Kinder. KI-Tools, die Menschen auf Knopfdruck entkleiden, sind ein massiver Eingriff in Würde, Sicherheit und Privatsphäre. Oft folgen Erpressung, Mobbing und massive psychische Belastungen.” Es sei völlig inakzeptabel, dass Anbieter sich bisher aus der Verantwortung ziehen konnten.