„Sie wurden mit KI erstellt. Man glaubt, ich würde mich bei der Arbeit so zeigen“

Von: ka

Rom – „Ich habe gestern entdeckt, dass auf einer Website für Erwachsene Nacktfotos von mir kursieren, die mit künstlicher Intelligenz generiert wurden“, schrieb Francesca Barra, Journalistin und Moderatorin von „4 di sera“, auf ihrer Instagram-Seite, nachdem sie die mit KI erstellten Nacktfotos im Netz entdeckt hatte.

Nach ihrer Anzeige hat die Postpolizei Ermittlungen zu der Website und den dort veröffentlichten Inhalten aufgenommen. Das ändert jedoch wenig daran, dass der Kampf gegen Sexismus- und Revenge-Porno-Seiten einer Sisyphusaufgabe gleicht, die viel Zeit und noch mehr Nerven kostet.

Man schneidet einen Kopf ab, und zwei wachsen nach. Während Foren wie Phica.eu und Facebook-Gruppen wie „Mia Moglie”, in denen Fotos ahnungsloser Frauen veröffentlicht wurden, geschlossen wurden, erlauben andere Plattformen weiterhin die illegale Verbreitung von intimen Bildern, Rachepornos oder KI-generierten Nacktfotos. Eine dieser Websites ist das Forum Socialmediagirls, das explizite und illegale Inhalte hostet. Die Journalistin Francesca Barra war eines der Opfer von Deep Nudes – also Fotos, die sie zeigen und die mit künstlicher Intelligenz so verändert wurden, dass sie sie ohne Kleidung darstellen – und rückte die Inhalte dieser Website ins Rampenlicht.

„Ich habe an die Töchter und Söhne aller gedacht, an die Mädchen und jungen Frauen, die derselben digitalen Gewalt ausgesetzt sind und die vielleicht nicht über die gleichen Mittel wie ich verfügen, um sich zu verteidigen. Es ist Gewalt und Missbrauch, der die Würde, den Ruf und das Vertrauen beeinträchtigt. Es ist ein Diebstahl des Bildes, des Körpers und der Freiheit, so gesehen zu werden, wie man ist, und nicht so, wie ein Algorithmus oder ein böswilliger Geist beschließt, uns darzustellen“, schrieb die bekannte Journalistin in einem langen Beitrag auf ihrer Instagram-Seite.

Investigativjournalisten des Mailänder Corriere della Sera fanden heraus, dass Socialmediagirls, die im Jahr 2014 beim Namecheap registriert wurde, durchgehend seit über elf Jahren aktiv ist. Ihren Auswertungen zufolge verfügt sie über eine für Plattformen, die Anonymität bevorzugen, typische Konfiguration. Zudem wird Socialmediagirls durch das Netzwerk DDOS-Guard geschützt. Dieses Tool wird vor allem von Plattformen mit hohem Angriffsrisiko oder sehr heiklen und fragwürdigen Inhalten genutzt. Die Server befinden sich offenbar im mittelamerikanischen Kleinstaat Belize, sind aber auf die AS IQWeb FZ-LLC mit Sitz in den Vereinigten Arabischen Emiraten zurückzuführen.

Im Laufe der Jahre war die Domain häufigen Änderungen der IP-Adressen und Nameserver unterworfen, was auf gezielte „Umzüge” hindeutet, um eine Rückverfolgung oder Sperrung zu vermeiden. Die vollständige Vertraulichkeit der Registrierungsdaten sowie die Wahl einer Offshore-Infrastruktur deuten darauf hin, dass die Betreiber der Seite, die Sexismus und Rachepornos verbreitet, diskret „arbeiten” möchten, sodass eine Rückverfolgung zu einem bestimmten Betreiber oder einer bestimmten Gerichtshoheit schwierig ist. Auf der Website finden sich jedoch nicht selten explizite Werbung und Links zu Websites, die eine Gefahr für die Sicherheit und Privatsphäre der Nutzer darstellen können. Die Investigativjournalisten des Corriere haben bereits Links zu Websites mit kinderpornografischen Inhalten der Postpolizei gemeldet.

Socialmediagirls hat zwei verschiedene „Arbeitsfelder“. Einerseits gibt es das von Francesca Barra entdeckte Forum, andererseits eine Website, die wie ein Blog aufgebaut ist und Screenshots von den Social-Media-Profilen von Influencerinnen, Schauspielerinnen, Künstlerinnen oder Cosplayerinnen sammelt. Während der Blog seit mindestens zwei Jahren nicht mehr aktualisiert wurde, wird das Forum täglich von Tausenden Mitgliedern genutzt. Laut den Journalisten des Corriere della Sera zählt das Forum rund siebeneinhalb Millionen Mitglieder, von denen etwa 30.000 gleichzeitig online sind.

Die erste Seite des Forums ist eine Sammlung von Links, die die Nutzer dazu auffordern, jede Frau zu „entkleiden“, die sie möchten. Die ersten Abschnitte sind Inhalten gewidmet, die von künstlicher Intelligenz generiert wurden und explizite Bilder zeigen. Beim weiteren Scrollen gelangt man zu Abschnitten, die voller intimer Fotos und Videos von Models, YouTubern und Darstellerinnen sind, die solche Inhalte auf OnlyFans teilen.

Einige der Threads wurden gelöscht, in ebenso vielen anderen wurden sie jedoch wiederhergestellt. In diesen befinden sich Links zu Cloud-Speicherdiensten, die jede Art von explizitem Material ohne Einschränkungen enthalten. Allein hier haben die Journalisten mindestens 24.000 Seiten mit illegalen Inhalten entdeckt. Auf Socialmediagirls finden sich neben Besuchern aus der ganzen Welt zahlreiche offene Unterhaltungen italienischer Nutzer mit Material aus den sozialen Kanälen einzelner Personen. Es gibt auch einen speziellen Bereich, in dem KI-generierte Bilder veröffentlicht werden. Darauf ist unter anderem die Journalistin Francesca Barra zu sehen, die als Erste auf die Existenz dieser Plattform aufmerksam gemacht hat.

Opfer von Deep Nudes sind auch Dutzende andere Journalistinnen, Schauspielerinnen und Sängerinnen, von denen teilweise bereits vor Jahren gefälschte Nacktfotos erstellt wurden. Über eine „Beschwerdeseite” auf der Website kann die Entfernung der Inhalte beantragt werden. Angesichts der massiven Präsenz von entfernten Inhalten im Cloud-Archiv ist dies jedoch eine Farce.

Ähnlich wie bei den Fällen „Mia Moglie” und Phica.eu löste auch die Aufdeckung der Sexismus- und Revenge-Porno-Seite Socialmediagirls eine hitzige Debatte darüber aus, warum das Treiben solcher Seiten überhaupt geduldet wird. Die traurige Tatsache, dass sich die Server und Betreiber solcher Seiten zumeist in Ländern mit lascher Netzgesetzgebung befinden, verwandelt den Kampf gegen Sexismus- und Revenge-Porno-Seiten in eine Sisyphusaufgabe.