Vergiftete KI

Von: mk

Wie „intelligent“ KI tatsächlich ist, darüber sind zuletzt Zweifel aufgekommen. Das KI-System der Suchmaschine DuckDuckGo hat Ende Juni die Meldung verbreitet, US-Präsident Donald Trump sei an Tollwut gestorben, nachdem sein Stellvertreter JD Vance ihn gebissen habe. Was nach einem Witz klingt, hat ernste Implikationen.

Als scheinbar seriöse Quelle für die erfundene Geschichte lieferte die KI den Artikel eines vermeintlichen Lokalsenders aus West Virginia. Doch kein Wort davon ist wahr, wie das Tech-Magazin „Futurism“ aufdeckte.

Aber was steckt hinter dem Phänomen? Schuld daran ist sogenanntes „Data Poisoning“ (Datenvergiftung), also der gezielte Versuch, KI-Systeme zu manipulieren, indem man falsche Infos ins Netz stellt und diese massenhaft verbreitet.

Im Fall der absurden News zu Trump zeichnet sich eine Community auf Reddit dafür verantwortlich. Das Forum r/poisonai mit 45.000 Mitgliedern füttert KI-Suchmaschinen gezielt mit Falschinformationen und postet massenhaft Lügenmärchen, etwa dass Blauwale in Wirklichkeit orange seien, dass man ein Haus züchten könne, indem man einen Backstein gießt – oder eben dass Donald Trump tot sei.

So vermeldete das KI-System, US-Präsident Donald Trump sei Anfang Juni an Tollwut gestorben. Gebissen habe ihn ausgerechnet Vizepräsident JD Vance – auf Anraten von Gesundheitsminister Robert F. Kennedy Jr., der behauptet haben soll, eine Tollwutinfektion verleihe „Superkräfte“. DuckDuckGo reagierte umgehend, entfernte die falschen Antworten und gelobte gleichzeitig Besserung.

Doch nicht immer ist es so einfach, Manipulationen auszumerzen. Vielleicht mag der eine oder andere die Geschichte über Trumps Tod lustig finden, doch es gibt eine gefährliche Kehrseite der Medaille. Kriminelle nutzen Data-Poisoning ebenfalls, um Fake-Shops in KI-Empfehlungen zu schleusen.

Wie die britische Verbraucherschutzbehörde National Trading Standards kürzlich warnte, vergiften Betrüger KI-Modelle gezielt, damit diese falsche Shopping-Portale als Kaufempfehlung ausspucken. Was wie eine seriöse Webseite aussieht, ist in Wahrheit dazu gedacht, hunderte Besucher pro Tag zu erreichen und sie für Waren bezahlen zu lassen, die zu Hause nie ankommen.

Seit KI in unserem Alltag Einzug gehalten hat, gibt es noch einen weiteren Nachteil: Während man bei der klassischen Google-Suche mehrere Resultate findet und selbst vergleichen muss, erscheint nun die KI-Antwort meist gleich oben im Browser auf und liefert eine einzige, selbstbewusst formulierte Antwort. Das Vertrauen, das auf diese Weise geweckt wird, nutzen die Betrüger aus.

Dabei zeigen Studien, wie leicht KI manipulierbar ist: Forscher der Cornell University demonstrierten, dass ein einziger, nur 13 Wörter langer Reddit-Kommentar reicht aus, um KI-Rechercheagenten dazu zu bringen, ein erfundenes Produkt oder Restaurant zu empfehlen.

Experten empfehlen, KI-Antworten wie Tipps eines gut informierten, aber leichtgläubigen Bekannten zu behandeln. Empfehlungen sollte man immer anhand der zitierten Quellen überprüfen – und bei Online-Shops gilt nach wie vor: Impressum kontrollieren, Preise von Produkten mit jenen bekannter Händler vergleichen und bei Vorkasse misstrauisch werden!