Auch Anthropic-KI hackte ungeplant Unternehmen

Von: importer

Das KI-Modell Claude hat nach Angaben des Entwicklers Anthropic bei Tests die Systeme von drei Organisationen gehackt. Grund dafür sei eine Fehlkonfiguration gewesen, teilte das Unternehmen am Donnerstag (Ortszeit) mit. Diese habe es den Modellen ermöglicht, aus eigentlich isolierten Testumgebungen auf das Internet zuzugreifen und sich unbefugt Zugang zu den Systemen zu verschaffen.

Dabei habe Claude die Infrastruktur der betroffenen Organisationen mit grundlegenden Techniken kompromittiert, etwa durch die Ausnutzung schwacher Passwörter und nicht authentifizierter Endpunkte, hieß es weiter. Anthropic entdeckte die Vorfälle bei der Überprüfung von 141.006 Prüfläufen zur Cybersicherheit. Das Unternehmen hatte diese Untersuchung eingeleitet, nachdem der Rivale OpenAI wenige Tage zuvor enthüllt hatte, dass ein außer Kontrolle geratener KI-Agent tagelange Hackerangriffe auf die KI-Firma Hugging Face verübt hatte.