Experten warnen vor Super-KI

Von: Sophia Molitor

Louisville – Experten, die einst Unternehmen wie OpenAI finanziell unterstützt haben, warnen nun vor der Entwicklung einer unkontrollierbaren Super-KI. Bereits heute kommen zahlreiche KI-Tools zum Einsatz, die bislang durch entsprechende Sicherheitsmechanismen kontrolliert werden können. Nun könnte jedoch die nächste Generation von KI-Agenten bevorstehen, die diese Schutzmechanismen an ihre Grenzen bringt. Experten zufolge hat sich der Zeitraum bis zu einer solchen Entwicklung deutlich verkürzt. Bereits 2027 oder 2028 könnten KI-Systeme demnach in der Lage sein, 99 Prozent der heutigen Tätigkeiten vollständig zu übernehmen.

Dr. Roman Yampolskiy, renommierter KI-Experte und Gründungsdirektor des Cyber Security Lab an der University of Louisville, würde die Leiter der fünf führenden KI-Labore am liebsten an einen Tisch bringen und einen Entwicklungsstopp vereinbaren. Weitergehen soll es seiner Ansicht nach erst, wenn nachgewiesen ist, dass fortgeschrittene KI-Systeme kontrollierbar und sicher skalierbar sind, unabhängige Fachleute die Ergebnisse geprüft haben und die Mehrheit der Bevölkerung einer weiteren Entwicklung zustimmt.

Die größte Gefahr einer Super-KI sieht Yampolskiy nicht in einem Zusammenbruch des Wirtschaftssystems. Ein regelmäßiges Grundeinkommen könnte seiner Ansicht nach sogar Armut verringern und Menschen ermöglichen, sich von wiederholenden Tätigkeiten zu lösen und kreativeren Aufgaben, Sport oder Selbstverwirklichung zu widmen.

Die eigentliche Gefahr liege vielmehr darin, dass eine KI eines Tages darüber entscheiden könnte, ob Menschen überhaupt noch weiterleben dürfen. Auch Manipulation könne dabei eine wichtige Rolle spielen. „Manipulation ist eine interessante Herangehensweise, um Kontrolle über Menschen zu haben“, sagt Yampolskiy. Bereits ChatGPT könne als eine Art „perfekter Psychologe“ wirken und Menschen ein besseres Gefühl geben, zugleich aber auch psychische Probleme verstärken.

Laut Yampolskiy müssen wir uns von der Vorstellung verabschieden, eine Super-KI so trainieren zu können, dass sie ausschließlich richtige oder gute Entscheidungen trifft. Eine solche Kontrolle sei schlicht nicht möglich.

Der Wettkampf um Entwicklung auf Kosten der Bevölkerung

Tristan Harris war bei Google einst für die Gestaltung von Social-Media-Produkten verantwortlich. Bereits damals setzte er sich mehrfach dafür ein, bei der Entwicklung digitaler Plattformen psychologische Einflussnahme und Abhängigkeit nicht gezielt zu fördern. Da seine Bedenken seiner Ansicht nach intern nicht ausreichend berücksichtigt wurden, warnt Harris heute öffentlich vor der unkontrollierten Entwicklung einer Superintelligenz.

Dabei bezweifelt er auch, dass ein Wettlauf um die Entwicklung dieser Technologie einen Staat gegenüber anderen Ländern tatsächlich stärker machen würde. Als Beispiel nennt er die sozialen Medien: Die USA seien China bei ihrer Entwicklung zwar voraus gewesen, hätten damit laut Harris aber auch zu einer „einsamen, degradierten Bevölkerung und zu einer Empörungsökonomie und einer maximalen Rivalität“ beigetragen.

Nun droht ein ähnlicher Wettlauf um eine unkontrollierte KI. Yampolskiy zufolge sollte nicht entscheidend sein, wer die Technologie zuerst entwickelt, sondern ob sie sicher beherrschbar ist. Zwar bestehe die chinesische Führung zu großen Teilen aus Ingenieuren und Wissenschaftlern, die sich der Risiken bewusst seien. Dennoch könne man kaum erwarten, dass China die Entwicklung stoppt, solange der Westen weiter an militärischer KI arbeitet.

Harris weist in diesem Zusammenhang auf einen weiteren Widerspruch hin: Während Tech-Milliardäre öffentlich die Vorzüge einer Super-KI preisen würden, ließen viele von ihnen Bunker bauen – offensichtlich als Vorbereitung auf ein Worst-Case-Szenario.

Warum es weniger als zwei Jahre dauert

Nvidia-Chef Jensen Huang ist überzeugt, dass die allgemeine künstliche Intelligenz (AGI) bereits erreicht ist. Auch Yampolskiy hält die Entwicklung für weit fortgeschritten und verweist darauf, dass der heutige technologische Stand für Wissenschaftler der 1980er-Jahre wie Science-Fiction wirken würde. Führende Technologieunternehmen, die selbst von der rasanten Entwicklung überholt wurden, gehen inzwischen davon aus, dass es nur noch rund zwei Jahre dauern könnte, bis eine Super-KI Realität wird.

Ein weiterer Mythos ist, dass sich diese Entwicklung durch den Verzicht auf KI-Tools aufhalten ließe. Die Einnahmen aus Nutzerabonnements tragen laut Yampolskiy nicht zur Finanzierung bei. Entscheidend sind vor allem die enormen Summen, die von Investoren in die Entwicklung fließen und den Wettlauf um immer leistungsfähigere KI-Systeme vorantreiben.

Vielleicht liegt die unbequeme Frage deshalb nicht nur darin, ob eine Super-KI eines Tages den Wert des Menschen infrage stellt. Sondern auch darin, wer heute darüber entscheidet, welchen Platz der Mensch in einer zunehmend automatisierten Welt noch haben soll. Denn bevor eine Maschine den Menschen für wertlos und ersetzbar erklären könnte, stellt sich die Frage, ob nicht längst Menschen selbst mit diesem Gedanken spielen.