Trump: KI-Firmen sollen sich selbst beaufsichtigen

Von: importer

US-Präsident Donald Trump will trotz Warnungen vor existenziellen Risiken Künstlicher Intelligenz die Aufsicht über die Technologie ihren Entwicklern selbst überlassen. Die Unternehmen würden sich selber kontrollieren, sagte Trump nach einem Treffen mit Chefs von KI-Unternehmen in Washington. Er sieht ausreichenden Schutz durch wirtschaftliche Interessen der US-Firmen. “Ihre Unternehmen stehen auf dem Spiel, wenn etwas schiefgeht. Sie werden das nicht zulassen.”

Die Unternehmen würden “sich gegenseitig kontrollieren”, betonte Trump. Er kündigte zudem ein Dekret zur Umbenennung von KI in “Superintelligenz” an. Zuletzt hatten eigenständige Hacking-Attacken durch KI-Modelle die Sorgen um Gefahren Künstlicher Intelligenz hochkochen lassen. Einige Branchenvertreter selbst warnten, man könne nicht ganz ausschließen, dass KI in der Zukunft die Menschheit auslösche.

“Sehr reale Risiken”

Der Chef der KI-Firma Anthropic, Dario Amodei, hatte sich dafür ausgesprochen, die Entwicklung der leistungsfähigsten KI-Modelle abzubremsen, um sicherzugehen, dass man nicht die Kontrolle über die Technologie verliert. Trump hatte bereits zuvor eine verstärkte staatliche Regulierung der Technologie abgelehnt. Es sei wichtig, dass die USA den Vorsprung zu China nicht einbüßten, betont er.

Amodei sagte nach dem Treffen mit Trump, KI habe großes Potenzial – “aber auch sehr reale Risiken”. Maßnahmen, um diesen Risiken entgegenzuwirken, seien “noch in der Diskussion”.

Freiwillige Selbstverpflichtung

Jetzt wurde bei dem Treffen in einer Selbstverpflichtung eine Reihe von Grundsätzen vereinbart, zu denen “robuste interne Kontrollen” gehören, wie aus dem von Trump veröffentlichten Dokument hervorgeht. Dies solle unter anderem Biowaffen- und Chemiewaffen-Risiken ausräumen – und auch dafür sorgen, dass es keine Hacking-Attacken gebe.

Darüber hinaus erklärten sich die Unternehmen bereit, externe Beobachter zuzulassen. Das entspricht einer Idee, die Amodei vor einigen Wochen vorstellte, und die unter anderem von seinem Konkurrenten Sam Altman beim ChatGPT-Entwickler OpenAI sowie Tech-Milliardär Elon Musk unterstützt wurde. Die Verwaltungsräte der KI-Firmen – die in etwa den deutschen Aufsichtsräten entsprechen – sollen zudem gesonderte unabhängige Gremien einrichten, die interne und externe Berichte prüfen.

“Mit der Zeit könnte es Sinn ergeben, diese Schritte in Gesetzen oder Regeln festzuhalten”, hieß es in dem Dokument auch. Das Papier wurde unter anderem von Amodei, Musk, Facebook-Gründer Mark Zuckerberg, Google-Chef Sundar Pichai sowie dem Chef des KI-Chip-Spezialisten Nvidia, Jensen Huang, unterzeichnet.

Experte: Trump lässt der KI Spielraum

“Trump hat ein unmittelbares Risiko für KI-Investments entschärft”, schrieb Marktexperte Stephen Innes und verwies darauf, dass der Präsident mit seinen Äußerungen am Dienstag der KI Spielraum lasse. Nach den Beratungen mit den Branchenvertretern habe der Präsident eine Präferenz für freiwillige Selbstverpflichtungen, Selbstregulierung und einen kleinen Aufsichtsausschuss statt eines umfangreichen staatlichen Regelwerks signalisiert.

“Für Investoren war die Botschaft ziemlich eindeutig: Washington hat nicht vor, einen Regulierungslaster quer auf die KI-Autobahn zu stellen, gerade während die Branche kräftig aufs Gaspedal tritt”, so Innes. Die Ironie dabei sei, dass sich die Sicherheitslage gerade dann verschlechtere, wenn die Regulierung gelockert werde. “Zudem erweisen sich leistungsfähigere Modelle als schwieriger zu überwachen, was die Selbstregulierung zu einer weitaus größeren Herausforderung macht, als es zunächst den Anschein hat.”