Papst Leo warnt vor KI-Macht der Tech-Giganten

Von: APA/dpa

Nach einem Jahr im Amt hat Papst Leo XIV. am Montag seine erste Enzyklika veröffentlicht. In dem mehr als 100 Seiten langen Lehrschreiben mit dem Titel “Magnifica Humanitas” (Großartige Menschheit) geht es um das Thema Künstliche Intelligenz (KI). Die erste Enzyklika in der Amtszeit eines neuen Papstes gilt vielfach als eine Art Regierungserklärung für dessen Pontifikat. Leo ist seit Mai vergangenen Jahres das Oberhaupt von weltweit 1,4 Milliarden Katholiken.

Bei der Vorstellung im Vatikan war der Papst selbst dabei – das gab es nach Angaben der katholischen Kirche noch nie. Der erste Pontifex aus den USA hatte sich in den vergangenen Monaten mehrfach schon zum Thema KI geäußert – sowohl zu deren Chancen als auch zu den Risiken.

Papst warnt vor Risiken für Menschenwürde und soziale Gerechtigkeit

Der Papst sieht in der digitalen Wirtschaft und dem Einsatz Künstlicher Intelligenz erhebliche Risiken für Menschenwürde und soziale Gerechtigkeit. Hinter scheinbar “immateriellen” KI-Systemen stehe eine Kette von Ausbeutung und Abhängigkeit. “Nichts ist in der Welt der KI immateriell oder magisch”, heißt es in dem Text. Jede digitale Leistung beruhe auf der oft unsichtbaren Arbeit von Millionen Menschen.

Kritisiert wird insbesondere die Ausbeutung in globalen Liefer- und Datenketten, etwa durch schlecht bezahlte Datenarbeit oder gefährliche Rohstoffgewinnung. “Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt”, heißt es drastisch.

Besonders kritisch blickt der Pontifex auf die Macht globaler Technologiekonzerne. “Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen”, heißt es in dem Text. Vielfach wird dies als deutliche Kritik an den milliardenschweren Tech-Eliten der USA verstanden.

Warnung vor Menschenhandel im digitalen Raum

Auch Menschenhandel im digitalen Raum wird in der Enzyklika thematisiert. Kriminelle Netzwerke nutzten Plattformen, anonyme Bezahlsysteme und digitale Profile, um Menschen auszubeuten. Menschen würden zu “Daten” und “Paketen” degradiert. Wenn Technologie Emanzipation verspreche, zugleich aber neue Abhängigkeiten schaffe, widerspreche dies unmittelbar der Menschenwürde, heißt es.

In seinem Lehrschreiben warnt Leo auch davor, auf KI-Lügen und -Fälschungen hereinzufallen: “Bleiben wir der Wahrheit treu!” Durch die “unaufhörlichen Flüsse von Informationen, Meinungen und Bildern” mit immer raffinierteren Algorithmen könnten Entscheidungen und Vorlieben leicht beeinflusst werden.

Zugleich wird eine klare Abgrenzung zur menschlichen Intelligenz betont: KI könne zwar “Sprache, Verhalten und Beurteilungen imitieren”, besitze aber kein Bewusstsein, kein moralisches Gewissen und verstehe weder “Liebe, Arbeit, Freundschaft und Verantwortung”. Weiter heißt es, KI dürfe nicht als neutral betrachtet werden: “Wir können KI nicht als moralisch neutral betrachten”, hieß es in der Enzyklika. Jedes System enthalte Entscheidungen darüber, was es misst, ignoriert oder bewertet. Der Papst fordert daher klare Verantwortung und Kontrolle bei Entwicklung und Einsatz von KI-Systemen, um Menschenwürde und Gemeinwohl zu schützen.

Auch wird vor der Versuchung gewarnt, angesichts globaler Probleme in Resignation zu verfallen. Auch wer scheinbar wenig Einfluss habe, trage Verantwortung. Entscheidend sei, ob Menschen die Logik der Gewalt – etwa durch Gleichgültigkeit oder Hass – stärken oder der Logik des Friedens folgen. Internationale Organisationen und Diplomatie seien zentrale Instrumente zur Konfliktlösung. Dialog und multilaterale Zusammenarbeit seien unverzichtbar, um Krisen zu verhindern und Vertrauen wieder aufzubauen. Besonders hervorgehoben werden dabei Worte und Kommunikation: Diese könnten spalten oder versöhnen. Daher gelte es, Sprache bewusst und verantwortungsvoll zu nutzen und Konflikte nicht rhetorisch zu verschärfen.

Abschließend wird eine theologische Perspektive betont: Der Mensch sei berufen, Verantwortung zu übernehmen und Hoffnung aktiv in der Welt zu leben – auch in Zeiten technischer und gesellschaftlicher Umbrüche.

Leo nimmt Bezug auf Sozialenzyklika seines Namensvetters

Bei der Vorstellung der Enzyklika nahm neben hochrangigen Kardinälen und Theologen auch der Mitgründer des KI-Konzerns Anthropic, Chris Olah, teil – auch das ein Novum bei der Vorstellung einer Enzyklika. Das Unternehmen mit Sitz in San Francisco liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil es seine KI-Modelle nicht in autonomen Waffensystemen und zur Überwachung der Zivilbevölkerung zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert.

Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es genau 135 Jahre her, dass Leos Namensvetter Leo XIII. seine Enzyklika “Rerum novarum” (“Über die neuen Dinge”) veröffentlichte. Damit legte der “Arbeiterpapst” die Grundlagen für die katholische Soziallehre infolge der industriellen Revolution.

Lackner: Klares Zeugnis für Menschenwürde

Für den Salzburger Erzbischof Franz Lackner hat Papst Leo XIV. mit seiner ersten Enzyklika “ein mit klarer Stimme gesprochenes Zeugnis für die Würde des Menschen in einer Zeit immer höherer Technisierung, immer größerer Machbarkeit vorgelegt”. Das berichtete Kathpress am Montag.

Der Papst benenne im Lehrschreiben die vielen positiven Errungenschaften des Fortschritts, “zeigt aber auch deutlich die mannigfaltigen Risiken auf, die uns als Gesellschaft erwachsen, wenn der Mensch sich letztlich selbst verdrängt, sich einer inhumanen Umwelt aussetzt”, erklärte der Vorsitzende der Österreichischen Bischofskonferenz. “So wird das Bekenntnis des Papstes zum Menschen an sich, der Abbild des Schöpfers ist, auch zum Wort für Frieden und Gerechtigkeit”, sagte Lackner.