Papst Leo XIV hat US-Präsident Donald Trump und Nvidia-Chef Jensen Huang verurteilt, weil sie die Gefahren der künstlichen Intelligenz verharmlosen, und gewarnt, dass das Ignorieren der durch Technologie entstehenden Risiken die gemeinsame Zukunft der Menschheit gefährde und die Welt die Sicherheit der Menschen ernster nehmen müsse.

Die Kritik stellt den Papst gegen eine der einflussreichsten Stimmen der Technologiebranche. Anfang des Monats lehnte Huang die Idee neuer Regeln zum Schutz der Menschen vor den potenziellen Risiken der künstlichen Intelligenz ab – im Widerspruch zu den Ansichten einiger anderer Führungskräfte. „Wir brauchen keine neuen Gesetze — wir brauchen keine neuen Regulierungen,“ bemerkte er.

Huang erklärte weiter, dass Entwickler nicht zwischen schnellem Vorankommen und Sicherheit wählen sollten, und bestand darauf, dass rascher technologischer Fortschritt und robuste Sicherheit absolut Hand in Hand gehen können.

Kürzlich hat Nvidia neue KI-Sicherheitstools veröffentlicht, darunter sein Wachhund-System Sentry. Papst Leo sagte Reportern, er habe die sicherheitsbezogene Einführung des Unternehmens zur Kenntnis genommen, stellte aber angesichts von Huangs Ablehnung Bundesaufsicht in Frage, wie sehr dieser sich wirklich der Sicherheit verschrieben habe. „Er ist jedoch derselbe, der sagt, es dürfe keine Grenzen und keine staatliche Regulierung geben“, sagte der Papst.

Der Austausch verdeutlicht die Bruchlinie, die derzeit durch die Branche verlä: Ob freiwillige Tools wie Sentry allein Sicherheit gewährleisten können oder ob verbindliche staatliche Aufsicht erforderlich ist.

Papst Leo ruft Führungsverantwortliche zur Zusammenarbeit bei der KI-Sicherheit auf

KI-Sicherheit ist ein wiederkehrendes Thema des Pontifikats von Papst Leo XIV. In den ersten Tagen seiner Amtszeit erklärte er die KI zu einer massiven Bedrohung für die Menschheit. Bereits im Mai stellte er eine neue Enzyklika — eines der feierlichsten Lehrdokumente der katholischen Kirche — gemeinsam mit Anthropic-Mitgründer Christopher Olah vor und appellierte an die Pioniere der Technologiebranche, über den Profit hinauszudenken.

Am Montag bekräftigte der Papst seine Haltung zur KI-Sicherheit und forderte Tech-Manager und politische Führer auf, die Anliegen der Menschheit ernst zu nehmen.

„Wir müssen weiterhin politische Führer, KI-Verantwortliche, soziale Organisationen und Verbände einladen, zusammenzukommen und darauf zu blicken, was bereits geschieht und was kommen könnte. Einfach zu sagen ‚Ach, das wird nicht passieren‘ und die Augen davor zu verschließen, ist, glaube ich, wohl nicht der verantwortungsvollste Weg“, erklärte er.

Mit einer klaren Botschaft an die Zweifler stärkte der Papst die Auffassung, dass die Gefahren der künstlichen Intelligenz nicht übertrieben dargestellt werden, sondern eine reale und unmittelbare Gefahr darstellen — und keine „Fake News“ sind.

Mit dem Pontifex klingt nicht nur eine Stimme Alarm. Bei einem Forum des UN-Sicherheitsrats warnten kürzlich Anthropics Dario Amodei und OpenAIs Sam Altman vor den Gefahren unkontrollierter künstlicher Intelligenz und appellierten an konkurrierende Länder, bei der Schaffung regulatorischer Rahmenwerke zusammenzuarbeiten — ein Appell, der in direktem Gegensatz zu Huangs Forderung steht, neue Regeln aufzuschieben.

Bereits zuvor hatte Amodei einen Aufsatz verfasst, der zur Vorsicht im Umgang mit künstlicher Intelligenz mahnte und Unternehmen riet, ihr Tempo zu drosseln.

Huang seinerseits hat die Tragweite ebenfalls anerkannt. Bei der Vorstellung von Nvidias neuestem Open-Source-Sicherheitssystem räumte er ein, dass der enorme gesellschaftliche Nutzen der Technologie an der Lösung von Sicherheitslücken hängt, sprach sich jedoch dagegen aus, die Entwicklung zu verlangsamen. „Das außerordentliche Potenzial der KI für die Gesellschaft wird sich nur verwirklichen lassen, wenn wir die KI-Sicherheit lösen“, erklärte er.

Mehr als 50 % der Befragten äußern KI-Sicherheitsbedenken

Das Eingreifen des Papstes erfolgt angesichts einer weitverbreiteten öffentlichen Unruhe über die künstliche Intelligenz. Laut Daten der Stanford University gaben 52 % der Befragten an, sich wegen der KI-Technologie nervös zu fühlen.

Gleichzeitig steigt die globale Optimismusstimmung gegenüber künstlicher Intelligenz. Der Anteil der Menschen, die glauben, dass die Vorteile der KI die Nachteile überwiegen, stieg von 55 % im Jahr 2024 auf 59 % im Jahr 2025.

Insbesondere glaubt eine beeindruckende Mehrheit von über 80 % der Befragten in Malaysia, Thailand, Indonesien und Singapur, dass die KI ihr Leben in den nächsten drei bis fünf Jahren tiefgreifend verändern wird. Von den vier Ländern verzeichnete Malaysia im Vergleich zu 2024 den größten Anstieg dieser Stimmung.

Dennoch lastet die Bedrohung durch Automatisierung schwer auf der globalen Erwerbsbevölkerung. Langerfolge Ipsos-Verfolgerungsdaten zufolge blieb die Mehrheit der Arbeitnehmer während 2024 und 2025 in der Angst, dass künstliche Intelligenz ihre Rolle innerhalb von fünf Jahren umkrempeln oder vollständig auslöschen könnte.

Diese wirtschaftliche Furcht ist in den Vereinigten Staaten und Kanada am ausgeprägtesten, wo 67 % bzw. 68 % der Befragten erwarten, dass die KI Arbeitsplätze vernichten und ganze Branchen destabilisieren wird.

Die Zahlen veranschaulichen die Spannung im Zentrum der KI-Debatte. Während ein wachsender Teil der Öffentlichkeit erhebliche Nutzen der Technologie erkennt, bleibt die Angst vor den Folgen weit verbreitet — dieselbe Spaltung, die sich nun unter den Entscheidungsträgern abzeichnet, wobei Huang darauf setzt, dass Sicherheit intern entwickelt werden kann, während der Papst und konkurrierende Führungskräfte argumentieren, dass externe Aufsicht unerlässlich ist.

Stanfords AI Index 2026 ergab auch, dass das Vertrauen in die Regulierungsfähigkeit der Regierungen zwischen den Ländern erheblich variiert, was darauf hindeutet, dass die öffentliche Sorge nicht unbedingt mit dem Vertrauen in bestehende Aufsichtsmechanismen einhergeht.

Da sich die KI-Entwicklung beschleunigt, konzentriert sich die Meinungsverschiedenheit zwischen Technologie-Führern, Politikern und anderen öffentlichen Persönlichkeiten zunehmend darauf, wie viel Aufsicht notwendig ist — und wer dafür verantwortlich sein sollte, dass immer mächtigere Systeme sicher bleiben.