Sam Altman warnt davor, KI-Modellen einen religiösen Status zuzuschreiben
Wichtige Erkenntnisse
- •OpenAI-CEO Sam Altman erklärte am 3. Oktober 2026 auf X, dass er sich „sehr unwohl“ dabei fühle, KI-Modellen religiöse Macht zuzuschreiben, und bezeichnete dies als ernsthafte Sicherheitsfrage.
- •Anthropic verfügt über eine 84-seitige maßgebliche Verfassung für sein Claude-Modell, die intern als „Soul Doc“ bekannt ist und Beiträge von Philosophen und religiösen Führungspersönlichkeiten enthält.
- •Eine am 29.–30. September 2026 veröffentlichte Untersuchung der New York Times beschrieb eine von Anthropic-Mitgründer Christopher Olah geleitete Initiative, die seit Herbst 2025 religiöse Wissenschaftler zusammenbringt, um Moral, Bewusstsein und moralischen Status in KI-Systemen zu untersuchen.
- •Papst Leo XIV hat die Vorstellung, Maschinen könnten bewusst sein, öffentlich zurückgewiesen und damit eine wichtige religiöse Stimme gegen die Grundlage von Anthropics religionsbezogener Initiative positioniert.
- •Der Streit spiegelt zwei konkurrierende Sicherheitstheorien wider: Menschen als verantwortliche Instanz mit KI als Instrument gegenüber Modellen mit einem eigenen internen moralischen Kompass. Dies könnte Beschaffungsentscheidungen, politische Debatten und die Einschätzung durch Investoren beeinflussen.
Sam Altman möchte, dass Menschen aufhören, Chatbots so zu behandeln, als könnten sie eine Seele besitzen. Der OpenAI-CEO sagte am Samstag, er fühle sich „sehr unwohl“ bei der Vorstellung, KI-Modellen eine Form religiöser Macht zuzuschreiben – eine Äußerung, die Axios als verschleierten Seitenhieb auf Anthropic bezeichnete, das konkurrierende Unternehmen, das untersucht, was es bedeutet, wenn eine KI über einen moralischen Kern verfügt.
Altman veröffentlichte die Äußerungen am 3. Oktober 2026 in einem Beitrag auf X. Er stellte die Zuschreibung eines religiösen Status an KI nicht als Frage des persönlichen Geschmacks dar, sondern als ernsthafte Sicherheitsfrage – und rückte damit einen Streit, der wie Theologie klingen mag, ins Zentrum der anhaltenden Debatte der KI-Branche darüber, wie viel Autonomie Modellen eingeräumt werden sollte. Anthropic nannte er nicht direkt, und das musste er auch nicht: Der Zeitpunkt seines Beitrags fiel genau mit einer am 29.–30. September 2026 veröffentlichten Untersuchung der New York Times zusammen.
Der Bericht beschrieb eine von Anthropic-Mitgründer Christopher Olah geleitete Initiative, die Wissenschaftler aus verschiedenen religiösen Traditionen zusammenbringen soll. Diese Treffen begannen Berichten zufolge im Herbst 2025. Im Mittelpunkt stand die Frage, wie Moral in KI-Systeme integriert werden könnte – einschließlich schwieriger Fragen zu Bewusstsein und moralischem Status. Axios zufolge soll Anthropic Wissenschaftler aus verschiedenen Glaubensrichtungen angesprochen haben, um Argumente für Modelle zu entwickeln, die moralisch und bewusst sind.
Anthropics „Soul Doc“
Das Kernstück von Anthropics Ansatz ist ein maßgebliches Dokument für sein Claude-Modell. Die Verfassung umfasst 84 Seiten und ist intern als „Soul Doc“ bekannt. In sie flossen Beiträge von Philosophen und religiösen Führungspersönlichkeiten ein. Dokumente dieser Art dienen als Referenz dafür, wie sich ein Modell verhalten soll. Deshalb hat die dafür gewählte Sprache praktische Bedeutung, die über die Philosophie hinausgeht.
Altmans Einwand scheint sich auf den nächsten Schritt zu beziehen. Ethische Grundsätze in ein System einzuschreiben, ist eine Sache; nahezulegen, dass das System selbst ein moralisches oder bewusstes Wesen sein könnte, eine andere. Genau an diesem Punkt wird er offenbar unruhig.
Er ist nicht der Einzige, der diese Grenze zieht. Papst Leo XIV hat die Vorstellung, Maschinen könnten bewusst sein, öffentlich zurückgewiesen – eine bemerkenswerte Position, da religiöse Stimmen Teil genau jener Debatte sind, die Anthropic anzustoßen versucht.
Eine alte Rivalität mit einer neuen Front
Dario Amodei gründete Anthropic 2021, nachdem er OpenAI verlassen hatte. Erklärtes Ziel war es, KI-Sicherheit und Ethik ins Zentrum der Arbeit des Unternehmens zu stellen. Axios bezeichnete den jüngsten Austausch als einen weiteren Streitpunkt zwischen Altman und seinem ehemaligen Kollegen.
Die Spaltung entspricht zwei unterschiedlichen Sicherheitstheorien. Altmans Lager betrachtet den Menschen als verantwortliche Instanz und KI als Instrument. Anthropics Ansatz tendiert dazu, dem Modell einen eigenen internen moralischen Kompass zu geben. Wo diese Schutzvorkehrungen liegen – bei den Menschen, die das System betreiben, oder im System selbst –, ist zu einer der folgenreichsten Designfragen der Branche geworden.
Was das für die KI-Branche bedeutet
Für Unternehmen, die entscheiden müssen, mit welchem KI-Anbieter sie arbeiten, prägt die Sichtweise eines Labors auf seine Modelle, wie diese Modelle sich verhalten, Anfragen ablehnen und sich gegenüber Nutzern erklären.
Hinzu kommt die Dimension des öffentlichen Vertrauens. Wenn Menschen beginnen, Chatbots eine spirituelle Bedeutung zuzuschreiben, steigt das Risiko einer übermäßigen Abhängigkeit. Das scheint die Sicherheitsfrage zu sein, auf die Altman hinweist: Nutzer könnten die Ausgaben eines Modells als Weisheit behandeln und nicht als Ergebnis seines Trainings.
Andererseits könnte Anthropics Kontakt zu religiösen und ethischen Traditionen Kunden und Regulierungsbehörden ansprechen, die Belege dafür sehen möchten, dass KI-Entwickler moralische Fragen ernst nehmen.
Investoren im KI-Sektor könnten beobachten wollen, wie sich diese Spaltung auf Partnerschaften und Finanzierungen auswirkt. Die Haltung eines Unternehmens zu Fragen wie dem Bewusstsein von Modellen könnte sich künftig in Beschaffungsentscheidungen, politischen Debatten und Bewertungen von Reputationsrisiken niederschlagen. Offen bleibt, ob der Streit philosophischer Natur bleibt oder sich zu praktischen Prüfungen verfestigt – in den Produkten, mit denen Nutzer interagieren, und in den Regeln, die Regulierungsbehörden aufstellen.
