Während das Rennen um immer mächtigere künstliche Intelligenz an Fahrt aufnimmt, beschäftigen sich einige der führenden Unternehmen der Branche mit einer Frage, die weit vor dem Computerzeitalter zurückreicht: Wie bringt man einer Maschine Recht und Unrecht bei? Ihre Antwort lautet zunehmend: Religion.

„Das sind keine Fragen, die ein Labor beantworten kann“, sagte Anthropic-Mitgründer Chris Olah zu Beginn dieses Jahres bei der Präsentation der Enzyklika von Papst Leo XIV. zur künstlichen Intelligenz im Vatikan. „Das sind Fragen, die Traditionen wie Ihre seit Jahrtausenden tragen.“

Doch inmitten dieser viel diskutierten Hinwendung zum Glauben ist das, was diese Technologieunternehmen unter Religion verstehen — und vielleicht noch wichtiger, was sie sich davon versprechen — kaum öffentlich hinterfragt worden.

Während Führungskräfte vor dem zerstörerischen Potenzial der KI warnen und über die Notwendigkeit moralisch guter Modelle debattieren, holen sie zunehmend Rat bei Philosophen und religiösen Führern ein. Die Konsultationen sind Teil eines umfassenderen technischen Projekts, das die Branche Alignment nennt — die Ausrichtung des Modellverhaltens an menschlichen Werten — und das zunehmend auf Disziplinen weit über die Informatik hinaus zurückgreift. Die Philosophie der Führungskräfte läuft ungefähr so: Religion kann helfen, der KI moralische Güte zu vermitteln, in einer Zeit, in der Ängste vor der Technologie — begründet wie unbegründet — durch die Kultur springen. Da diese Unternehmen an keine bestimmte Religion gebunden sind, ist das Ziel oft sehr breit gefasst — eine Gesamtheit moralischer Ideen, die ihre Modelle informieren soll.

„Was ich denke, was ChatGPT tun sollte, ist dieses gewichtete Mittel, oder was auch immer, der moralischen Ansichten der Menschheit widerzuspiegeln“, sagte OpenAI-Chef Sam Altman im vergangenen Jahr.

Doch Experten wie Gläubige warnen, dass dieser Gedanke außer Acht lässt, wie sehr sich verschiedene Traditionen und Weltanschungen widersprechen können. Kurz gesagt: So funktioniere Religion nun einmal nicht. Die stakes sind praktischer wie philosophischer Natur: Welchen moralischen Rahmen ein Modell auch immer aufnimmt, er zeigt sich schließlich in den Antworten an die Nutzer — auch in jenen schulischen Kontexten, etwa dem Zugang zu Chatbots für die Leseförderung, die in den Konsultationen selbst debattiert wurden.

Religion als Regelbuch

Seit Jahrzehnten wenden sich Gelehrte gegen die verbreitete Vorstellung, Religion sei ein Satz von Regeln oder Prinzipien, der sich von den „unordentlichen, praktischen, ad hoc“-Weisen trennen lässt, wie Gläubige tatsächlich leben, argumentiert Webb Keane, Anthropologe an der University of Michigan. Die Idee, dass sich Religion von Kultur und Politik trennen lasse, ist tief verankert, obwohl sie beide in vielerlei Hinsicht durchdringt. Manche befürchten, dass KI-Unternehmen, wenn sie religiöse Führer um Antworten auf ethische Fragen bitten, eine Religionstheorie weiter verfestigen, die die Bedeutung von Lehre, Ritual und Beziehungen übersieht.

Das Kernproblem ist, so Keane: Wer davon ausgeht, dass die Religion insgesamt einen eigenen Satz extrahierbarer moralischer Prinzipien bietet, riskiert, bestimmte Traditionen zu bevorzugen und andere zu verzerren — insbesondere Glaubensrichtungen, die sich nicht in erster Linie als ethisches System verstehen.

„Es gibt eine sehr konventionelle Art, Religion als Regelbuch zu denken“, sagte er. „Sie ist sicherlich sehr mit der Schriftreligion verknüpft, und die Schriftreligionen sind am Ende letztlich die abrahamitischen Religionen.“

In Anthropics Treffen

Das heißt nicht, dass diesen Konsultationen vielfältige Vertretung gefehlt hätte, noch dass die Auseinandersetzung mit der Religion aus Sicht der Teilnehmer gedankenlos gewesen wäre — etwa bei Meghan Sullivan, einer Religionsphilosophin, die an der University of Notre Dame eine Initiative zu Ethik und KI leitet.

Anthropic hat die konsultierten Traditionen nicht aufgezählt, teilte jedoch in einem Blogbeitrag im Mai mit, man habe mit „Gelehrten, Geistlichen, Philosophen und Ethikern aus mehr als 15 religiösen und interkulturellen Gruppen“ gesprochen — ein Kreis, den man künftig erweitern wolle.

Zu Beginn dieses Jahres reiste Sullivan zu einem dieser Treffen bei Anthropic, an dem Christen verschiedener Konfessionen teilnahmen. Im Vergleich zu Gesprächen mit anderen Technologieunternehmen war sie von der Rigorosität von Anthropics Auseinandersetzung mit Religion beeindruckt. Das Unternehmen gilt weithin als das KI-Unternehmen, das Ethik und Sicherheit am ernsthaftsten nimmt.

„Die Kultur im Unternehmen ähnelt der auf einem guten College-Campus, in dem Sinne, dass man eine Gruppe sehr intellektuell neugieriger Menschen hat“, sagte sie. „Diese Treffen sind ziemlich nerdig — ich weiß nicht, ob das die beste Formulierung ist — im positiven Sinne.“

Das Treffen war in zwei Teile gegliedert, so Sullivan. Zuerst erläuterte das Unternehmen seine Modelle den Teilnehmern „in einfachen Worten“. Anschließend reagierten die religiösen Führer mit Feedback und Diskussion.

„Jede Art von moralischer Frage, die diese Technologie aufwirft — von ,Habt Menschen eine Seele?‘ bis ,Sollten Drittklässler Zugang zu einem Chatbot füreförderung haben?‘“

Vertreter von Meta, Google und Amazon haben ebenfalls mit dem Vatikan gesprochen, während Microsoft seine religiösen Kontakte intensiv pflegt.

Eine moderne Erfindung

Religion gilt im Allgemeinen als uralt und universell. Experten wie der verstorbene, einflussreiche Gelehrte Jonathan Z. Smith räumen ein, dass dies in gewisser Weise zutrifft, sagen aber, dass es nicht das ganze Bild sei.

„Der Mensch hatte seine gesamte Geschichte, um Götter und Weisen der Interaktion mit ihnen zu erdenken. Aber der Mensch, genauer der westliche Mensch, hatte nur die letzten paar Jahrhunderte, um Religion zu erdenken“, schrieb Smith 1982.

Viele heutige Religionswissenschaftler teilen Smiths Sicht auf ihr Fach. Sie stellen die Idee infrage, dass Religionen ein Satz unterscheidbarer, vergleichbarer Systeme bilden, und nennen sie ein modernes Konzept, das sich frühestens bis ins 19. Jahrhundert zurückverfolgen lässt.

Buddhismus und Hinduismus etwa wurden von ihren Anhängern vor dem Eintreffen europäischer Gelehrter nicht als klar abgegrenzte Traditionen verstanden, so Tomoko Masuzawa, Religionswissenschaftlerin und Autorin von „The Invention of World Religions“.

„All diese Kategorien waren nicht einheimisch“, sagte Masuzawa.

Westliche Akademiker zementierten diese Kategorien über Jahre hinweg und begannen erst in der zweiten Hälfte des 20. Jahrhunderts, sie ernsthaft zu überprüfen. Diese tief verankerten Vorstellungen über Religion — dass sie sich leicht zwischen Kulturen vergleichen lässt — erklären, warum das Silicon Valley möglicherweise nicht das Bedürfnis verspürt, ein eigenes Verständnis davon zu definieren. Im Bemühen, verschiedene Standpunkte abzubilden, dient Religion oft als naheliegende Möglichkeit, geistige Vielfalt zu demonstrieren.

„Irgendwie wird Religion zu einer Art, die Welt abzubilden“, sagte Masuzawa. „Es ist, als hätte die ganze Welt sich darauf eingelassen.“

Manche Beobachter wünschen sich, dass die Unternehmen ihre Begriffe und Absichten genauer definieren, damit Außenstehende besser verstehen, was sie sich von der Religion versprechen.

„Diese Arbeit dreht sich nicht darum, unsere Modelle an die Weltanschauung einer einzelnen Tradition anzugleichen. Wir möchten, dass Claude aus der ganzen Bandbreite von Standpunkten — religiösen, säkularen, politischen — mit gleicher Tiefe und Sorgfalt schöpft“, erklärte Anthropic im Blogbeitrag. „Was wir in diesen Gesprächen suchen, ist sorgfältiges, sich ansammelndes Nachdenken darüber, wie guter Charakter tatsächlich entsteht.“

Wie und ob diese Gespräche sich im Modellverhalten niederschlagen, bleibt weitgehend offen — die Genauigkeit künftiger Offenlegungen ist eine Sache, die man beobachten sollte, während Anthropic seinen Kreis konsultierter Gruppen erweitert.

Das Risiko der Homogenisierung

Große Sprachmodelle funktionieren, indem sie wiederholt das nächste Wort eines Satzes erraten, nachdem sie die Muster einer riesigen Menge menschlich geschriebener Werke — einschließlich religiöser Texte — „gelernt“ haben. Paolo Carozza, Mitglied des unabhängigen Meta Oversight Board und Rechtsexperte, der sich mit katholischer Soziallehre und Technologie befasst, sorgt sich, dass im Streben nach Akkumulation die prägenden Merkmale einer bestimmten Tradition verloren gehen könnten — gewissermaßen homogenisiert zu etwas, das zur Mitte zieht oder sogar westliche Religionen bevorzugt.

„Jede lebendige, ausgefeilte Tradition ist im Laufe der Zeit in der Lage, mit anderen außerhalb selbst zu interagieren, neues Wissen aufzunehmen und zu wachsen. Aber sie tut dies auf organische Weise“, sagte er. „Was KI, wie ich denke, oft tut und potenziell tut, ist nicht organisch, sondern in einer Weise, die alles zusammenwirft, alles durcheinandermischt und daher nichts davon versteht.“

Diese Geschichte erschien ursprünglich auf Fortune.com.