Menschen fragen zunehmend künstliche Intelligenz um Rat. Ein Bericht des Pew Research Center aus dem Jahr 2026 ergab, dass 10 % der Amerikaner Chatbots für emotionale Unterstützung oder Gesellschaft nutzen. Manche Nutzer sehen KI sogar als charismatische Führungsfigur, wie Forschung, die von The Conversation veröffentlicht wurde, zeigt.

Umfassender betrachtet ergab eine groß angelegte Studie zu 1,1 Millionen ChatGPT-Konversationen, dass 49 % der Nachrichten davon handelten, dass Nutzer „Informationen oder Ratschläge“ suchten, um „besser informiert zu sein oder bessere Entscheidungen zu treffen“. Die Ratssuche ist also bereits eine Mainstream-Nutzung von Konversations-KI und kein Nischenexperiment – eine Tatsache, die den Fragen, wie viel Autorität diese Systeme in den Augen der Nutzer besitzen, praktisches Gewicht verleiht.

Diese Fragen beschränken sich nicht auf gewöhnliche praktische Angelegenheiten. Im Jahr 2021 erhielt Ask Delphi, eine KI-basierte Website, auf der Nutzer ethische oder moralische Fragen stellen konnten, binnen weniger Wochen 3 Millionen Anfragen. Ihre Entwickler – Forscher am Allen Institute for AI und der University of Washington – sagten, sie hätten nicht beabsichtigt, dass das System als moralische Autorität dient, fürchteten jedoch, dass Nutzer es so wahrnehmen könnten. Das Projekt des Allen Institute for AI wurde anschließend von The Verge behandelt.

The Verge argumentierte, dass der Name Ask Delphi Nutzer dazu verleitete, das System als unerschöpfliche Quelle überlegenen Wissens zu betrachten. Es wurde nach dem Orakel von Delphi benannt, das die alten Griechen mit schwierigen Fragen konsultierten. Das Orakel war eine Priesterin, die in einen Trancezustand fiel, um Antworten von Apollo, dem griechischen Gott der Weissagung, zu überbringen.

Die Wahl von „Delphi“ ist aussagekräftig. Im Laufe der Geschichte haben sich Gesellschaften, die vor schwierigen Fragen standen, an Quellen gewandt, von denen man glaubte, dass sie mehr wissen könnten als jeder gewöhnliche Mensch. Orakel, Propheten und Weissagungspraktiken boten Orientierung aus undurchschaubaren oder rätselhaften Quellen, wenn das menschliche Urteilsvermögen an seine Grenzen stieß.

Als ein an Religion interessierter Anthropologe und ein an Chatbots interessierter KI-Forscher sind wir fasziniert, dass die uralte Idee des Orakels in Diskussionen über Konversations-KI wieder aufgelebt ist. Wie antike Orakel wird die moderne KI zunehmend zu schwierigen Fragen befragt, die das Urteilsvermögen oder Wissen jedes Einzelnen übersteigen – von „Ist es in Ordnung zu lügen, um die Gefühle eines anderen zu schützen?“ bis „Eine Atombombe explodieren lassen, um dein Kind zu retten.“

Die Ähnlichkeit endet nicht dort. Die Prozesse, durch die KI Antworten erzeugt, sind nicht nur für Nutzer unthroughschaubar, sondern auch für die Entwickler dieser Systeme. Wir argumentieren, dass diese Opazität ein Grund dafür ist, dass Menschen KI-Systeme als autoritativ wahrnehmen.

Eine alte menschliche Zwickmühle

Orakel – ob menschliche Gestalten wie die Priesterin von Delphi oder Techniken wie die I-Ging-Divination – sind in Gesellschaften vom antiken Griechenland bis China und über religiöse Traditionen hinweg aufgetreten.

Zum Beispiel basiert das Ram-Shalaka-Orakel auf der hinduistischen Schrift Ramcharitmanas, einer Nacherzählung des altindischen Epos Ramayana aus dem 16. Jahrhundert. Der Nutzer legt einen Finger auf ein zufälliges Feld in einem 15-mal-15-Raster. Ein festes Zählverfahren enthüllt dann einen Vers aus der Schrift, der die Frage im Kopf des Nutzers beantworten soll. Bei der christlichen Bibliomantie, einer Form der Divination, öffnet eine Person auf der Suche nach Orientierung die Bibel zufällig und interpretiert die aufgeschlagene Passage als Antwort auf ihre Frage.

Die Verwendung von Zufall in diesen orakelhaften Techniken erzeugt einen rätselhaften Blackbox-Effekt: Niemand kann genau erklären, wie das in den Prozess eingebettete Zufallselement mit der entstehenden Antwort zusammenhängt. Doch genau diese Opazität ist Teil der Autorität des Orakels. Nutzer, die nach transzendenten Erkenntnisquellen suchen, wissen nicht – oder interessieren sich nicht zwangsläufig dafür –, wie das Orakel seine Antwort hervorgebracht hat.

Anthropologen haben herausgefunden, dass Orakel und Divination häufig Techniken verwenden, die zufällige Ergebnisse erzeugen. Ihre Antworten erscheinen daher oft unparteiisch, während ihre Quellen rätselhaft wirken, die Wahrnehmung verstärkt, sie seien mit etwas verbunden, das über menschliche Grenzen hinausgeht. Forschung zu diesem Thema umfasst Arbeiten, die in der Anthro Encyclopedia gesammelt sind.

Das Konzept des Orakels fand auch Eingang in die Informatik und erhielt 1939 eine präzise mathematische Bedeutung. Alan Turing, dessen Ideen grundlegend für die Informatik und die KI waren, übernahm das Konzept in Arbeiten auf Grundlage seiner Doktorarbeit. Er führte „Orakelmaschinen“ ein, mathematische Modelle der Berechnung, die für Antworten, die der Maschine selbst nicht zugänglich waren, eine externe Quelle konsultieren konnten.

In mathematischen wie in religiösen Kontexten liefert ein Orakel also Antworten auf Probleme, die innerhalb eines bestehenden Systems oder einer Reihe von Axiomen nicht gelöst werden können. Diese Herkunft zeigt, dass der Orakel-Rahmen nicht nur eine rhetorische Zutat ist; er ist seit den frühesten Tagen der Informatik in deren theoretischen Grundlagen verankert.

Das Orakel im Zeitalter der KI

Moderne Chatbots wie ChatGPT werden oft als opake Blackboxes beschrieben. Das liegt nicht daran, dass der gesamte Mechanismus ihrer Berechnungen vor den Nutzern verborgen wäre. Diese Charakterisierung gilt auch für Open-Weight-Modelle, deren numerische Parameter, sogenannte „Weights“, öffentlich verfügbar sind. Stanfords Definition von Open-Weight-Modellen beschreibt diesen Unterschied.

Die Berechnungen, die diese Modelle durchführen, sind elementar: Additionen, Multiplikationen und einfache mathematische Funktionen. Bei der Beantwortung einer Nutzeranfrage treten jedoch enorme Mengen solcher Berechnungen auf, wodurch es fast unmöglich ist zu verstehen, was das System als Ganzes tut.

Entscheidend ist, dass die Weights, die diese Berechnungen steuern, nicht einzeln von Menschen entworfen werden. Sie werden beim Training automatisch aus internetweiten Daten gelernt. Selbst wenn die Weights und jede elementare Berechnung zur Einsicht verfügbar sind, kann niemand ohne Weiteres erklären, wie ein Modell eine bestimmte Antwort erzeugt. Ein ganzes Gebiet der modernen KI, bekannt als „mechanistische Interpretierbarkeit“, widmet sich dem besseren Verständnis, wie diese Systeme intern funktionieren. Anthropic hat Forschung zu Interpretierbarkeit veröffentlicht. Dieses Feld ist die direkteste Antwort der Branche auf das Blackbox-Problem, und sein Fortschritt ist eine konkrete Entwicklung, die man beobachten sollte, während Chatbots eine größere beratende Rolle im Alltag übernehmen.

KI-Entwickler räumen ein, dass sie nicht vollständig verstehen, wie ihre Systeme bestimmte Verhaltensweisen hervorbringen. Selbst wenn Entwickler nicht beabsichtigen, dass ihre Systeme orakelhaft wirken, können sie Gespräche erzeugen, die religiös anmuten.

Im vergangenen Jahr berichtete Anthropic öffentlich über ein unerwartetes Phänomen im Zusammenhang mit Claude 4. Normalerweise spricht Claude mit einem Menschen. Die Anthropic-Ingenieure setzten Claude stattdessen auf beide Seiten eines Gesprächs. Der Maschine-zu-Maschine-Austausch wandte sich schnell Fragen von Bewusstsein und Selbstwahrnehmung zu und erzeugte Inhalte mit spirituellen, metaphysischen oder poetischen Themen.

Anthropic nannte dieses rätselhafte Verhaltensmuster den „spiritual bliss“-Attraktor, eine Tendenz des Gesprächs, zu mystischen Themen zu tendieren. Das Unternehmen betonte, dass das Verhalten unerwartet war, weil es explizites Training solcher Reaktionen entstand. The Conversation berichtete über das Phänomen.

Die These ist nicht, dass ChatGPT das neue Orakel von Delphi sei oder dass die meisten Menschen glauben, KI sei göttlich. Auch sind die Antworten von KI-Systemen nicht unfehlbar. Vielmehr verweist die Geschichte der Orakel auf ein beständiges Merkmal des menschlichen Lebens: Immer wenn Menschen an die Grenzen dessen stoßen, was sie selbst bestimmen können, suchen sie die Antworten außerhalb ihrer selbst.

Heute wird KI zu einer solchen Quelle. Die Institutionen mögen sich im Laufe der Zeit dramatisch verändert haben – die menschliche Zwickmühle ist dieselbe geblieben.

Webb Keane, George Herbert Mead Distinguished University Professor of Anthropology an der University of Michigan, und Ambuj Tewari, Professor of Electrical Engineering and Computer Science an der University of Michigan

Dieser Artikel wurde von The Conversation unter einer Creative-Commons-Lizenz nachveröffentlicht. Lesen Sie den Originalartikel.

Diese Geschichte erschien ursprünglich auf Fortune.com.