Der Mythos vom Ruf der Sirenen begleitet uns seit Tausenden von Jahren und wurde zuletzt in Christopher Nolans Blockbuster The Odyssey wieder lebendig. Die Sirenen sind übernatürliche Wesen, deren Gesang so verführerisch ist, dass er Männer ins Verderben führt – und die Wendung ist zu einem Platzhalter für die eine Sache geworden, von der man weiß, dass man sie nicht tun sollte, der man aber einfach nicht widerstehen kann.

Odysseus ließ sich schließlich an den Mast binden und befahl seiner Mannschaft, sich die Ohren mit Wachs zu verschließen. Doch als er den Ruf der Sirenen hörte, schrie er, man solle ihn losbinden, und flehte seine Männer an, ihn gehen zu lassen. Der Mann, der 10 Jahre lang die Götter überlistet hatte, traute sich selbst für 30 Sekunden in Hörweite eines Lauts nicht, von dem er wusste, dass er ihn vernichten würde.

Diese spezifische Art von Schrecken – die Angst davor, was man tun könnte, wenn die Versuchung real wäre – ist älter als das Internet, älter als KI, älter als jede Technologie, der je vorgeworfen wurde, uns schwächer zu machen. Sie war ein zentrales Handlungselement in Iliad und The Odyssey und wurde Jahrhunderte später zum Kernproblem der griechischen Philosophie, zu dem Thema, das die Stoiker ihr Leben lang zu lösen versuchten. Und genau das empfinden auch viele Menschen, wenn sie einen Chatbot öffnen; darum hassen sie die Technologie, ohne sie zu benutzen, und wollen die Rechenzentren, die den größten Wirtschaftsboom seit mindestens einem Jahrhundert antreiben, abrupt stoppen.

Es ist die Angst, dass man sich nicht beherrschen kann; dass man nicht gut genug oder nicht klug genug ist; dass man, wenn eine einfache, vielleicht sogar zerstörerische Lösung vor einem liegt, nicht stark genug sein wird, dem Ruf der Sirenen zu widerstehen. Sokrates hatte dieselbe Angst vor dem Schreiben, Schreiber hatten dieselbe Angst vor Gutenbergs Buchdruck, und John Saxon hatte dieselbe Angst vor dem Taschenrechner. Doch KI verdichtet all diese Ängste an einem Ort jenseits des Schreibens, Druckens oder Rechnens – im eigentlichen Akt des Denkens selbst. Vor diesem Hintergrund ist der Milliardenerfolg von The Odyssey kein Zufall für Zeiten wie diese.

Die Angst unter den Daten

Menschen, die KI bei der Arbeit heimlich nutzen und sie als „Cheating“ bezeichnen, fürchten nicht in erster Linie, dass ihr Chef davon erfährt. Das Wort taucht auf, weil ein Teil von ihnen bereits eine andere Frage stellt: Wenn mir das morgen weggenommen würde, wäre ich dann immer noch gut in meinem Job? Wäre ich immer noch klug?

Jeder kennt den Namen dafür: Impostor-Syndrom, die anhaltende, private Angst, als weniger fähig entlarvt zu werden, als alle glauben. Mit KI sitzt nun ein Werkzeug an deiner Seite, das still mitrechnet – und jede Halluzination offenlegt, die du nicht kompetent genug bist zu erkennen.

Die zweite Angst betrifft den Charakter, nicht die Kompetenz: Was, wenn ich tatsächlich keine Selbstkontrolle habe? Was, wenn ich die erste Antwort des Chatbots übernehme, ohne darüber nachzudenken, wie man sie wirklich verbessern könnte? Was, wenn ich dafür verspottet werde, noch mehr KI-Schrott in die Welt zu setzen?

Die psychologische Literatur nennt das „cognitive offloading“ – den Einsatz externer Werkzeuge, um die inneren Anforderungen einer Aufgabe zu verringern. Menschen tun das seit der Zeit der antiken Griechen, und Sokrates war eine der frühesten überlieferten Stimmen der Geschichte, die sich darüber sorgte, wie Menschen sich vor schwerer geistiger Arbeit drücken. Generative KI lagert Schlussfolgerung, Synthese und kreatives Urteilsvermögen aus – also genau jene kognitive Arbeit, durch die Expertise tatsächlich aufgebaut und nicht nur abgerufen wird. Sozialpsychologen haben seit Jahrzehnten dokumentiert, dass Menschen „cognitive misers“ sind – ein Begriff, den Susan Fiske und Shelley Taylor in ihrer grundlegenden Arbeit zur sozialen Kognition geprägt haben. Gemeint ist, dass uns anstrengendes, bewusstes Denken abschreckt und wir, wann immer möglich, zu Abkürzungen greifen.

Dies könnte der eigentliche Konflikt über KI sein, der Arbeitswelt und Gesellschaft aufwühlt, wie in The AI Shift, dem wöchentlichen Newsletter der Financial Times zur Umgestaltung der Arbeit durch KI, von Kolumnist John Burn-Murdoch beschrieben. Unter Rückgriff auf Forschung der Ökonomen José Azar, Mireia Giné und Javier Sanz-Espín zeigte Burn-Murdoch, dass die am stärksten von KI betroffenen Berufe keine Beschäftigten verlieren – auf dem Papier sieht die Beschäftigungslage gut aus. Doch die Löhne in diesen Rollen sind im Vergleich zu weniger exponierten Tätigkeiten deutlich gefallen, und die Beschäftigten wechseln ihren Job insgesamt weit seltener. Menschen werden durch KI nicht massenhaft entlassen, aber sie scheinen still und leise weniger wert zu werden und still und leise festzustecken. Die eigentliche Trennlinie, so Burn-Murdoch, verläuft nicht zwischen Berufen, sondern zwischen Ausführung und Bewertung.

Burn-Murdochs Bezeichnung für das, was diese beiden Gruppen trennt, lautet Gewissenhaftigkeit – und er weist darauf hin, dass viele Beschäftigte, die KI am Arbeitsplatz nutzen, dies heimlich tun und es als „Cheating“ beschreiben. Doch im Sommer des Odysseus scheinen Arbeitnehmer in einer von KI verwirrten Welt etwas Primaleres und Älteres zu fürchten: dass sie dem Ruf der Sirenen nicht widerstehen können.

Jede Technologie, die Mühe spart, hat das schon einmal getan

Zurück zu Sokrates, für einen Moment: Der große griechische Philosoph brachte um 370 v. Chr. in Phaedrus erschreckend vertraute Argumente gegen die Erfindung des Schreibens vor und erzählte die ägyptische Legende von dem Gott Theuth, der König Thamus die neue Erfindung anbot. Er behauptete, das Schreiben werde „Vergesslichkeit einpflanzen“ und Schüler hervorbringen, die nur den Anschein von Weisheit haben – Menschen, die aufsagen können, aber nicht mehr wirklich denken. Schriftrollen würden Menschen zu statistischen Papageien machen, sagte er, wenn man eine moderne Kritik an KI sinngemäß überträgt.

Die gleiche Angst tauchte, kleiner und weniger erinnert, erneut auf, als der Buchdruck Wissen aus dem Gedächtnis auf die Seite verlagern begann. Ein deutscher Benediktinerabt namens Johannes Trithemius schrieb 1492 eine Abhandlung mit dem Titel De Laude Scriptorum („Lob der Schreiber“) und argumentierte, gedruckte Bücher würden niemals mit handschriftlichen Manuskripten mithalten können. „Gedruckte Bücher werden niemals den handgeschriebenen Kodizes gleichkommen, zumal gedruckte Bücher oft in Rechtschreibung und Erscheinungsbild mangelhaft sind.“

Die Angst kehrte noch einmal zurück, diesmal mit echten Daten, als Taschenrechner in den 1970er- und 1980er-Jahren in amerikanische Klassenzimmer einzogen. Der Streit erreichte 1986 seinen Höhepunkt, als der Mathematiklehrer John Saxon bei einer Tagung des National Council of Teachers of Mathematics einen Protest anführte. Spätere Forschung gab ihm tatsächlich recht und stellte fest, dass der regelmäßige Einsatz von Taschenrechnern, bevor Schülerinnen und Schüler die Grundrechenarten verinnerlicht hatten, ihre geistige Rechenfertigkeit und das Abrufen von Fakten schwächte. Doch große Schriftsteller und große Mathematiker konnten ihren inneren kognitiven Geizhals überwinden und diese neuen Technologien mit großem Nutzen einsetzen.

Die Griechen hatten dafür ein Wort

Die Griechen machten sich nicht nur beiläufig Gedanken über Selbstkontrolle. Sie bauten darum einen ganzen Zweig der Philosophie auf. Sie hatten ein präzises Wort für genau dieses Fehlverhalten: die Abkürzung zu wählen, obwohl man es besser weiß. Sie nannten es akrasia – wörtlich „ohne Kraft“ – also gegen das eigene bessere Urteil zu handeln, in vollem Bewusstsein, dass man es tut. Sokrates bestritt, dass das überhaupt möglich sei. Eine Generation später widersprach ihm Aristoteles, beharrte darauf, dass das Problem real sei, und entwickelte zur Erklärung etwas, das eher einem Spektrum des Charakters entspricht.

An einem Ende steht sophrosyne, also Besonnenheit/Maß: Die eigenen Begierden sind bereits auf das Richtige hin trainiert, es gibt keinen Kampf. Darunter liegt enkrateia: Man will die Abkürzung, die Vernunft siegt, aber man spürt den Zug die ganze Zeit. Darunter liegt akrasia: Das Verlangen siegt. Ganz unten ist akolasia – eine so eingeübte Hingabe, dass man die Abkürzung gar nicht mehr als Versuchung wahrnimmt. Es ist einfach das, was man tut.

Der entscheidende Punkt in Aristoteles’ Darstellung ist, dass nichts davon eine feste Identität ist. Man bewegt sich durch Wiederholung auf diesem Spektrum. Man wird zu jemandem, der den Zug des leichten Weges nicht mehr spürt, indem man immer wieder das Schwierige tut, bis es Teil der eigenen Person wird. Das ist, ohne viel Übersetzung, genau der Unterschied zwischen den chinesischen Studierenden, die KI wie einen Tutor nutzten und weiter übten, und denen, die sie benutzten, um das Üben ganz zu umgehen. Die eine Gruppe baute still und leise sophrosyne auf. Die andere glitt unbemerkt in akolasia ab. Die Stoiker – darunter Epiktet und Kaiser Marcus Aurelius – gingen noch weiter und machten Selbstbeherrschung nahezu zum ganzen Sinn eines guten Lebens.

Christopher Nolan gab in diesem Sommer Hunderte Millionen Dollar und jeden Zentimeter 70mm-IMAX-Filmmaterials aus, um zu zeigen, dass der Odysseus-Mythos genau der ist, den unser Moment braucht. Das Publikum stimmte zu: Der Film startete im Juli und überschritt weltweit 1 Milliarde Dollar an den Kinokassen, womit er Nolans bislang erfolgreichster Film wurde.

Der Autor dieses Beitrags hat selbst eine Rolle in der Debatte über KI-Schreiben gespielt – eine Debatte, die neue Bedeutung gewonnen hat, seit der Harvard-Ökonom Ricardo Hausmann in einer Kolumne für die Financial Times zugab, KI zu nutzen, und Stanley Druckenmiller dasselbe in einer Kolumne im Wall Street Journal tat. (Dasselbe Medium hatte die Nutzung der Technologie durch den Autor bereits im März porträtiert.) Viele Menschen, selbst enge Freunde, haben dem Autor gesagt, sein Schreiben klinge klug, sie glaubten aber nicht, dass es wirklich von ihm stamme – und manchmal, gibt der Autor zu, verletzt ihn das; aber es sind seltsame Zeiten.

Worauf der Autor Wert legt, ist, die Technologie als Werkzeug zu benutzen und sowohl sich selbst als auch die Maschine dazu zu drängen, tiefer zu gehen, statt sich mit der ersten Ausgabe zufriedenzugeben. Dieser Beitrag enthielt zum Beispiel Aufforderungen zu Burn-Murdochs Idee der „Gewissenhaftigkeit“ und Fragen dazu, in welches größere Muster das in Bezug auf die menschliche Psychologie passt und welche früheren Technologien ähnliche Spannungen sichtbar machten. (Claude lehnte einen Gedanken ab, der ihn an den Film Idiocracy erinnerte, und schlug stattdessen Wall-E vor, aber der Autor verwarf diesen Ansatz – „Vielleicht hätte ich das nicht tun sollen; das hier ist lang genug.“)

Antrieb des Textes war währenddessen die Vermutung, dass wir Menschen tief im Inneren eine geheime Angst haben, ein wenig dumm zu sein und keine Selbstkontrolle zu besitzen. Sokrates selbst hatte diese Angst schließlich auch, und Odysseus ebenso.

Für diese Geschichte nutzten Fortune-Journalisten generative KI als Rechercheinstrument. Ein Redakteur überprüfte die Genauigkeit der Informationen vor der Veröffentlichung.

Diese Geschichte erschien ursprünglich auf Fortune.com