Arvind Narayanan ist der Ansicht, dass künstliche Intelligenz als vertrauenswürdiger empfunden wird – und dass sie damit die Hinweise beseitigt, die Leser derzeit darauf aufmerksam machen, wenn sie im Wildnis auf KI-Müll stoßen. Der Princeton-Informatiker sagt sogar voraus, dass zunehmend präzisere Chatbots für viele Menschen zu einem „Wahrheits-Orakel“ werden könnten. Eine in diesem Jahr durchgeführte Umfrage des Pew Research Center ergab, dass 10 % der Amerikaner Chatbots bereits so nutzen.

Narayanan äußerte diese Bemerkungen in einer Keynote mit dem Titel „AI and Journalism: Skating Where the Puck is Going“ beim Computation + Journalism Symposium, einer akademischen Konferenz über Informatik und Journalismus, die im McCormick Foundation Center der Northwestern University stattfand und an der Fortune teilnahm. Die Agenda des Symposiums konzentrierte sich auf die Herausforderungen für die Medien und die Verbreitung von KI-Müll. Narayanan forderte das Publikum auf, sich auf KI vorzubereiten – „nicht wie sie heute ist, sondern wie sie in fünf oder zehn Jahren sein wird“. Sein Informatik-Hintergrund helfe ihm zu unterscheiden, welche heutigen Grenzen behebbare Ingenieursprobleme und welche inhärent sind. Er selbst habe nie in einer Redaktion gearbeitet, räumte er ein. „Möglich, dass ich nicht weiß, wovon ich rede“, warnte er, bevor er sein Argument darlegte.

Dieses Argument hatte zwei Teile. Erstens: Wenn Chatbots zum Standardort werden, an dem Sachfragen geklärt werden – Narayanan sagte, „praktisch alle“ Fragen, etwa wer für ein politisches Amt kandidiert, würden dorthin gehen –, verliert die Redaktion ein weiteres Element ihres Bündels, und zwar wohl das grundlegendste. Was bleibt, ist die Arbeit, die eine Maschine nicht klären kann: umstrittene Fragen, Narrative, Storytelling und die explizite Offenlegung dessen, was er „Positionalität“ nannte – eine schwierige Anforderung an eine Branche, die Objivität anstrebt.

Narayanan leitet das Center for Information Technology Policy in Princeton, ist in letzter Zeit aber als Vordenker zu KI, der Zukunft der Arbeit und der Medienbranche hervorgetreten. Er verfasste gemeinsam mit Sayash Kapoor AI Snake Oil und sein Newsletter AI as Normal Technology hat über 87.000 Abonnenten. Er sprach im August mit Fortune über die KI-Gegenreaktion, die er als komplexes Phänomen betrachtet, und erläuterte, warum sich die Produktivitätsgewinne und die Kapitalrendite der KI so schwer messen lassen – oder in manchen Fällen nicht existieren. Er nennt es ein „mageres Hamburger, fettes Brötchen“-Problem: Mit KI schrumpft das Fleisch der Umsetzung fast auf null, während die „Brötchen“ aus Entscheidung und Abwägung anschwellen – begleitet von viel Angst und Unsicherheit.

Das Orakel und der Müll

Narayanan argumentierte, dass das verbreitete Bild von Chatbots als simple Nächste-Wort-Prognosen veraltet sei. Heutige Chatbots seien „neurosymbolische Systeme“, sagte er: ein Sprachmodell kombiniert mit Werkzeugen, die das Web durchsuchen, Dokumente abrufen und Code schreiben, um Daten zu analysieren. Fehler, die vor einem Jahr noch häufig vorkamen – etwa das falsche Zählen der Buchstaben in „strawberry“ oder Googles AI Overviews, die Klebstoff auf Pizza empfahlen –, traten nun kaum noch auf, und die verbleibenden Probleme würden „nach und nach gelöst“.

Er fragte dann, was passiert, wenn die öffentlichen Erwartungen mit der Technologie Schritt halten. Seine Grundschulkinder würden Halluzinationen womöglich nie so erleben wie Erwachsene, ähnlich wie sich Wikipedia einst von einer nicht vertrauenswürdigen Referenz zu einer „deutlich autoritäreren“ Quelle entwickelte. „Ich sage nicht, dass es unvermeidlich ist. Ich sage nicht, dass es gut ist“, stellte er klar. Auf X, fügte er hinzu, klärten Nutzer Streitigkeiten bereits, indem sie Grok fragten – den Chatbot von xAI, der in die Plattform integriert ist –, vor allem Konservative mit geringem Vertrauen in traditionelle Medien. Den breiteren Wandel schätzt er auf etwa ein Jahrzehnt.

Ein Zuhörer warf ein, dass Chatbots an dem leiden können, was der Medienkritiker und New-York-University-Professor Jay Rosen berühmt die „Sicht von nirgendwo“ nannte – die falsche Neutralität von Journalisten, die zögerlich ihr eigenes Urteil einsetzen und das Publikum nicht ordentlich informieren. Daniel Trielli von der University of Maryland sprach diese Gefahr an, und Narayanan stimmte zu und sagte, dies sei eine Herausforderung, die der Journalismus künftig weiter definieren müsse.

Eine von Narayanans provokantesten Thesen lautet, dass die Agenda-Setzung der Medien nach hinten losgegangen sei. Die Rolle der Washington Post im Watergate-Skandal sei „ein ungetrtes Gut“ gewesen, sagte er, zitierte jedoch Forschung von „vielen Kommunikationswissenschaftlern und Ökonomen“, die zeige, dass ähnliche Bemühungen in der Ära Trump, bei bereits gesplittertem Publikum, die Polarisierung befeuert und den Vertrauensverfall beschleunigt hätten.

Die Entflechtung

Narayanan sagte, sein Vortrag handle „genauso von den anhaltenden Auswirkungen sozialer Medien auf Redaktionen wie von KI.“ Die Redaktion wird heute als eine einzige Institution verstanden, die Berichterstattung, Analyse, Faktenprüfung und Vertrieb bündelt, doch er argumentierte, dass diese Struktur eine „historisch kontingente“ Entwicklung sei und kein Naturgesetz für die Zukunft. Die werbefinanzierten Penny-Papers der 1830er Jahre erweiterten, was als Nachricht galt, da frühere Zeitungen von Abonnements und politischer Gönnerschaft lebten. Objektivität entstand als Reaktion auf die Propaganda des Ersten Weltkriegs, und bezahlte Reporter und Interviews mussten ebenfalls „erst erfunden werden“. Jemanden einen „gekauften Reporter“ zu nennen, sei einst eine Beleidigung gewesen – „wie ein bezahlter Auftragskiller.“

Sein Rahmenwerk stützt sich auf frühere Debatten. Er zitierte Clay Shirky: „Die Gesellschaft braucht keine Zeitungen. Was wir brauchen, ist Journalismus“, und verwies darauf, dass der Princeton-Soziologe Paul Starr zur selben Zeit gewarnt hatte, der Verlust der Zeitungsökonomie werde öffentliche Güter wie Rechenschaftspflicht unfinanziert lassen. Starr sei sich „in vielerlei Hinsicht“ als richtig erwiesen, sagte Narayanan, „aber es war vielleicht nicht so apokalyptisch“ wie befürchtet, weil die Philanthropie eingesprungen sei.

Seine These lautet, dass Spezialisten nun Stück für Stück jede Funktion günstiger erledigen als eine Redaktion – und die KI beschleunigt diesen Prozess. „Für jede dieser Komponenten gibt es eine Art Wettbewerber, der diese Komponente eigenständiger produziert und allein auf Grundlage der Produktionsökonomie strukturell besser gerüstet ist“, sagte er. Die Fachberichterstattung sei etwa zu Anbietern wie Politico, Punchbowl News und Stat gewandert. Der Lokaljournalismus ist weitgehend zu einem „philanthropisch finanzierten Modell“ übergegangen, und Investigativrecherchen laufen zunehmend mit Nonprofit-Geld – „eine Rückkehr zu historischen Mustern“. Die Analyse, betonte er, sei zu unabhängigen Journalisten, Social-Media-Creators und „Leuten wie mir“ gewandert. Auf seinen „Hauptpunkt“ zurückkommend, sagte er, dass die Bündelung von allem in einer einzigen Redaktion „nicht mehr die wirtschaftlich tragfähigste Art ist, Nachrichten zu produzieren.“

Analyse ist, wie Narayanan sie definiert, eine „Ebene zwischen Fakt und Meinung“. Unter Berufung auf den Ökonomie-Blogger Noah Smith argumentierte er, Journalisten hätten diese Trennlinie zu lange zu oft binär behandelt, sodass die Analyseebene „in Redaktionen nie wirklich ein Zuhause hatte“. Als Beispiel nannte er die Frage, ob die KI-Industrie eine Blase sei – ein Thema, das eine Analyse bearbeiten könnte. Die Autorität eines Analysten speise sich heute, so sein Argument, aus einem Werkkorpus statt aus einem Impressum. (Fortune und Fortune Intelligence veröffentlichen übrigens häufig Beiträge als Analysen.)

Das Internet habe den Vertrieb „demokratisiert“, sagte er, und die KI „demokratisiert“ nun die Produktion: „Es ist heute möglich, erstklassige journalistische Inhalte unterschiedlichster Art mit einem Ein- oder Zweipersonen-Team zu produzieren.“ Was im Gange sei, sei „weniger ein Niedergang der Nachrichten“ als „die Migration hin zu einer Reihe anderer Institutionen.“

Wer zahlt

Die „eigentliche Krise“, sagte Narayanan, sei das Machtgefälle zwischen KI-Konzernen und Verlagen. Verlage brauchen die Chatbot-Verbreitung mehr, als die KI-Firmen irgendein einzelnes Medium brauchen, weshalb Lizenzverträge den Journalismus unterbewerten. Er verwies auf den „Pivot to Video“, als eine Facebook-Algorithmusänderung Nachrichtenorganisationen zwang, ihre Geschäftsmodelle umzubauen – als „ein furchtbares Beispiel für die extreme Machtasymmetrie“.

Sein Lösungsansatz ist eine demokratische Mitbestimmung bei der Abstimmung der KI-Algorithmen durch die Konzerne – ähnlich wie Metas Oversight Board, das unabhängige Gremium, das das Unternehmen zur Überprüfung seiner Inhaltsmoderationsentscheidungen eingerichtet hat –, jedoch mit einem „Sitz am Tisch“ für Journalisten. Narayanan fügte hinzu, Journalisten müssten eine breite politische Bewegung formen, um gemeinsam für die Zukunft des Berufs einzutreten, möglicherweise einschließlich einer Steuer auf KI- und Social-Media-Konzerne. Eine solche Bewegung müsse „breit aufgestellt“ und nicht „als parteiisch wahrgenommen“ sein und auch Creators neben traditionellen Medien einschließen, sagte er.

Aber die Alternative – im Raum weitgehend unerwähnt – ist, dass der Journalismus schlicht ein Phänomen der vergangenen zwei Jahrhunderte ist und sich Technologie und Ökonomie von ihm als organisierter und aggregierter Branche wegentwickeln.

Diese Geschichte erschien ursprünglich auf Fortune.com.