Arvind Narayanan gelooft dat kunstmatige intelligentie betrouwbaarder zal aanvoelen — en dat de technologie daarmee de kenmerken zal wegnemen die lezers er momenteel op wijzen dat ze in het wild AI-slop tegenkomen. De Princeton-computerwetenschapper voorspelt zelfs dat steeds nauwkeurigere chatbots voor veel mensen een "waarheidsorakel" kunnen worden. Uit een Pew Research Center-onderzoek van dit jaar bleek dat 10% van de Amerikanen chatbots al op die manier gebruiken.

Narayanan sprak deze woorden in een keynote getiteld "AI and Journalism: Skating Where the Puck is Going" op het Computation + Journalism Symposium, een academische conferentie over informatica en journalistiek die werd gehouden in Northwestern's McCormick Foundation Center en werd bijgewoond door Fortune. De agenda van het symposium stond in het teken van de uitdagingen voor de media en de opmars van AI-slop. Narayanan riep het publiek op zich voor te bereiden op AI "niet zoals die vandaag is, maar zoals die er over vijf of tien jaar zal uitzien." Zijn achtergrond als computerwetenschapper helpt hem, zei hij, om te onderscheiden welke huidige beperkingen oplosbare technische problemen zijn en welke inherent. Hij heeft zelf nooit in een nieuwsredactie gewerkt, gaf hij toe. "Het is mogelijk dat ik weet waarover ik praat niet," waarschuwde hij, voordat hij zijn betoog ontvouwde.

Dat betoog had twee delen. Ten eerste: als chatbots de standaardplek worden om feitelijke vragen te beantwoorden — Narayanan zei dat "vrijwel alle" vragen, zoals wie er zich kandidaat stelt voor een politiek ambt, die kant opgaan — dan verliest de nieuwsredactie opnieuw een stuk uit haar pakket, en wellicht het meest fundamentele. Wat overblijft is het werk dat een machine niet kan beslechten: omstreden vragen, verhalende journalistiek, storytelling en het expliciet maken van wat hij "positionality"emde, een moeilijke eis voor een sector die naar objectiviteit streeft.

Narayanan leidt Princeton's Center for Information Technology Policy, maar is de laatste tijd naar voren gekomen als denkleider over AI, de toekomst van werk en de mediasector. Hij schreef AI Snake Oil samen met Sayash Kapoor, en zijn nieuwsbrief, AI as Normal Technology, heeft ruim 87.000 abonnees. Hij sprak in augustus met Fortune over de AI-terugslag, die hij als een complex fenomeen beschouwt, en gaf inzicht in waarom de productiviteitswinst en het rendement van AI zo moeilijk meetbaar zijn gebleken — of in sommige gevallen zelfs onbestaande. Hij noemt het een "skinny hamburger, fat bun"-probleem: door AI krimpt het vlees van de uitvoering tot bijna niets, terwijl de "broodjes" van besluitvorming en deliberatie opzwellen, vergezeld van veel onrust en onzekerheid.

Het orakel en de slop

Narayanan betoogde dat het gangbare beeld van chatbots als simpele volgende-woord-voorspellers verouderd is. De chatbots van vandaag zijn "neurosymbolische systemen", zei hij: een taalmodel gecombineerd met tools die het web doorzoeken, documenten ophalen en code schrijven om data te analyseren. Fouten die een jaar geleden veelvoorkomend waren — het misgetellen van de letters in "strawberry", of Google's AI Overviews die lijm op pizza suggereerden — komen nu zelden voor, en hij noemde de resterende problemen "geleidelijk aan het oplossen."

Vervolgens vroeg hij zich af wat er gebeurt wanneer de verwachtingen van het publiek de technologie inhalen. Zijn kinderen op de basisschoolleeftijd zullen de hallucinatie misschien nooit zo ervaren als volwassenen dat doen, net zoals Wikipedia ooit evolueerde van een onbetrouwbare referentie naar een "veel autoritievere" bron. "Ik zeg niet dat het onvermijdelijk is. Ik zeg niet dat het een goed ding is," merkte hij op. Op X, voegde hij eraan toe, beslechten gebruikers al discussies door Grok te raadplegen, de chatbot gebouwd door xAI en geïntegreerd in het platform — vooral conservatieven met weinig vertrouwen in traditionele media. Hij schatte de bredere verschuiving op ongeveer tien jaar.

Een aanwezige opperde dat chatbots kunnen lijden aan wat Jay Rosen, journalistiekhoogleraar aan de New York University en perscriticus, beroemd de "view from nowhere" noemde — de valse neutraliteit van journalisten die aarzelen om hun eigen oordeel te gebruiken en het publiek behoorlijk te informeren. Daniel Trielli van de University of Maryland haalde dit gevaar aan, en Narayanan was het daarmee eens, zegg dat het een uitdaging is waarmee de journalistiek zich ook in de toekomst moet blijven definiëren.

Een van Narayanans meest tegenheidse stellingen was dat de agenda-zettende rol van de media averechts heeft gewerkt. Hij noemde de rol van The Washington Post bij Watergate "een onverdunde weldaad", maar verwees naar onderzoek van "veel communicatiewetenschappers en economen" waaruit blijkt dat vergelijkbare inspanningen in het Trump-tijdperk, in een al versnipperd publiek, polarisatie hebben gevoed en het vertrouwensverlies hebben versneld.

De ontmanteling

Narayanan zei dat zijn presentatie "evenzeer ging over de voortdurende effecten van sociale media op nieuwsredacties als over AI." De nieuwsredactie wordt nu gezien als één instelling die nieuwsverzameling, analyse, factchecking en distribatie bundelt, maar hij betoogde dat die opzet een "historisch toevallige" ontwikkeling is en geen vanzelfsprekendheid voor de toekomst. De advertentiegefinancierde penny-kranten van de jaren 1830 verbreedden wat als nieuws gold, omdat eerdere kranten leefden van abonnementen en politieke gunsten. Objectiviteit ontstond als reactie op propaganda uit de Eerste Wereldoorlog, en betaalde verslaggevers en interviews moesten eveneens "worden uitgevonden." Iemand een "ingehuurde verslaggever" noemen was ooit een belediging, merkte hij op — "zoals een ingehuurde huurmoordenaar."

Zijn kader put uit eerdere debatten. Hij citeerde de regel van schrijver Clay Shirky dat "de samenleving geen kranten nodig heeft. Wat we nodig hebben is journalistiek," en wees erop dat Princeton-socioloog Paul Starr in dezelfde periode had gewaarschuwd dat het verlies van de economie van kranten publieke goederen als verantwoording zonder financiering zou laten. Starr is "op veel punten" gelijk gekregen, zei Narayanan, "maar het is misschien niet zo apocalyptisch" als gevreesd, omdat filantropie de leemte heeft opgevuld.

Zijn stelling is dat specialisten inmiddels elke functie stuk voor stuk goedkoper uitvoeren dan een nieuwsredactie kan, met AI als versneller. "Voor elk van deze componenten is er een soort concurrent die die component op een zelfstandigere manier produceert en structureel beter is toegerust op basis van de productie-economie," zei hij. Vakberichten migrateerden bijvoorbeeld naar outlets als Politico,bowl News en Stat. Lokale journalistiek is grotendeels verschoven naar een "filantropiegefinancierd model", en onderzoeksjournalistiek draait steeds vaker op geld van non-profitorganisaties — "een terugkeer naar historische patronen." Analyse, benadrukte hij, is verhuisd naar onafhankelijke journalisten, creators op sociale media en "mensen zoals ik." Terugkomend op wat hij de "hoofdboodschap" van zijn presentatie noemde, zei hij dat alles bundelen in één nieuwsredactie "niet langer de economisch meest levensvatbare manier is om nieuws te produceren."

Analyse is, zoals Narayanan die definieert, een "laag tussen feit en mening." Verwijzend naar economieblogger Noah Smith betoogde hij dat journalisten deze scheidslijn veel te lang en te vaak als binair hebben behandeld, waardoor de analyselaag "nooit echt een thuis heeft gehad in nieuwsredacties." Hij noemde de vraag of de AI-sector een bubbel is als voorbeeld van een onderwerp waar een analyse zich op kan richten. Het gezag van een analoog komt, betoogde hij, nu voort uit een oeuvre in plaats van uit een merkbrievenhoofd. (Voor wat het waard is: Fortune en Fortune Intelligence publiceren regelmatig artikelen als analyse.)

Het internet "democratiseerde distributie", zei hij, en AI "democratiseert nu productie": "Het is nu mogelijk om eersteklas journalistieke inhoud van allerlei aard te produceren met een team van een of twee personen." Er is "niet zozeer sprake van een verval van nieuws", zei hij, als wel van "de migratie richting een heleboel andere instellingen."

Wie betaalt

De "echte crisis", zei Narayanan, is de machtskloof tussen AI-bedrijven en uitgevers. Uitgevers hebben distributie via chatbots meer nodig dan AI-bedrijven enige enkele outlet nodig hebben, waardoor licentiedeals de journalistiek onderprijsen. Hij wees naar de "pivot to video" — toen een algoritmewijziging van Facebook nieuwsorganisaties dwong hun bedrijfsmodellen te herzien — als "een verschrikkelijke illustratie van de extreme machtsasymmetrie."

Zijn voorgestelde oplossing is democratische inbreng in hoe AI-bedrijven hun algoritmen afstellen — iets als Meta's Oversight Board, het onafhankelijke orgaan dat het bedrijf heeft opgericht om zijn beslissingen over contentmoderatie te beoordelen, maar dan met journalisten die een "zetel aan tafel" krijgen. Narayanan voegde eraan toe dat journalisten een brede politieke beweging moeten vormen, verenigd om te pleiten voor de toekomst van het vak, mogelijk inclusief een belasting op AI- en social media-bedrijven. Zo'n beweging zou "breed gedragen" moeten zijn, niet "als partijdig worden gezien", en zou naast traditionele outlets ook creators moeten omvatten, zei hij.

Maar het alternatief — in de zaal vrijwel onbesproken — is journalistiek simpelweg een fenomeen van de afgelopen twee eeuwen is, en dat technologie en economie zich als georganiseerde en gebundelde industrie langzaam van haar afbewegen.

Dit verhaal verscheen oorspronkelijk op Fortune.com.