Arvind Narayanan uważa, że sztuczna inteligencja będzie sprawiać wrażenie coraz bardziej godnej zaufania — i że właśnie tym odbierze czytelnikom sygnały, które dziś pozwalają im rozpoznać w terenie niskiej jakości treści AI. Princetonzki informatyk przewiduje nawet, że coraz dokładniejsze chatboty mogą stać się dla wielu ludzi „wyrocznią prawdy”. Z badania Pew Research Center przeprowadzonego w tym roku wynika, że 10% Amerykanów już tak traktuje chatboty.

Narayanan wypowiadał te słowa podczas prelekcji pt. „AI and Journalism: Skating Where the Puck is Going” na sympozjum Computation + Journalism — konferencji naukowej poświęconej informatyce i dziennikarstwie, która odbyła się w McCormick Foundation Center na Northwestern University i na której obecny był Fortune. Program sympozjum koncentrował się wokół wyzwań stojących przed mediami i rozprzestrzeniania się niskiej jakości treści AI. Narayanan wezwał słuchaczy, by przygotowali się na AI „nie taką, jaka jest dzisiaj, ale taką, jaka będzie za pięć czy dziesięć lat”. Dodał, że jego informatyczne wykształcenie pomaga mu odróżniać, które z obecnych ograniczeń są naprawialnymi problemami inżynieryjnymi, a które są nieodłączną naturą tej technologii. Przyznał, że nigdy nie pracował w redakcji. „Możliwe, że nie wiem, o czym mówię” — ostrzegł, po przedstawił swój argument.

Argument ten miał dwie części. Po pierwsze, jeśli chatboty staną się domyślnym miejscem rozstrzygania pytań faktograficznych — Narayanan powiedział, że „praktycznie wszystkie” pytania, na przykład o to, kto startuje w wyborach, zmierzają właśnie tam — to redakcja traci kolejny element swojego pakietu, i to arguably najbardziej podstawowy. Pozostaje praca, której maszyna nie rozstrzygnie: pytania sporne, narracja, opowieść i jawność tego, co nazywa „pozycjonalnością” — trudne wymaganie dla branży dążącej do obiektywizmu.

Narayanan kieruje Center for Information Technology Policy na Princeton, ale w ostatnim czasie wyłonił się jako lider myśli w obszarze AI, przyszłości pracy i branży medialnej. Wspólnie z Sayashem Kapoor napisał książkę AI Snake Oil, a jego newsletter AI as Normal Technology ma ponad 87 000 subskrybentów. W sierpniu rozmawiał z Fortune o reakcji na AI, którą postrzega jako złożone zjawisko, i dzielił się spostrzeżeniami, dlaczego zyski produktywności i zwrot z inwestycji w AI okazały się tak trudne do zmierzenia — a bywa, że nieistniejące. Nazywa to problemem „chudego hamburgera i grubej bułki”: dzięki AI mięso wykonania kurczy się niemal do zera, podczas gdy „bułki” decyzyjne i deliberacyjne puchną, w towarzystwie mnóstwa niepokoju i niepewności.

Wyrocznia i szum

Narayanan argumentował, że powszechny obraz chatbotów jako prostych predyktorów kolejnych słów jest nieaktualny. Dzisiejsze chatboty to „systemy neurosymboliczne” — powiedział: model językowy połączony z narzędziami przeszukującymi sieć, pobierającymi dokumenty i piszącymi kod do analizy danych. Błędy częste rok temu — błędne liczenie liter w słowie „strawberry” czy sugestie Google AI Overviews, by dodać klej do pizzy — teraz zdarzają się rzadko, a pozostałe problemy opisał jako „stopniowo rozwiązywane”.

Następnie zapytał, co się stanie, gdy oczekiwania społeczne dogonią technologię. Jego dzieci w wieku szkolnym, stwierdził, mogą już nigdy nie doświadczyć halucynacji tak jak dorośli — podobnie jak Wikipedia przeszła kiedyś drogę od niepewnego źródła do znacznie „bardziej autorytatywnego” źródła. „Nie mówię, że to nieuchronne. Nie mówię, że to dobra rzecz” — zaznaczył. Na platformie X, dodał, użytkownicy już dziś rozstrzygają spory, pytając Groka — chatbota stworzonego przez xAI i zegrowanego z platformą — głównie konserwatyści o niskim zaufaniu do tradycyjnych mediów. Szeroką zmianę szacuje na około dekadę.

Jeden ze słuchaczy zasugerował, że chatboty mogą cierpieć na to, co krytyk prasy Jay Rosen słynnie nazwał „widokiem znikąd” — fałszywą neutralność dziennikarzy niechętnych do korzystania z własnego osądu i rzetelnego informowania odbiorców. Daniel Trielli z University of Maryland podniósł to zagrożenie, a Narayanan się zgodził, mówiąc, że jest to wyzwanie, które dziennikarstwo musi nadal definiować.

Jedna z najbardziej kontrariańskich tez Narayanana głosiła, że wyznaczanie agendy przez media obróciło się przeciwko nim. Rola The Washington Post w aferze Watergate była, jak powiedział, „czystym dobrem”, ale powołał się na badania „wielu badaczy komunikacji i ekonomistów” pokazujące, że podobne działania w epoce Trumpa — przy już rozdrobnionej widowni — nakarmiły polaryzację i przyspieszyły załamanie zaufania.

Rozpakowanie pakietu

Narayanan powiedział, że jego wystąpienie było „tak bardzo o trwających skutkach mediów społecznościowych dla redakcji, jak o AI”. Redakcja jest dziś postrzegana jako jedna instytucja łącząca reportaż, analizę, fact-checking i dystrybucję, ale — jego zdaniem — był to rozwój „uzależniony historycznie”, a nie dany raz na zawsze. Utrzymywane z reklam gazety centowe lat 30. XIX wieku poszerzyły pojęcie wiadomości, ponieważ wcześniejsze pisma żyły z prenumerat i politycznego mecenatu. Obiektywizm narodził się w reakcji na propagandę z czasów pierwszej wojny światowej, a płatni reporterzy i wywiady też musiały zostać „wynalezione”. Nazwanie kogoś „najętym reporterem” było kiedyś obelgą — „jak najęty rewolwerowiec”.

Jego rama myślowa czerpie z wcześniejszych debat. Zacytował słowa pisarza Clay'a Shirky'ego: „społeczeństwo nie potrzebuje gazet. Potrzebujemy dziennikarstwa”, i przypomniał, że socjolog z Princeton Paul Starr ostrzegał w tej samej epoce, że utrata ekonomicznych fundamentów gazet pozostawi dobra publiczne, jak rozliczalność, bez finansowania. Starr okazał się słuszny „pod wieloma względami” — powiedział Narayanan — „ale być może nie było to tak apokaliptyczne”, jak obawiano, bo wparcie zaoferowała filantropia.

Jego teza brzmi: element po elemencie specjaliści wykonują dziś każdą z tych funkcji taniej niż redakcja, a AI ten proces przyspiesza. „Dla każdej z tych składowych istnieje niejako konkurent, który produkuje ją w bardziej samodzielny sposób i jest lepiej przygotowany strukturalnie — już na podstawie ekonomiki produkcji” — powiedział. Dziennikarstwo branżowe, na przykład, przeniosło się do serwisów takich jak Politico, Punchbowl News i Stat. Dziennikarstwo lokalne w dużej mierze przeszło na „model finansowany filantropijnie”, a śledztwa coraz częściej powstają za pieniądze organizacji non-profit — „powrót do historycznych wzorców”. Analizy, podkreślił, trafiły do niezależnych dziennikarzy, twórców w mediach społecznościowych i „ludzi takich jak ja”. Wracając do tego, co nazwał „głównym punktem” swojego wystąpienia, stwierdził, że pakowanie wszystkiego w jednej redakcji „nie jest już najbardziej ekonomicznie opłacalnym sposobem produkcji wiadomości”.

Analiza, jak ją definiuje Narayanan, to „warstwa między faktem a opinią”. Powołując się na blogera ekonomicznego Noaha Smitha, argumentował, że dziennikarze zbyt długo i zbyt często traktowali tę granicę dychotomicznie, przez co warstwa analizy „nigdy naprawdę nie znalazła domu w redakcjach”. Przykładem tematu, którym mogłaby się zająć analiza, jest pytanie, czy branża AI jest bańką. Autorytet analityka, twierdzi, czerpie dziś z dorobku, a nie z nagłówka pisma. (Fortune i Fortune Intelligence często publikują teksty jako analizy, akurat przy okazji.)

Internet „zdemokratyzował dystrybucję”, a AI teraz „demokratyzuje produkcję” — powiedział: „Dziś możliwe jest tworzenie pierwszorzędnych treści dziennikarskich różnego rodzaju zespołem jedno- lub dwuosobowym”. To, co się dzieje, to „nie tyle upadek wiadomości, co migracja w stronę innych instytucji”.

Kto płaci

„Prawdziwy kryzys” — powiedział Narayanan — to przepaść siły między firmami AI a wydawcami. Wydawcy potrzebują dystrybucji przez chatboty bardziej, niż firmy AI potrzebują jakiegokolwiek pojedynczego medium, więc umowy licencyjne wyceniają dziennikarstwo poniżej jego wartości. Wskazał na „pivot w stronę wideo” — kiedy zmiana algorytmu Facebooka zmusiła organizacje medialne do przebudowy modeli biznesowych — jako na „okropną ilustrację skrajnej asymetrii siły”.

Proponowanym rozwiązaniem jest demokratyczny wpływ na to, jak firmy AI dostrajają swoje algorytmy coś w rodzaju Rady Nadzorczej Meta, niezależnego organu powołanego przez firmę do rozpatrywania decyzji o moderacji treści, ale z przyznaniem dziennikarzom „miejsca przy stole”. Narayanan dodał, że dziennikarze muszą stworzyć szeroki ruch polityczny, zjednoczyć się, by zabiegać o przyszłość zawodu, być może także poprzez podatek od firm AI i mediów społecznościowych. Taki ruch musiałby być „szeroki”, nie „postrzegany jako partyjny” i objąć twórców obok tradycyjnych mediów — powiedział.

Ale alternatywa — w większości niewymieniona na sali — brzmi: dziennikarstwo to po prostu zjawisko ostatnich dwóch stuleci, a technologia i ekonomia ewoluują w stronę odchodzenia od niego jako zorganizowanej i skonsolidowanej branży.

Ta historia pierwotnie ukazała się na Fortune.com.