Арвинд Нараянан считает, что искусственный интеллект будет восприниматься как всё более заслуживающий доверия — и тем самым лишит читателей признаков, по которым сегодня можно распознать низкокачественный ИИ-контент в реальных условиях. Принстонский учёный-информатик даже предсказывает, что всё более точные чат-боты могут стать для многих людей «оракулом истины». Согласно опросу Pew Research Center, проведённому в этом году, 10% американцев уже относятся к чат-ботам именно так.

Нараянан высказался в программной речи под названием «AI and Journalism: Skating Where the Puck is Going» на симпозиуме Computation + Journalism — академической конференции, посвящённой вычислительной технике и журналистике, — прошедшей в центре Маккормик-Фаундейшн Северо-Западного университета при участии Fortune. Повестка симпозиума была сосредоточена на проблемах, стоящих перед медиа, и на распространении низкокачественного ИИ-контента. Нараянан призвал аудиторию готовиться к ИИ «не таким, каков он сегодня, а таким, каким он будет через пять или 10 лет». По его словам, его бэкграунд информатика помогает отличать сегодняшние ограничения, которые являются устранимыми инженерными проблемами, от принципиально неустранимых. Он признал, что никогда не работал в редакции. «Возможно, я не понимаю, о чём говорю», — с оговоркой заметил он, прежде чем изложить свой аргумент.

Этот аргумент состоял из двух частей. Во-первых, чат-боты станут местом по умолчанию для разрешения фактических вопросов — Нараянан сказал, что «практически все» вопросы, например о том, кто баллотируется на политические посты, движутся именно туда, — то редакция лишается ещё одного элемента своего «пакета», причём, вероятно, самого базового. Останется работа, которую машина не способна решить: спорные вопросы, нарратив, сторителлинг и открытость в том, что он назвал «позиционностью», — непростая задача для отрасли, стремящейся к объективности.

Нараянан возглавляет Центр политики в области информационных технологий Принстона, но в последнее время он стал признанным мыслителем в сферах ИИ, будущего труда и медиаиндустрии. Он стал соавтором книги AI Snake Oil вместе с Саяшем Капуром, а его рассылка AI as Normal Technology насчитывает более 87 000 подписчиков. В августе он рассказывал Fortune об ИИ-бэклэше, который считает сложным явлением, и объяснил, почему рост продуктивности и возврат инвестиций от ИИ оказалось так трудно измерить — а порой их и вовсе нет. Он называет это проблемой «тощего гамбургера с толстой булкой»: при использовании ИИ «мясо» исполнения сжимается почти до нуля, тогда как «булки» — принятие решений и обсуждения — разбухают, сопровождаемые massой тревоги и неопределённости.

Оракул и низкокачественный контент

Нараянан утверждал, что привычное представление о чат-ботах как о простых предикторах следующего слова устарело. Современные чат-боты — это «нейросимволические системы», сказал он: языковая модель в сочетании с инструментами, которые ищут в интернете, извлекают документы и пишут код для анализа данных. Ошибки, распространённые год назад — неправильный подсчёт букв в слове «strawberry» или советы клея для пиццы от AI Overviews компании Google, — теперь встречаются редко, а оставшиеся проблемы он описал как «постепенно решаемые».

Затем он спросил, что произойдёт, когда общественные ожидания догонят технологии. Его дети младшего школьного возраста, по его словам, возможно, никогда не испытают галлюцинации так, как это знакомо взрослым — подобно тому как Википедия когда-то превратилась из недоверенного справочника в «гораздо более авторитетный» источник. «Я не говорю, что это неизбежно. Я не говорю, что это хорошо», — отметил он. На X, добавил он, пользователи уже решают споры, обращаясь к Grok — чат-боту, созданному xAI и интегрированному в платформу; в основном это консерваторы с низким доверием к традиционным медиа. Более широкий сдвиг он оценил примерно в десять лет.

Один из участников аудитории предположил, что чат-боты могут страдать тем, что известный профессор журналистики и критик прессы Джей Розен назвал «взглядом из ниоткуда», — ложной нейтральностью журналистов, не желающих опираться на собственное суждение и должным образом информировать аудиторию. Дэниел Триелли из Университета Мэленда поднял этот вопрос, и Нараянан согласился, сказав, что это вызов, который журналистике ещё предстоит определять и далее.

Одно из самых неортодоксальных утверждений Нараянана состояло в том, что формирование повестки дня медиа обернулось против них самих. Роль The Washington Post в Уотергейте он назвал «безусловным благом», но сослался на исследования «многих специалистов по коммуникациям и экономистов», показывающие, что аналогичные усилия в эпоху Трампа, при уже раздробленной аудитории, подпитывали поляризацию и ускоряли крах доверия.

Распад «пакета»

Нараянан сказал, что его выступление было «в равной мере о продолжающемся влиянии социальных медиа на редакции и об ИИ». Редакция сегодня мыслится как единый институт, объединяющий репортажи, анализ, фактчекинг и дистрибуцию, но он утверждал, что такая модель — «исторически обусловленное» явление, а не данность на будущее. Поддерживаемые рекламой «пенни-прессы» 1830-х годов расширили представление о том, что считается новостями, поскольку более ранние газеты жили за счёт подписки и политического покровительства. Объективность возникла как ответ на пропаганду времён Первой мировой войны, а оплачиваемые репортёры и интервью также «пришлось изобрести». Назвать кого-то «нанятым репортёром», отметил он, когда-то было оскорблением — «как наёмный стрелок».

Его концептуальная база опирается на прежние дискуссии. Он процитировал фразу писателя Клея Ширки: «Обществу не нужны газеты. Нам нужна журналистика», и напомнил, что принстонский социолог Пол Старр предупреждал в ту же эпоху, что утрата газетной экономики оставит без финансирования общественные блага, такие как подотчётность. Старр оказался прав «во многом», сказал Нараянан, «но, возможно, всё оказалось не столь апокалиптичным», как опасались, поскольку на смену пришла филантропия.

Его тезис: шаг за шагом специалисты теперь выполняют каждую функцию дешевле, чем это может делать редакция, и ИИ ускоряет этот процесс. «Для каждого из этих компонентов существует своего рода конкурент, который производит этот компонент более автономно и лучше структурно приспособлен — просто исходя из экономики производства», — сказал он. Так, отраслевые репортажи мигрировали к изданиям вроде Politico, Punchbowl News и Stat. Местная журналистика в значительной мере перешла к «модели, финансируемой филантропией», а расследования всё чаще существуют на некоммерческие деньги — «возврат к историческим образцам». Аналитика, подчеркнул он, перешла к независимым журналистам, создателям контента в социальных медиа и «таким людям, как я». Возвращаясь к тому, что он назвал «главным тезисом» выступления, он сказал, что упаковка всего в одну редакцию «более не является экономически наиболее жизнеспособным способом производства новостей».

Аналитика, как её определяет Нараянан, — это «слой между фактом и мнением». Ссылаясь экономического блогера Ноа Смита, он утверждал, что журналисты слишком долго и слишком часто трактовали эту границу как бинарную, поэтому аналитический слой «так и не обрёл дома в редакциях». В качестве примера темы для аналитики он привёл вопрос о том, является ли индустрия ИИ пузырём. Авторитет аналитика, по его словам, теперь проистекает из корпуса работ, а не из названия издания. (Fortune и Fortune Intelligence, к слову, нередко публикуют материалы в формате анализа.)

Интернет «демократизировал дистрибуцию», сказал он, а ИИ теперь «демократизирует производство»: «Теперь первоклассный журналистский контент самого разного рода можно производить командой из одного-двух человек». Происходящее — это «не столько упадок новостей», сколько «миграция к целому ряду других институтов».

Кто платит

«Настоящий кризис», сказал Нараянан, — это разрыв в силе между ИИ-компаниями и издателями. Издателям дистрибуция через чат-боты нужна больше, чем ИИ-фирмам нужен какой-либо отдельный орган, поэтому лицензионные сделки занижают цену журналистики. Он указал на «поворот к видео», когда изменение алгоритма Facebook вынудило новостные организации перестраивать бизнес-модели, как на «отвратительную иллюстрацию крайней асимметрии власти».

Его предлагаемое решение — демократическое участие в настройке алгоритмов ИИ-компаний — нечто вроде Наблюдательного совета Meta, независимого органа, созданного компанией для пересмотра решений о модерации контента, но с предоставлением журналистам «места за столом». Нараянан добавил, что журналистам необходимо сформировать широкое политическое движение, объединившись ради будущего профессии, — возможно, включая налог на ИИ- и соцмедийные компании. Такое движение должно быть «широким по охвату», а не «восприниматься как партийное», и должно включать создателей контента наряду с традиционными изданиями, сказал он.

Но альтернатива — о которой в зале почти не говорили — состоит в том, что журналистика является просто феноменом последних двух столетий, а технологии и экономика эволюционируют в сторону от неё как организованной и агрегированной индустрии.

Эта история изначально была опубликована на Fortune.com.