普林斯頓的Arvind Narayanan預測聊天機器人可能成為「真理神諭」,新聞業則正走向兩百年來未曾抵達的境地
重點速覽
- •皮尤研究中心今年進行的調查發現,已有10%的美國人將聊天機器人視為真相來源。
- •Narayanan將今日的聊天機器人描述為「神經符號系統」,結合語言模型與網路搜尋、文件擷取及程式碼資料分析工具,使一年前常見的錯誤日益罕見。
- •他估計,聊天機器人成為解答事實性問題預設管道的轉變大約還有十年。
- •他認為捆綁式的新聞編輯室已不再是生產新聞最具經濟效益的方式:產業報導轉向Politico與Punchbowl News等媒體,地方新聞業轉向慈善資助模式,分析則轉向獨立記者與創作者。
- •他主張讓民主機制參與AI公司的演算法調校(類似Meta監督委員會並讓記者擁有一席),並呼籲記者組成廣泛、無黨派色彩的政治運動,可能包括對AI與社群媒體公司課稅。

Arvind Narayanan認為,人工智慧將變得更加值得信賴——而這樣一來,它也會消除目前讓讀者察覺自己正在接觸AI垃圾內容的各種痕跡。這位普林斯頓大學電腦科學家甚至預測,越來越準確的聊天機器人可能對許多人而言成為「真理神諭」。皮尤研究中心今年進行的調查發現,已有10%的美國人正在這樣使用聊天機器人。
Narayanan在西北大學McCormick Foundation Center舉行的運算與新聞學學術會議Computation + Journalism Symposium上發表了題為「AI and Journalism: Skating Where the Puck is Going」的主題演講,《Fortune》亦受邀出席。此次研討會的議程聚焦媒體面臨的挑戰以及AI垃圾內容的氾濫。Narayanan敦促聽眾為AI做好準備,「不是以它今天的樣貌,而是以它五年或十年後的樣貌」。他表示,他的電腦科學背景有助於分辨當前的限制哪些是可透過工程解決的問題,哪些是本質性的限制。他也承認自己從未在新聞編輯室工作過。「有可能我根本不知道自己在說什麼,」他謹慎地說道,隨後才展開他的論述。
他的論點分為兩部分。首先,如果聊天機器人成為解答事實性問題的預設管道——Narayanan表示,「幾乎所有」諸如誰正在競選公職之類的問題都正走向這條路——那麼新聞編輯室將失去其整體業務中的又一環,而且可以說是最基礎的一環。剩下的是機器無法裁定的工作:具爭議性的問題、敘事、講故事,以及明確交代他所稱的「位置性」,這對一個追求客觀性的產業而言是一項艱難的要求。
Narayanan主持普林斯頓大資訊技術政策中心,但近年來他已成為AI、工作未來與媒體產業領域的思想領袖。他與Sayash Kapoor合著了《AI Snake Oil》,他的電子報《AI as Normal Technology》擁有超過87,000名訂閱者。他曾在八月接受《Fortune》訪問,談論他認為相當複雜的AI反彈現象,並深入分析為何AI的生產力提升與投資報酬率一直難以衡量——甚至在某些情況下根本不存在。他將此稱為「瘦漢堡、胖麵包」問題:有了AI,執行的「肉」縮小到幾乎為零,而決策與深思熟慮的「麵包」卻不斷膨脹,伴隨著大量的焦慮與不確定性。
神諭與垃圾內容
Narayanan認為,將聊天機器人視為單純下一個詞預測器的普遍看法已經過時。他表示,今天的聊天機器人是「神經符號系統」:一個語言模型結合了搜尋網路、擷取文件以及撰寫程式碼分析資料的工具。一年前常見的錯誤——例如數錯「strawberry」的字母數,或Google的AI Overviews建議在披薩上塗膠水——如今已罕見發生,他並形容剩餘的問題正「逐步獲得解決」。
他接著提問:當大眾預期趕上技術時會發生什麼。他說,他正在念小學的孩子們可能永遠不會像成年人那樣經歷幻覺問題,就像維基百科曾經從不被信任的參考來源演變為「更具權威性」的來源一樣。「我不是說這是必然的。我不是說這是件好事,」他指出。他補充,在X上,用戶已經透過詢問Grok——xAI開發並整合進該平台的聊天機器人——來解決爭論,這類用戶大多是對傳統媒體信任度低的保守派。他估計,更廣泛的轉變大約還有十年。
一位聽眾提出,聊天機器人可能也會陷入新聞評論家Jay Rosen著名的「無處之觀」——即記者不願運用自身判斷、未能適當告知受眾時所表現出的虛假中立。馬里蘭大學的Daniel Trielli提出了這一風險,Narayanan表示同意,並指出這是新聞業未來必須持續界定的挑戰。
Narayanan最具爭議性的觀點之一是,媒體的議題設定已經適得其反。他稱《華盛頓郵報》在水門事件中的角色「是純粹的善」,但引用「許多傳播學者與經濟學家」的研究指出,在受眾早已分裂的川普時代,類似的做法加劇了極化,並加速了信任的崩塌。
解體
Narayanan表示,他的演講「既關於社群媒體對新聞編輯室的持續影響,也同樣關於AI」。他指出,如今新聞編輯室被視為一個將報導分析、事實查核與發行捆綁在一起的單一機構,但他認為這種安排是一種「歷史偶然而生的」發展,未來並非理所當然。1830年代靠廣告支持的便士報拓寬了新聞的定義,因為更早的報紙依賴訂閱與政治庇護。客觀性是因應第一次世界大戰宣傳而興起,支薪記者與採訪也同樣「是被發明出來的」。他提到,「受僱記者」一詞曾經是種侮辱——「就像受僱的槍手」。
他的分析框架借鑒了更早的辯論。他引用作家Clay Shirky的名言「社會不需要報紙,我們需要的是新聞業」,並指出普林斯頓大學社會學家Paul Starr在同一年代曾警告,報紙經濟模式的喪失將使問責等公共財失去資金來源。Narayanan表示,Starr「在許多方面」都被證明是對的,「但情況或許沒有像擔心的那樣末日降臨」,因為慈善資金已經介入。
他的主張是,各項職能正逐一由專業機構以比新聞編輯室更低的成本完成,而AI正在加速這一進程。「對於每一個這樣的組成部分,都有一種以更獨立方式生產該內容的競爭者,單純從生產經濟學角度來看,它們在結構上更具優勢,」他說。例如,產業報導已轉移到Politico、Punchbowl News和Stat等媒體。地方新聞業已大幅轉向「慈善資助模式」,調查報導則越來越多依靠非營利資金運作——「這是向歷史模式的回歸」。他強調,分析已轉移到獨立記者、社群媒體創作者以及「像我這樣的人」。回到他所稱整場演講的「核心觀點」,他表示,將一切打包在單一新聞編輯室內的做法「已不再是生產新聞最具經濟效益的方式」。
依照Narayanan的定義,分析是「介於事實與意見之間的一個層次」。他引用經濟學部落客Noah Smith的觀點指出,記者太久、太頻繁地將這條分界線視為二元對立,因此分析這一層「在新聞編輯室裡從來沒有真正的歸屬」。他舉例說,AI產業是否為泡沫,正是分析可以處理的題材。他認為,分析師的權威如今來自其作品積累,而非所屬媒體的招牌。(順帶一提,《Fortune》與Fortune Intelligence經常以分析形式刊登文章。)
他表示,網際網路「讓發行民主化」,而AI現在正「讓生產民主化」:「如今一兩人的團隊就有可能製作出各類一流的新聞內容。」他說,正在發生的「與其說是新聞的衰落」,不如說是「向其他各種機構的遷移」。
誰來付錢
Narayanan表示,「真正的危機」是AI公司出版商之間的權力落差。出版商比AI公司更需要任何單一媒體更需要聊天機器人的發行渠道,因此授權協議壓低了新聞業的價值。他指出,「轉向影片」——當時Facebook的一次演算法變更迫使新聞機構重組商業模式——是「這種極端權力不對稱的一個糟糕例證」。
他提出的解決方案是讓民主機制參與AI公司調校演算法的過程——類似Meta設立的監督委員會這一審查其內容審核決策的獨立機構,但讓記者在其中擁有「一席之地」。Narayanan補充,記者需要組成一場廣泛的政治運動,團結起來為這個職業的未來發聲,可能包括對AI與社群媒體公司課稅。他表示,這樣的運動必須「具廣泛基礎」,不能「被視為帶有黨派色彩」,並須將創作者與傳統媒體一併納入。
但另一種可能性——會議現場大多無人提及——是新聞業僅僅是過去兩個世紀的現象,而科技與經濟正在使其作為一個有組織、整合性產業的形態逐漸演化消逝。
本文最初刊載於 Fortune.com。