AI Token 經濟學:為何企業該在帳單到來前建立 AI FinOps
重點速覽
- •企業 AI 成本正從固定訂閱制轉向以 token 計量的用量付費模式,與雲端運算計費的演進相似。
- •作者預測「AI FinOps」紀律將應運而生,讓 AI 支出透明化、可課責並與業務價值掛鉤,如同雲端時代的 FinOps。
- •AI 代理可能將單一員工請求轉變為多筆模型交易,使以使用者人數為基礎的預算編列失靈。
- •AI 支出的正確指標是每項有效成果的成本,而非每個 token 的成本,因為最便宜的模型未必是最佳選擇。
- •快取、提示詞縮短、選擇性文件檢索與 AI 閘道模型路由等消耗控制手段,已獲主要 AI 與雲端供應商支援。

過去兩年,企業不斷催促員工採用人工智慧。很快地,它們將開始問一個截然不同的問題:這些 token 到底是誰在付錢?
這個問題今天聽起來微不足道,因為大多數員工是透過 ChatGPT、Claude 或其他工具的月訂閱來接觸 AI。成本看似可預測——購買授權、分配給員工,再把金額列入 IT 預算即可。
但企業 AI 的發展方向並非如此。
隨著企業將 AI 嵌入客戶服務、銷售、行銷、軟體開發、法務、財務、數據分析與內部流程,這項技術愈來愈不像傳統軟體,而更像一項公共事業(utility)。它是被消耗的:用得愈多,付得愈多。而計量單位正日益以 token 計算。
雲端時代的熟悉故事
企業界其實走過這條路。十多年前,各公司一窩蜂湧向雲端運算。Amazon Web Services、Microsoft Azure 與 Google Cloud 提供的正是企業 IT 期盼多年的東西:無需購買伺服器或自建資料中心就能取得運算資源。啟動一台虛擬機器、增加儲存空間、擴充容量,只為使用的部分付費。
這聽起來效率驚人——直到帳單寄來。
開發人員開了伺服器卻忘記關閉。測試環境一跑就是好幾個月。儲存空間不斷累積。各部門在缺乏中央監管下自行購買雲端服務。當每個決定只涉及幾美元時,沒有人太在意;但成千上萬個這類決定加總起來,CFO 終於坐不住了。
那段痛苦的時期催生了 FinOps——一門讓雲端支出透明化、可課責並與業務價值掛鉤的紀律,如今更獲得有組織的 FinOps 社群與認證機構支持。作者相信同樣的事情即將在 AI 領域上演——不妨稱之為 AI FinOps。
從採用指標到消耗指標
如今,企業關注的是 AI 採用度:有多少員工在使用 ChatGPT?我們啟動了多少個 AI 專案?有多少流程可以自動化?
這些問題有其用處,但另一組問題正在到來。我們消耗了多少 token?哪些部門在消耗?哪些應用產生最多用量?使用的是哪些模型?一次 AI 輔助交易的成本是多少?而最重要的是,這筆錢換來了什麼業務成果?
Token 只是 AI 模型處理的一小段文字單位。但從經濟角度來看,企業應開始像當年對待雲端運算時數、儲存與網路流量那樣看待 token:把它們視為消耗單位。主要模型供應商早已公布按用量計價的費率,通常以每百萬輸入與輸出 token 計價,這使得這種計量式會計在技術上今天就能實現——缺少的通常是組織內部「誰消耗了什麼」的可見性。
設想一家公司每月用 AI 處理 500,000 筆客戶互動,每筆互動平均消耗 4,000 個輸入 token 與 800 個輸出 token。管理階層可以估算月用量,再乘以適用的模型價格。現在將客戶量增加 20%、新增一個 AI 應用、開放更多員工使用,再引入一個為完成單一任務而執行多次模型呼叫的 AI 代理。預算可能迅速改變。
為何代理改變了方程式
隨著 AI 代理的出現,這項挑戰變得更加嚴峻。一個人問一個問題,得到一個答案。相比之下,代理可能收到一項指令後,將其拆解為多項任務、搜尋文件、呼叫不同系統、檢查自身工作,並反覆調用 AI 模型。一個員工的請求可能悄然變成多筆 AI 交易。
正因如此,僅以 AI 使用者人數為基礎的預算編列終將失效。企業需要按應用、部門、工作流程與業務成果來衡量 token。財務部門需要預測,IT 需要用量管控,業務單位需要課責機制。
一個發送數百萬則個人化訊息的行銷部門,應該知道自己的 AI 成本。一個客服中心應該知道每解決一件案件所需的 AI 成本。軟體團隊應該知道每項開發任務的 AI 成本。一家用 AI 審閱文件的銀行,應該知道每處理一份申請的成本。
衡量每項有效成果的成本,而非每個 token 的成本
然而,AI FinOps 不應淪為另一場企業撙節運動。最便宜的模型未必是最好的模型。如果花 10 披索的 AI 成本能省下 500 披索的員工工時,把 AI 成本壓到 5 披索可能毫無意義。如果一個較貴的模型產生更少錯誤、解決更多客戶問題,多付錢反而可能是更好的決策。
正確的指標不是每個 token 的成本,而是每項有效成果的成本。
控制消耗的方法也很明顯。企業不需要在每項任務上都動用最強大的模型——簡單的分類、擷取與摘要用較小的模型可能就綽綽有餘。提示詞可以縮短。文件可以選擇性檢索,而非反覆把數百頁內容送進模型。長對話可以摘要,重複的指令與上下文可以快取,應用程式可以設定 token 上限。AI 閘道可以根據複雜度與成本,將任務路由到不同模型。其中若干手段——快取、提示上下文重複使用、模型路由——已獲得主要 AI 供應商與雲端平台為企業開發者推出的功能與工具支援。
與談論自主代理或通用人工智慧相比,這些話題毫不令人興奮。但 CFO 終究會讓無聊的事情變得重要。
雲端運算走過同樣的路:先是熱潮,然後是採用,接著是失控的支出,最後是治理。AI 很可能更快走完這條路。
接下來會如何
不難想像企業很快將部署 AI 消耗儀表板,顯示 token 用量、每個工作流程的成本、模型使用率、預算差異與業務價值。各部門可能像領取差旅、行銷或雲端預算一樣,獲配 AI 預算。而最終總會有人為這一切負責。
這個人可能隸屬於財務、IT 或 AI 卓越中心。職稱或許不同,但紀律是一樣的:AI FinOps。
企業應該現在就開始建立這項能力——趁 AI 帳單還沒大到讓 CFO 問出那個沒人想回答的問題:那些 token 都用到哪裡去了?
本文所表達的觀點為作者個人立場,不一定代表其任職單位及 FINEX 的意見。
Reynaldo C. Lugtu, Jr. 是 Hungry Workhorse 的創辦人兼執行長,這是一家專注於數位、文化與客戶體驗轉型的顧問公司。他是美國 Institute for Digital Transformation 的會士,也是 FINEX Academy「AI、數位轉型與治理」課程的主持人。他在 De La Salle University 的 MBA 課程教授策略管理與數位轉型。聯絡方式:rey.lugtu@hungryworkhorse.com。