企業科技領袖在成本飆升之際限制AI支出
重點速覽
- •全球AI支出預計2026年將達到2.5兆美元,較前一年增長44%。
- •包括Samsara和Yum Brands在內的多家公司已實施使用上限或每位工程師預算,因AI成本超出初始預期卻未見明確回報。
- •Docusign透過重新配置AI編碼代理,僅提取與任務相關的上下文而非整個程式碼庫,將Token消耗量降低了近50%。
- •Gartner在6月的報告中警告,由於Token使用量上升和基於消耗量的計費模式,AI程式編寫成本可能在2028年前超過平均開發者薪資。
- •Cigna已內部授權超過70種AI模型,將模型能力和成本與任務複雜度相匹配,以防止總支出與原始Token使用量同步增長。

經過多年來在組織中大力推動人工智慧,資訊長(CIO)及其他高階科技主管如今在支出攀升、回報仍不明朗的情況下開始收緊管控。這一收縮標誌著從以黑客松、廣泛工具存取和實驗為特徵的採用階段,轉向更為紀律化的營運階段,讓人聯想到企業在雲端運算初期搶占市場後最終施加成本治理的模式。
在科技公司Samsara,資訊長Stephen Franchetti已積極為該公司4,100名員工引進了一套全面的AI工具。他已授權使用Anthropic的Claude、Google的Gemini、OpenAI的ChatGPT以及AI程式編寫代理Cursor,同時也建立了一套可每日追蹤AI支出的內部系統。如此精細監控的需求凸顯了基於使用量、Token驅動的計費模式——在企業軟體中仍相對新穎——與多數公司習慣預算的按人頭訂閱模式有本質上的不同。然而最近,Samsara已對部分非技術員工設定了使用上限,而研發等需要AI進行密集程式編寫和資料分析的部門則保留了更大的實驗空間。
「我們花了一段時間才確定合適的上限,確保每個人都能得到良好的服務,」Franchetti表示。「但這讓人們處於一種可以掌控的局面,他們可以選擇使用哪些模型。」
這一轉變反映了美國企業界的更廣泛趨勢。全球AI支出預計今年將達到2.5兆美元,較前一年增長44%。在多年來透過培訓課程、黑客松以及廣泛讓員工使用程式編寫工具、代理和聊天助手來推動AI採用之後,一些科技主管現在開始限制這些工具的使用頻率。他們也在重新培訓員工,使其能夠使用更小、更便宜的AI模型來處理許多日常工作任務。
多家公司反映其2026年AI預算已超出年初預期,卻未產生相應的商業價值。AI超大規模供應商也注意到了這些抱怨,紛紛推出更便宜的模型或下調價格作為回應。隨著企業客戶釋放出成本效率而非單純能力將決定哪些平台贏得長期合約的訊號,領先模型供應商——OpenAI、Anthropic、Google等——之間的競爭態勢日益加劇。
「2026年是所有人都發現AI其實非常困難的一年,」研究公司Gartner的量化建模與經濟預測專家Will Sommer表示。「這不是免費的午餐。要做到正確需要大量的思考和努力。」Sommer警告,企業很容易在每位員工身上花費數千美元購買AI工具,但其產出基本上毫無用處,無法提升生產力。
6月,Gartner發布了一份看空的報告,警告由於Token消耗量上升以及向基於消耗量的計費模式轉變,AI程式編寫成本將在2028年前超過平均開發者的薪資。這一預測突顯了企業AI採用核心的一個矛盾:與開發者工作流程最緊密整合的工具——能讀取、編寫和除錯程式碼的編碼代理——也是最消耗Token的應用之一,使其成為成本超支的主要驅動因素。
在電子簽名軟體公司Docusign,技術長Sagnik Nandy表示,該組織已認真對待成本挑戰。「我們非常認真地對待這件事,無論是在內部使用場景中,我們也將這些經驗向外傳播,」他表示。在內部方面,Nandy指出每位工程師都已採用AI工具,且他們開發的程式碼中有75%是由AI發起的。
然而,Nandy很快發現,AI程式碼代理在執行任務前被設計為存取Docusign的整個程式碼庫以獲取上下文。「這需要大量的Token,因為你試圖讀取所有內容,」他表示。Nandy重新配置了這些編碼代理,使預設設定僅提取與開發者正在進行的特定任務相關的上下文,將Token使用量降低了近50%。這一優化說明了工程團隊正在認識到,提示架構和上下文管理——而不僅僅是模型選擇——能夠顯著影響AI部署的單位經濟效益。
Yum Brands——KFC和Taco Bell的營運商——的首席數位與技術官Jim Dausch表示,AI Token使用量目前還不是「一個重大數字,但其趨勢是我們一直在關注的」。今年稍早,他注意到這家餐飲公司內部的AI Token使用量和支出都在上升。
Dausch主張,分配給AI工具的大部分任務——可能高達95%——可以由更基本、更便宜的模型來處理。Yum隨後加強了關於AI模型選擇的培訓,並建議業務主管以管理部門人頭預算同樣的嚴謹態度來管理數位支出。「我們試圖讓成本的歸屬和管理方式更加民主化,這樣它就不僅僅是一個IT預算項目,」Dausch表示。
在Cigna Group,這家醫療保健巨頭採取了廣泛的策略,與多家AI超大規模供應商合作,讓員工能夠使用小型語言模型或較早、較便宜的版本來處理不需要大量推理能力的任務。「真正會推高成本的方式是使用最昂貴的模型卻不設任何防護措施,」Cigna的首席數據、數位與AI官Katya Andresen表示。Cigna已授權超過70種不同的AI模型供內部使用。雖然Andresen承認運算和AI Token使用量有所增加,但得益於這種多模型方法,總支出並未以相同速度增長。這一策略反映了一種日趨成熟的AI工具觀——將其視為分層組合,根據每項任務的複雜程度匹配模型能力和成本,而非預設使用最強大的選項。
房地產經紀公司Compass的技術長Shay Artzi表示,他的AI投資專注於三個群體:工程師、為房地產專業人士自動化任務的公司AI Assistant工具,以及更廣泛的企業員工。工程師是最早廣泛使用AI的群體,但Artzi表示他從一開始就對Token支出保持謹慎,且從未要求所有程式碼都必須使用AI協助編寫。
Compass試用了多種AI程式編寫工具,最終確定與該領域的兩大巨頭Anthropic和Google合作,並設定了某些財務限制。「我們還為每位工程師設定了預算,讓他們了解自己的支出情況,」Artzi表示。
作者:John Kell。本文首發於Fortune.com。