隨著自動化系統消耗的模型運算資源遠超過一般人類用戶，企業人工智慧正從對話轉向執行。

OpenRouter的數據顯示，截至8月10日，代理式Token的七天平均值約為7.3兆，約為2月初水準的14倍。同期人類驅動的用量達到約1.4兆個Token，較2月初成長2.8倍。這使得在經由該平台路由的流量中，AI代理消耗的Token數量超過人類的五倍。

Token——即語言模型讀取與生成的文字片段——也是大多數供應商用來計量與計費API用量的單位，因此這一比例可直接反映推論運算資源的流向。OpenRouter是一項將開發者請求傳送至多家供應商模型的路由服務，它透過工具呼叫、對話輪次與時間模式等訊號來區分代理式活動。這些數據反映的是OpenRouter的流量，而非整個生成式AI市場，但足以顯示自動化工作負載的擴張速度。與只回答單一提示的聊天機器人不同，AI代理能在完成工作前檢視資訊、呼叫工具、測試輸出、修改步驟並重複執行動作。

企業AI從對話轉向自動化工作流程

OpenAI的《Enterprise Signals》報告指出，企業內部也出現相同轉變，尤其是在最重度用戶之間。所謂的前緣企業，即企業AI用戶中前10%的公司，每名活躍用戶產生的輸出Token是一般企業的8.3倍。

這一差距在1月為2.6倍，顯示一般企業採用情況與最重度用戶之間的差距持續擴大。到6月，OpenAI的軟體開發代理Codex產生的輸出Token，占企業客戶Codex與ChatGPT合計輸出Token的64%。

自2月以來，法律領域的Codex每週活躍用戶成長了108倍，相比之下，銷售與招募領域為41倍。這一結構顯示，企業用途正從對話擴展至程式設計、文件建立、研究及其他多步驟工作流程。

OpenAI另指出，前緣企業有21%的活躍用戶每週使用外掛，而一般企業的比例為9%。這一差異進一步印證了向能夠使用工具、建立檔案與完成任務（而非僅回答問題）的系統轉變的趨勢。

Codex、外掛與快取推動超越對話的轉變

Andreessen Horowitz引用OpenRouter數據指出，目前超過85%的代理式Token用量來自快取提示。提示快取讓系統能重複使用先前已處理的上下文，而非在重複呼叫時重新計算相同的輸入。

OpenAI表示，快取可降低延遲與輸入成本，使重複上下文工作負載的營運成本更低。由於推論通常按Token計費，重複使用上下文而非重新計算，將直接影響代理所執行的冗長且重複呼叫序列的成本。然而，這些工作負載仍需要除了處理推論的GPU之外，還能儲存並快速重複使用大型上下文的基礎設施。

隨著企業將更複雜的任務交由自動化系統處理，記憶體容量與頻寬的重要性也隨之提高。這一轉變也為傳統工作流程軟體帶來考驗。

A16z認為，隨著用戶採用能夠對任務進行推理的系統，代理採用率的上升可能對以固定自動化步驟為核心的產品構成壓力。即便如此，單憑網路流量的變化並不足以證明已出現取代效應，而Zapier、Make與n8n——連接商務應用程式以自動化多步驟任務的平台——也正在加入AI功能。

整體而言，隨著企業軟體代替用戶執行更長的工作鏈，AI代理正產生更多Token需求。隨著這一模式擴大，企業AI的定義將不再取決於對話量，而是取決於委託給軟體的工作量；目前已可觀察到的指標——代理占Token流量的比例、前緣企業的輸出差距以及快取提示占比——正是揭示此趨勢發展程度的關鍵。