亞馬遜執行長安迪·賈西將人工智慧的需求形容為「槓鈴」：一端是AI實驗室，另一端是致力於削減成本的企業，而中間的潛在市場則因高昂的推論成本而大多尚未開發。

推論——即運行已訓練模型以生成回應的運算密集型過程——是模型每次處理查詢時都會產生的經常性成本。賈西的言論凸顯了亞馬遜在讓AI技術對更廣泛的企業用途具備經濟可行性方面所面臨的挑戰。此番言論發表之際，該公司正推廣其自訂AI加速器——用於AI運算的專用晶片——例如Trainium，據報導其性價比優於競爭對手。Trainium由亞馬遜的Annapurna Labs部門開發，為該公司Amazon Web Services（AWS）雲端平台上的AI工作負載提供支援。

這些言論對整個AI產業具有影響，包括像Anthropic這樣的公司——即Claude AI助理的開發商。亞馬遜已向Anthropic投資數十億美元，該新創公司的模型也透過AWS提供給客戶。

與賈西言論一同提及的市場定價凸顯了AI採用中的成本挑戰，並為Anthropic等公司的估值前景帶來壓力。目前的定價似乎與Anthropic可能需要應對因高推論成本而產生的投資需求的情境相符。儘管存在這些挑戰，市場指標仍顯示，市場對Anthropic的估值在年底前達到某些目標抱持適度樂觀態度。

目前市場關注的是亞馬遜在降低AI推論成本策略方面的進展，這可能影響更廣泛的市場看法。Anthropic有關融資輪或合作夥伴關係的任何公告也可能改變市場定價。觀察人士將密切關注可能改變當前AI部署成本動態的策略舉措或技術進展。