Il CEO di Amazon Andy Jassy: la domanda di AI è un 'barbell', i costi elevati di inferenza lasciano intatto il mercato intermedio
Punti chiave
- •Jassy ha caratterizzato l'attuale domanda di AI come concentrata agli estremi alto e basso costo del mercato, lasciando inesplorato un significativo potenziale intermedio.
- •L'inferenza genera una spesa ricorrente ogni volta che un modello AI produce una risposta, limitando un'adozione aziendale più ampia.
- •Amazon promuove i chip Trainium, che secondo l'azienda offrono un rapporto prezzo-prestazioni competitivo per i carichi di lavoro AI su AWS.
- •L'investimento di Amazon in Anthropic lega le prospettive di finanziamento e valutazione della startup all'economia complessiva dell'implementazione dell'AI.
- •Future iniziative di riduzione dei costi di Amazon o annunci di finanziamenti e partnership di Anthropic potrebbero influenzare le percezioni del mercato.
Il CEO di Amazon Andy Jassy ha descritto la domanda di intelligenza artificiale come un "barbell" (bilanciere), con i laboratori di ricerca AI da un lato e le imprese orientate al taglio dei costi dall'altro, mentre il potenziale intermedio resta in larga parte inesplorato a causa degli elevati costi di inferenza.
L'inferenza — il processo ad alta intensità di calcolo con cui i modelli addestrati generano risposte — è un costo ricorrente sostenuto a ogni richiesta elaborata da un modello. Le osservazioni di Jassy sottolineano la sfida che Amazon affronta nel rendere la tecnologia AI economicamente sostenibile per un uso aziendale più ampio. Arrivano mentre l'azienda promuove i suoi acceleratori AI personalizzati — chip specializzati per i calcoli AI — come Trainium, che secondo le segnalazioni offrono un miglior rapporto prezzo-prestazioni rispetto alla concorrenza. Trainium è sviluppato dalla divisione Annapurna Labs di Amazon e alimenta i carichi di lavoro AI sulla piattaforma cloud Amazon Web Services (AWS) dell'azienda.
Le dichiarazioni hanno implicazioni per l'intero settore AI, comprese aziende come Anthropic, sviluppatrice dell'assistente AI Claude. Amazon ha investito miliardi di dollari in Anthropic, e i modelli della startup sono messi a disposizione dei clienti tramite AWS.
Il pricing di mercato citato insieme alle dichiarazioni di Jassy evidenzia le sfide di costo nell'adozione dell'AI e pesa sulle prospettive di valutazione di aziende come Anthropic. Il pricing attuale sembra coerente con scenari in cui Anthropic potrebbe dover far fronte a fabbisogni di investimento derivanti dagli elevati costi di inferenza. Gli indicatori di mercato suggeriscono tuttavia che, nonostante le sfide, sussista un moderato ottimismo che la valutazione di Anthropic possa raggiungere determinati obiettivi entro la fine dell'anno.
L'attenzione è ora rivolta agli sviluppi di Amazon riguardo alle strategie per ridurre i costi di inferenza AI, che potrebbero influenzare le percezioni generali del mercato. Anche eventuali annunci di Anthropic concerning cicli di finanziamento o partnership potrebbero spostare il pricing di mercato. Gli osservatori seguiranno da vicino inizi strategiche o avanzamenti tecnologici che potrebbero alterare le attuali dinamiche di costo nell'implementazione dell'AI.
