Il software seguiva un tempo una semplice formula economica: spendere molto per costruirlo, poi spendere quasi nulla per servire ogni nuovo cliente. L'AI generativa ha ribaltato questo modello. Ogni prompt, ogni immagine generata, ogni attività agentica costa denaro reale da produrre, e i truffatori hanno capito come far pagare il conto a qualcun altro.

La società di pagamenti Stripe sta lanciando l'allarme su quella che chiama "furto di token", una tattica di frode che prende di mira i modelli di fatturazione basata sull'uso delle aziende AI, in cui i clienti pagano per ciò che consumano effettivamente. I criminali creano account falsi, prosciugano costosi token o crediti API e scompaiono prima che qualcuno possa incassare il pagamento.

L'entità del problema

Le aziende AI in abbonamento hanno registrato un aumento del 40% dei tentativi di abuso multi-account in appena sei mesi, secondo i dati evidenziati da Stripe. Alcuni segmenti del settore AI hanno visto questi tentativi schizzare oltre il 600%.

A livello di transazioni, le aziende AI affrontano tassi di frode 4,3 volte superiori alla media delle startup. Anche dopo l'implementazione di contromisure, quella cifra scende solo a 2,6 volte la norma. Circa una registrazione su sei di nuovi clienti nel settore AI è collegata al furto di token. Il tempismo aggrava i danni: poiché l'utilizzo rubato viene consumato in tempo reale sull'infrastruttura del fornitore, le perdite si verificano prima che qualsiasi pagamento possa essere riscosso, e non c'è alcun prodotto da recuperare in seguito.

Il CEO di Stripe Patrick Collison ha descritto questa tendenza come uno dei rischi più trascurati nel panorama AI. Gli agenti automatizzati, faare, consentono ai ladri di esaurire i budget a un ritmo che i team antifrode umani semplicemente non possono eguagliare in tempo reale.

Perché l'AI è particolarmente vulnerabile

Le tradizionali aziende software-as-a-service potevano permettersi di essere generose con le prove gratuite, perché il costo marginale di un utente aggiuntivo si avvicina a zero. Le aziende AI operano secondo un'economia fondamentalmente diversa. Ogni query a un modello linguistico di grandi dimensioni consuma risorse di calcolo, ogni generazione di immagini utilizza cicli di GPU, e ogni flusso di lavoro agentico concatena molteplici e costose chiamate di inferenza.

I crediti AI rubati hanno inoltre un reale valore di rivendita sui mercati secondari, dove gli acquirenti possono accedere a capacità AI premium a una frazione del prezzo al dettaglio — ed è esattamente ciò che rende i crediti gratuiti e le prove che le aziende AI offrono per attirare sviluppatori un bersaglio così allettante.

ElevenLabs, l'azienda di generazione vocale AI, è stata in prima linea in questa battaglia. L'azienda dichiara di bloccare quotidianamente migliaia di account fraudolenti solo per mantenere le perdite sotto controllo.

La risposta di Stripe

Stripe ha aggiornato il suo strumento di rilevamento frodi Radar specificamente per affrontare il problema del furto di token. Radar, la suite di prevenzione delle frodi basata su machine learning dell'azienda, utilizzata dalle imprese sulla sua piattaforma di pagamenti, ha bloccato oltre 3,3 milioni di registrazioni ad alto rischio per soli otto aziende AI in un solo mese.

L'approccio interviene a livello di registrazione piuttosto che a livello di pagamento. Il furto di token deve essere fermato prima che i malintenzionati raggiungano il prodotto, perché quando hanno già utilizzato il servizio, il danno è già fatto. Con i tentativi di abuso ancora in crescita in tutto il settore, quanto si diffonderanno tra le aziende AI le difese a livello di registrazione come quelle di Radar — e come appariranno le cifre sulle frodi una volta che ciò avverrà — è una delle dinamiche operative da seguire man mano che la fatturazione AI basata sull'usage matura.