Het AI-tokenverbruik kan tegen 2030 met een factor 24 toenemen nu goedkopere modellen en autonome agents het gebruik doen toenemen, aldus Zach Pandl, hoofd onderzoek van assetmanager Grayscale. De vooruitzichten, uiteengezet in het rapport van het bedrijf "Investing for the Compute Bottleneck", benadrukken ook dat de fysieke infrastructuur die nodig is om deze systemen te draaien beperkt blijft. Grayscale stelt dat de stijgende vraag naar rekenkracht de efficiëntiewinst kan overtreffen, wat de druk op beschikbare datacenters, elektriciteitsvoorzieningen en GPU's vergroot.

Goedkopere AI-modellen kunnen het gebruik doen toenemen

Dalende kosten maken kunstmatige intelligentie toegankelijker voor toepassingen en geautomatiseerde workflows. Anthropic's nieuwste Sonnet-model kost nu tot 30% minder per taak, aldus het bedrijf, terwijl concurrentie van goedkopere open-weight-modellen — waarvan de parameters publiek beschikbaar zijn voor iedereen om te downloaden en te draaien — blijvende neerwaartse druk zet op tokenprijzen.

Tokens meten de tekst die AI-modellen verwerken en genereren, en ontwikkelaars betalen voor hun verbruik. Nu de prijzen dalen, kunnen bedrijven nieuwe toepassingen voor AI vinden die voorheen te duur waren om te draaien. Het rapport onderzoekt hoe goedkopere intelligentie bredere adoptie kan ondersteunen.

AI-agents kunnen de computervraag vermenigvuldigen

OpenAI's onlangs geïntroduceerde "dots" zijn altijd-actieve agents die zijn ontworpen om continu aan de doelen van gebruikers te werken. In tegenstelling tot chatbots, die op individuele vragen reageren, kunnen agents meerdere stappen binnen één workflow uitvoeren. Het voorbereiden van een klantgesprek kan bijvoorbeeld vereisen dat notities worden doorgenomen, portefeuilleveranderingen worden geanalyseerd en een agenda wordt opgesteld.

Volgens Grayscale kunnen dit soort taken vijf tot vijftig keer meer tokens verbruiken dan een standaard chatbot-interactie, afhankelijk van de complexiteit. Agents kunnen daardoor aanzienlijke groei van inferentie aanjagen, de berekening die nodig is om AI-modellen te draaien. Goldman Sachs voorspelt dat het tokenverbruik tegen 2030 met een factor 24 kan stijgen, waarbij de bank de toename grotendeels toeschrijft aan de adoptie van agents.

Fysieke infrastructuur blijft een compute-knelpunt

Hoewel AI-modellen efficiënter worden, kan de totale computervraag nog steeds stijgen wanneer het gebruik sneller groeit dan die winsten kunneneren — een dynamiek die herinnert aan de Jevons-paradox, de economische observatie uit de negentiende eeuw dat grotere efficiëntie het totale verbruik van een hulpbron kan vergroten in plaats van verkleinen. Het leveren van de benodigde infrastructuur kost tijd. Beschikbaarheid van stroom, datacenters en GPU's blijven essentieel om groeiende workloads te ondersteunen, en hun beperkte aanbod kan beperken hoe snel de computercapaciteit meegroeit met de AI-adoptie.

Grayscale verwees ook naar CoreWeave, dat onlangs meldde nieuwe contracten te hebben getekend tegen hogere compute-prijzen, als voorbeeld van aanhoudende prijsdruk op infrastructuur, zelfs nu de kosten van individuele AI-taken dalen.

Pandl's analyse stelt dat goedkopere modellen en capabelere agents het gebruik voldoende kunnen verhogen om de efficiëntiewinst te overtreffen. In dit scenario kunnen eigenaren van schaarse fysieke compute-infrastructuur van de vraag profiteren. Hoe de balans tussen dalende tokenkosten en stijgende infrastructuurprijzen zich ontwikkelt, kan zichtbaar worden in verdere modelprijsverlagingen van aanbieders zoals Anthropic, in contractopenbaarmakingen van exploitanten zoals CoreWeave, en in herzieningen van vraagschattingen zoals Goldman Sachs' prognose van een factor 24.