Amazon-CEO Andy Jassy zegt dat de vraag naar AI een 'barbell' is, omdat hoge inferentiekosten de middelste markt onaangebood laten
Belangrijkste punten
- •Jassy karakteriseerde de huidige AI-vraag als geconcentreerd aan het hoog- en laaggeprijsde uiteinde van de markt, waardoor aanzienlijk potentieel daartussen onaangebood blijft.
- •Inferentie veroorzaakt telkens terugkerende kosten wanneer een AI-model een antwoord genereert, wat bredere ondernemingsadoptie beperkt.
- •Amazon promoot Trainium-chips, waarvan het zegt dat ze een concurrerende prijs-prestatieverhouding bieden voor AI-workloads op AWS.
- •Amazons investering in Anthropic verbindt de financierings- en waarderingsvooruitzicht van het startup aan de bredere economie van AI-implementatie.
- •Toekomstige kostenbesparende initiatieven van Amazon of aankondigingen van Anthropic over financiering en partnerschappen kunnen marktpercepties beïnvloeden.
Amazon-CEO Andy Jassy omschreef de vraag naar kunstmatige intelligentie als een "barbell", met AI-laboratoria aan het ene uiteinde en kostenbesparende ondernemingen aan het andere, terwijl het potentieel daartussen grotendeels onaangebood blijft vanwege hoge inferentiekosten.
Inferentie — het rekenintensieve proces van het draaien van getrainde modellen om antwoorden te genereren — is een terugkerende kost die wordt gemaakt bij elke query die een model verwerkt. Jassy's opmerkingen onderstrepen de uitdaging waarmee Amazon wordt geconfronteerd om AI-technologie economisch haalbaar te maken voor breder ondernemingsgebruik. Ze komen nu het bedrijf zijn eigen AI-versnellers promoot — gespecialiseerde chips voor AI-berekeningen — zoals Trainium, waarvan naar verluidt de prijs-prestatieverhouding beter is dan die van concurrenten. Trainium is ontwikkeld door Amazons divisie Annapurna Labs en drijft AI-workloads aan op het cloudplatform Amazon Web Services (AWS).
De opmerkingen hebben implicaties voor de bredere AI-industrie, waaronder voor bedrijven als Anthropic, de ontwikkelaar van de AI-assistent Claude. Amazon heeft miljarden dollars in Anthropic geïnvesteerd, en de modellen van het startup worden via AWS aan klanten aangeboden.
Marktprijzen die naast Jassy's opmerkingen worden aangehaald, benadrukken de kostenuitdagingen bij AI-adoptie en drukken op de waarderingsvooruitzicht van bedrijven zoals Anthropic. De huidige prijzen lijken consistent met scenario's waarin Anthropic mogelijk investeringsbehoeften moet aanpakken die voortkomen uit hoge inferentiekosten. Marktindicatoren suggereren niettemin dat, ondanks de uitdagingen, er gematigd optimisme bestaat dat Anthropic's waardering bepaalde doelen tegen het einde van het jaar kan bereiken.
De aandacht is nu gericht op ontwikkelingen bij Amazon over strategieën om de AI-inferentiekosten te verlagen, wat bredere marktpercepties kan beïnvloeden. Aankondigingen van Anthropic over financieringsrondes of partnerschappen kunnen ook de marktprijzen verschuiven. Waarnemers letten nauwkeurig opische initiatieven of technologische vooruitgang die de huidige kostendynamiek van AI-implementatie zou kunnen veranderen.
