Koszty AI w firmach spadają, ale firmy wykorzystują oszczędności do szerszego wdrażania AI – pokazuje Ramp AI Index
Najważniejsze informacje
- •Wydatki korporacyjne na AI spadły po szczycie w lipcu, ale użycie wzrosło przez wrzesień o niemal 50% do historycznego maksimum – według Ramp AI Index.
- •Efektywna cena tokena spadła o 41% do około 0,68 dolara za milion tokenów wśród wojny cenowej dostawców AI.
- •W ostatnim tygodniu września Anthropic miał 51% użycia tokenów, a OpenAI 44,5% – łącznie ponad 95% aktywności w próbce Ramp, podczas gdy alternatywy open-source pozostawały poniżej 5%.
- •Badanie 472 firm wykazało, że 86% używa lub rozważa routery modeli, a silne uzależnienie od modeli granicznych ma spaść z 51% do 24% w ciągu roku.
- •KPMG wykazało, że niemal sześciu na dziesięciu liderów zgłasza mierzalną wartość z AI, a OECD zauważyło, że agenci AI mogą zużywać znacznie więcej tokenów na zadanie, więc tańsze tokeny mogą obniżać koszty jednostkowe bez redukcji łącznych rachunków za AI.

Firmy w Stanach Zjednoczonych płacą mniej za sztuczną inteligencję, mimo że korzystają z niej coraz bardziej – wynika z niedawnego badania opublikowanego przez Ramp AI Index, które śledzi wydatki i użycie w dużej próbce amerykańskich przedsiębiorstw. Wyniki wskazują, że trwające wojny cenowe wokół AI nie szkodzą popytowi. Wręcz przeciwnie – spadające ceny ułatwiają firmom wdrażanie AI na dużą skalę. Jeśli ten trend się utrzyma, firmy dostarczające chipy, moc chmurową i usługi inferencji mogą liczyć na odpowiednią poprawę wyników finansowych.
Użycie wzrosło o 50%, wydatki spadły od lipca
Ekonomista Ramp Ara Kharazian powiedział, że kwota pieniędzy wpompowywanych przez firmy w AI spadła po osiągnięciu rekordowego poziomu w lipcu, gdy rynek był szeroko otwarty dla dostawców takich jak OpenAI i Anthropic do obniżania cen.
Użycie poszło w dokładnie przeciwnym kierunku. Do września użycie wzrosło o niemal 50% i osiągnęło historyczne maksimum. Dane Ramp o użyciu liczone są w tokenach, podstawowych jednostkach tekstu przetwarzanych przez modele AI. W ostatnim tygodniu miesiąca użycie tokenów Anthropic wynosiło 51%, a OpenAI 44,5% – według Ramp, który odnotował, że alternatywy open-source pozostawały poniżej 5%. Łącznie obaj dostawcy odpowiadali za ponad 95% aktywności tokenowej w próbce Ramp.
Dane Ramp opierają się na danych transakcyjnych z 70 000 amerykańskich firm, natomiast dane o tokenach pochod z mniejszej próbki skupionej na API, faworyzującej dużych nabywców.
Według Kharaziana konkurencja między Anthropic i OpenAI „czyni AI bardziej dostępnym” dla większej liczby osób, jednocześnie obniżając koszty po stronie firm.
Dlaczego tańsze tokeny mogą oznaczać więcej AI, a nie mniej
Niższe ceny niekoniecznie oznaczają kurczącą się branżę AI. Frank Flight, specjalista z Citadel Securities, argumentował w swojej analizie tokenomiki, że stopień adopcji coraz bardziej zależy od przystępności cenowej i dostępności mocy obliczeniowej, energii i zdolności inferencji.
Dane samego Ramp odzwierciedlają spadek cen: efektywna cena tokena obniżyła się o 41%, do około 0,68 dolara za milion tokenów – zgodnie z łącznym trackerem ceny tokena AI Index.
Firmy kierują zadania do najtańszego pasującego modelu
Firmy stają się też bardziej selektywne co do tego, które modele obsługują które zadania. Z badania State of Tokenomics przeprowadzonego na 472 firmach wynika, że 86% używa lub rozważa routery modeli, a użytkownicy routerów czterokrotnie częściej wykazywali mierzalną wartość dla dyrektorów finansowych. Ten wzorzec sugeruje, że przedsiębiorstwa dopasowują modele do obciążeń, zamiast polegać na modelach granicznych przy każdym zadaniu.
Loosens także zależność od modeli granicznych. Obecnie 51% respondentów deklaruje silne uzależnienie od nich, ale tylko 24% spodziewa się, że za rok nadal będzie w tej kategorii.
Surowsza kontrola kosztów, ale nadal więcej wdrożeń
Raport KPMG Q3 AI Pulse wykazał, że niemal sześciu na dziesięciu liderów zgłasza mierzalną wartość z AI, na czele z produktywnością (55%), przed szybszym podejmowaniem decyzji (49%) i silniejszymi wynikami finansowymi (37%).
„Historia wartości AI staje się coraz wyraźniejsza”, powiedział Todd Lohr, wiceprzewodniczący KPMG i szef działu Technologii Klienta i Innowacji.
BCG również ustaliło, że niemal połowa firm generuje już wartość z AI Razem badania te wskazują, że firmy stosują ostrzejszą dyscyplinę kosztową, nawet gdy rozszerzają wdrażanie AI.
Co spadające ceny mogą oznaczać dla rynku
Tańsza AI może wprowadzić automatyzację do procesów, które wcześniej były zbyt kosztowne do zautomatyzowania. Badanie rynków AI OECD wykazało gwałtowny spadek skorygowanych o jakość cen modeli językowych, zaznaczając jednocześnie, że agenci AI mogą zużywać znacznie więcej tokenów na zadanie.
Oznacza to, że tańsze tokeny mogą obniżać koszty jednostkowe bez redukcji łącznych rachunków za AI. W miarę rozprzestrzeniania się adopcji firmy mogą po prostu używać znacznie więcej AI.
Źródło: Cryptopolitan