Dwa miesiące temu modele AI open-weight były na Vercel jedynie graczem drugoplanowym. Teraz, przynajmniej pod względem wolumenu, to one nadają ton.

Dyrektor generalny Vercel Guillermo Rauch poinformował 22 sierpnia, że modele open-weight odpowiadały za 62% wszystkich tokenów przetworzonych przez Vercel AI Gateway, wobec 28,4% 24 czerwca.

Jak szybko jest szybko?

W kwietniu modele open-weight odpowiadały zaledwie za 11% wolumenu tokenów Vercel. W czerwcu było to 29%. Pod koniec sierpnia wskaźnik ten przekroczył 62%.

Vercel AI Gateway działa jako warstwa routingu i zarządzania ruchem dla aplikacji opartych na AI, więc dane te odzwierciedlają rzeczywiste obciążenia produkcyjne pochodzące od prawdziwych firm, a nie testy benchmarkowe czy warunki laboratoryjne.

Kluczowym czynnikiem tej zmiany są koszty. Modele open-weight mogą działać za około jedną dziesiątą ceny swoich odpowiedników o zamkniętym kodzie źródłowym, a przedsiębiorstwa zrozumiały, że nie każde zadanie AI wymaga modelu premium, aby zostało wykonane.

Paradoks wydatków

Mimo że modele open-weight odpowiadają za 62% wolumenu tokenów, nie odpowiadają za 62% wydatków.

Zamknięte modele Anthropic przejęły od 61% do 65% całkowitych wydatków na bramce w ostatnich okresach sprawozdawczych. Claude przetwarza mniejszość tokenów, ale generuje większość przychodów.

DeepSeek wspiął się na szczyt lub niemal na szczyt rankingu wolumenu tokenów Vercel, wyprzedzając Google pod względem udziału w przetwarzaniu.

Co to oznacza szerzej dla wdrożeń AI

Duże firmy, w tym AT&T i Coinbase, były wymieniane wśród podmiotów kładących nacisk na strategie redukcji kosztów we wdrożeniach AI, co jest spójne z dokładnie takim routowaniem obciążeń, jakie opisują dane Vercel.