AktualnościMakroKoszty modeli AI: wydatki na trening rosną, a ceny inferencji spadają

Koszty modeli AI: wydatki na trening rosną, a ceny inferencji spadają

Autor: Coincentral·

Najważniejsze informacje

  • •Epoch AI szacuje, że zamortyzowany koszt sprzętu i energii przebiegów treningowych na granicy możliwości rósł około 2,4 raza rocznie od 2016 roku i prognozuje, że największe przebiegi mogą przekroczyć 1 miliard dolarów około 2027 roku, jeśli trend się utrzyma.
  • •Szacowany koszt mocy obliczeniowej treningu osiągnął około 79 mln dolarów dla GPT-4, 192 mln dla Gemini 1.0 Ultra i 170 mln dla Llama 3.1 405B; sprzęt stanowi 47% do 67% kosztów rozwoju modeli granicznych, a personel badawczy kolejne 29% do 49%.
  • •DeepSeek podał około 5,576 mln dolarów mocy obliczeniowej treningu dla DeepSeek-V3, przy około 2,788 mln godzin GPU Nvidia H800 — kwota nie obejmuje wcześniejszych badań, badań ablacyjnych i innych kosztów rozwoju.
  • •Koszt osiągnięcia stałego poziomu wydajności AI spadał o około 47% kwartalnie od 2023 roku, czyli około 13 razy rocznie — tempo, które Epoch AI uznaje za szybsze niż wcześniejsze krzywe kosztów, takie jak sekwencjonowanie DNA czy baterie litowo-jonowe.
  • •Inferencja na poziomie GPT-3.5 spadła z około 20 dolarów za milion tokenów pod koniec 2022 roku do 0,07 dolara w październiku 2024 roku, a w październiku 2026 małe komercyjne modele, takie jak GPT-6 Luna i Claude Haiku 5.5, pobierały 0,10 dolara za milion tokenów wejściowych i 0,50 dolara za milion tokenów wyjściowych.
Koszty modeli AI: wydatki na trening rosną, a ceny inferencji spadają

Sztuczna inteligencja wkroczyła w erę podzielonej ekonomii: koszt budowy modeli granicznych stale rośnie, a koszt ich używania stale spada. Oba trendy postępują jednocześnie.

Trening modelu AI klasy granicznej może wymagać dziesiątek, a nawet setek milionów dolarów mocy obliczeniowej. Według szacunków Epoch AI koszt sprzętu i energii tych przebiegów treningowych rósł około 2,4 raza rocznie.

Po wytrenowaniu modelu obraz się odwraca. Zgodnie z danymi Epoch AI cena osiągnięcia stałego poziomu wydajności AI od 2023 roku spadała o około 47% każdego kwartału — co daje około 13-krotny spadek rocznie.

Ten artykuł kompiluje najważniejsze dane dotyczące kosztów treningu, kosztów inferencji i cen tokenów, bazując na danych Epoch AI, Stanford University, DeepSeek, OpenAI, Anthropic i Google. Wszystkie ceny to standardowe publikowane stawki według stanu na październik 2026 roku.

Statystyki kosztów modeli AI w pigułce

  • Koszty treningu modeli AI klasy granicznej rosły około 2,4 raza rocznie.
  • Epoch AI prognozuje, że największe przebiegi treningowe mogą przekroczyć 1 miliard dolarów około 2027 roku, jeśli trend się utrzyma.
  • Koszt mocy obliczeniowej do treningu GPT-4 szacuje się na około 79 mln dolarów.
  • Gemini 1.0 Ultra szacuje się na około 192 mln dolarów.
  • Llama 3.1 405B szacuje się na około 170 mln dolarów.
  • Grok-2 szacuje się na około 107 mln dolarów.
  • DeepSeek podał 5,576 mln dolarów za oficjalny przebieg treningowy DeepSeek-V3 — kwota ta nie obejmuje wcześniejszych badań ani kosztów pracowniczych.
  • Sprzęt stanowi około 47% do 67% kosztów rozwoju modeli granicznych; personel badawczo-rozwojowy odpowiada za kolejne 29% do 49%.
  • Energia stanowi jedynie około 2% do 6%.
  • Koszt osiągnięcia tej samej wydajności AI spada o około 47% kwartalnie, czyli około 13 razy rocznie.
  • Inferencja na poziomie GPT-3.5 potaniała ponad 280-krotnie między końcem 2022 a końcem 2024 roku.
  • GPT-6 Luna i Claude Haiku 5.5 kosztują 0,10 dolara za milion tokenów wejściowych i 0,50 dolara za milion tokenów wyjściowych.
  • Tokeny z pamięci podręcznej mogą być o 90% do 95% tańsze niż zwykłe tokeny wejściowe w niektórych API.

Rosnąca przepaść między kosztami treningu a spadającymi kosztami użytkowania stanowi centralny element ekonomii AI. Reszta artykułu analizuje obie strony po kolei.

Ile kosztuje wytrenowanie modelu AI?

Nie ma jednej odpowiedzi. Koszty wahają się od kilkuset dolarów dla wczesnych modeli badawczych do setek milionów dolarów dla systemów granicznych.

Stanford AI Index, wykorzystując szacunki opracowane wspólnie z Epoch AI, śledzi, jak zmieniały się koszty treningu. Stanford zaznacza, że te liczby w większości szacują zużyte zasoby obliczeniowe, a nie pełny koszt ekonomiczny zbudowania każdego modelu. Nawet tak, zmiana na przestrzeni siedmiu lat jest dramatyczna: oryginalny Transformer kosztował według szacunków mniej niż 1000 dolarów mocy obliczeniowej, podczas gdy GPT-4 kosztował około 79 mln dolarów — ponad 100 000 razy więcej.

Nie każdy model podąża za linią wzrostu. Llama 2 70B, za około 3 mln dolarów, kosztowała mniej niż GPT-3 za 4 mln dolarów i znacznie mniej niż PaLM 540B za 12 mln dolarów. Rozmiar modelu, typ układów i metoda treningu — wszystko to kształtuje końcowy rachunek.

Koszty treningu modeli granicznych rosną 2 do 3 razy rocznie

Epoch AI przebadało dziesiątki dużych systemów AI i szacuje, że zamortyzowany koszt sprzętu i energii przebiegów treningowych na granicy możliwości rósł około 2,4 raza rocznie od 2016 roku. Osobna metoda oparta na cenach mocy obliczeniowej w chmurze wskazała podobne tempo 2,6 raza rocznie. Dwa niezależne podejścia wskazujące na ten sam zakres wzmacniają wiarygodność szacunku.

Jeśli trend się utrzyma, Epoch prognozuje, że największe modele graniczne mogą przekroczyć 1 miliard dolarów za przebieg treningowy około 2027 roku. Stanford odnotował w 2026 roku, że branżowe szacunki nowych systemów granicznych wahają się obecnie od setek milionów dolarów w stronę 1 miliarda dolarów za iterację.

To nie znaczy, że każdy przyszły wiodący model będzie kosztował miliard dolarów. Architektury mixture-of-experts, lepsze dane, ulepszone algorytmy i tańszy sprzęt mogą zmniejszyć moc obliczeniową potrzebną do osiągnięcia danego poziomu wydajności. DeepSeek pokazał, jak duża może być ta różnica.

Koszt treningu DeepSeek-V3

DeepSeek przyciągnął szeroką uwagę po tym, jak podał koszt mocy obliczeniowej treningu około 5,576 mln dolarów dla DeepSeek-V3. Jego raport techniczny stwierdza, że pełny oficjalny proces treningu zużył około 2,788 mln godzin GPU Nvidia H800. Przy zakładanej cenie najmu 2 dolary za godzinę GPU suma wynosi wskazane 5,576 mln dolarów.

Ta liczba jest często źle odczytywana. Nie jest to całkowity koszt opracowania V3. DeepSeek oświadczył, że kwota nie obejmuje wcześniejszych badań, eksperymentów architektonicznych, badań ablacyjnych, pracy nad danymi i innych kosztów rozwoju. Z tego powodu nie można jej bezpośrednio porównywać z szacunkami obejmującymi szersze wydatki B+R; uczciwe porównanie wymaga tego samego zakresu po obu stronach.

Liczba ta pokazuje, że decyzje projektowe i inżynieryjne mogą znacząco obniżyć koszt końcowego dużego przebiegu treningowego — ustalenie o znaczeniu dla całej branży.

Obliczenia to tylko część kosztów

Zbudowanie modelu granicznego to więcej niż GPU. Epoch AI szacuje, że całkowity koszt rozwoju dzieli się na trzy główne obszary: sprzęt stanowi około 47% do 67%, personel badawczo-rozwojowy odpowiada za kolejne 29% do 49%, a energia reprezentuje jedynie około 2% do 6%.

Dodatkowe koszty mogą obejmować pozyskiwanie danych, czyszczenie danych, nieudane eksperymenty, trening poinstalacyjny i uczenie ze wzmocnieniem. Testy bezpieczeństwa, ewaluacje modeli, sieci, przechowywanie i infrastruktura centrów danych zwiększają sumę.

W rezultacie nagłówkowy koszt końcowego przebiegu treningowego może znacznie zaniżać to, co jest potrzebne do zbudowania konkurencyjnego modelu granicznego, a przepaść między tymi dwiema liczbami może być duża.

Inferencja i ceny tokenów

Trening a inferencja

Trening tworzy model; inferencja go uruchamia. Firmy płacą za inferencję przy każdym użyciu modelu. Jeśli milion ludzi używa modelu codziennie, łączne wydatki na inferencję mogą przekroczyć koszt pierwotnego treningu.

Ta dynamika nabiera znaczenia, gdy AI wkracza do agentów kodujących, wyszukiwania AI, obsługi klienta, asystentów głosowych, analizy wideo i automatyzacji biznesowej. Odpowiedź chatbota z kilkuset tokenów jest tania; agent kodujący, który czyta miliony tokenów, wielokrotnie wywołuje narzędzia i działa przez godziny, zużywa znacznie więcej obliczeń.

Aktualne ceny tokenów

Większość komercyjnych API AI rozlicza według tokenów. Token to mały fragment tekstu, a milion tokenów odpowiada setkom tysięcy angielskich słów, choć dokładny stosunek się różni.

Cennik Gemini 4 Argon 2 i 10 dolarów jest ceną wprowadzającą do 30 listopada 2026 roku. Google podaje, że potem standardowe ceny wzrosną do 4 dolarów za wejście i 20 dolarów za wyjście.

To ceny katalogowe. Nie są to koszty własne dostawców związane z uruchamianiem modeli.

Małe modele a modele graniczne

GPT-6 Luna od OpenAI pobiera 0,10 dolara za milion tokenów wejściowych i 0,50 dolara za milion tokenów wyjściowych. Claude Haiku 5.5 od Anthropic ma tę samą nagłówkową cenę dla promptów poniżej 100 000 tokenów. Anthropic wydał Haiku 5.5 w październiku 2026 roku i podaje, że model jest średnio o około 75% tańszy w uruchamianiu niż Haiku 4.5.

Przy tych stawkach firma, która wysyła 100 mln tokenów wejściowych do modelu za 0,10 dolara, płaci tylko 10 dolarów, a 10 mln tokenów wyjściowych po 0,50 dolara za milion to kolejne 5 dolarów. Wyjście kosztuje więcej, ponieważ modele generują tokeny pojedynczo, co wymaga więcej obliczeń.

Tanie modele nie pasują do każdego zadania. Systemy rozumujące klasy granicznej potrzebują znacznie więcej mocy obliczeniowej, a dostawcy odpowiednio ich nie tanieją: Anthropic wycenia Claude Opus 5.5 na 4 dolary za milion tokenów wejściowych i 20 dolarów za milion tokenów wyjściowych — 40 razy więcej niż cena wyjścia Haiku 5.5.

Ta różnica daje agentom AI jasny powód, by kierować proste zadania do małych modeli, oszczędzając drogie do trudnego rozumowania.

Koszty inferencji AI gwałtownie spadły

Stanford AI Index podaje wymowny przykład. W listopadzie 2022 roku wydajność na poziomie GPT-3.5 w benchmarku MMLU kosztowała około 20 dolarów za milion tokenów. W październiku 2024 roku Gemini 1.5 Flash-8B osiągnął ten sam poziom benchmarku za 0,07 dolara za milion tokenów — spadek ponad 280-krotny w niecałe dwa lata.

Stanford ustalił, że ceny inferencji spadały od 9 do 900 razy rocznie, w zależności od mierzonego zadania. Zakres jest szeroki, ponieważ każdy benchmark i każdy poziom wydajności ma własną historię cen.

Niższe marże nie są jedyną przyczyną. Modele AI i sprzęt, na którym działają, stały się znacznie bardziej wydajne.

Cena stałego poziomu zdolności AI spada 13 razy rocznie

Badania Epoch AI z września 2026 roku wychodzą poza surowe ceny tokenów i mierzą, ile kosztuje osiągnięcie stałego poziomu wydajności modelu. Epoch szacuje, że ten koszt od 2023 roku spadał o około 47% każdego kwartału. W skali całego roku daje to spadek około 13-krotny.

Arytmetyka jest prosta. Jeśli cena spada o 47% kwartalnie, pozostaje 53%. Po czterech kwartałach zostaje około 7,9% — blisko jednej trzynastej.

Epoch podaje, że ten spadek jest szybszy niż wcześniejsze duże krzywe kosztów technologii, w tym sekwencjonowanie DNA, obliczenia ogólne, baterie litowo-jonowe i koszty energii elektrycznej. Tempo różni się w zależności od zadania.

Sprzęt i oprogramowanie czynią AI tańszym w działaniu

Inferencja AI korzysta ze stałych zysków w ekonomice układów, które Stanford śledzi poprzez trzy roczne trendy dotyczące sprzętu do uczenia maszynowego. Nowoczesne GPU używają też formatów liczbowych o niższej precyzji, lepszych systemów pamięci i szybszych połączeń między układami. Każda zmiana pozwala centrum danych wykonać więcej pracy za te same pieniądze.

Oprogramowanie wzmacnia te zyski. Techniki takie jak kwantyzacja, destylacja, sparsity, architektury mixture-of-experts, dekodowanie spekulatywne, ciągłe grupowanie zapytań i lepsze kompilatory wszystkie zmniejszają moc obliczeniową potrzebną na odpowiedź. W rezultacie ta sama ilość zdolności AI może być dostarczana z użyciem coraz mniejszej liczby zasobów obliczeniowych.

Cache i przetwarzanie wsadowe dodatkowo obniżają koszty

Nowoczesne API coraz częściej oferują zniżki na powtarzające się informacje. Wyobraźmy sobie agenta AI, który przy każdym żądaniu wysyła tę samą 100-stronicową instrukcję firmy: dostawca może umieścić ten tekst w pamięci podręcznej zamiast przetwarzać go ponownie za każdym razem.

OpenAI pobiera 0,20 dolara za milion tokenów wejściowych z cache dla GPT-6 Sol, wobec 2 dolarów za zwykłe wejście — zniżka 90%. Google obecnie oferuje w Gemini 4 Argon zniżkę 95% na kwalifikujące się niejawnie cache'owane dane wejściowe.

Użytkownicy, którym nie są potrzebne natychmiastowe odpowiedzi, też mogą płacić mniej. OpenAI wycenia przetwarzanie Batch i Flex dla GPT-6 Sol na około 50% stawek standardowych. Przetwarzanie wsadowe pasuje do klasyfikacji dokumentów, analiz nocnych, ekstrakcji danych, masowego podsumowywania i ewaluacji offline.

Cennik AI zaczyna przypominać przetwarzanie w chmurze: klienci płacą różne stawki w zależności od prędkości, niezawodności i elastyczności obciążenia.

Koszt na zadanie a łączne wydatki na AI

Dlaczego cena za token może wprowadzać w błąd

Model kosztujący 1 dolar za milion tokenów nie zawsze jest tańszy niż model za 2 dolary. Załóżmy, że pierwszy model potrzebuje 5 mln tokenów do ukończenia zadania, a drugi kończy je milionem tokenów. Pierwszy model kosztuje 5 dolarów za zadanie, a drugi 2 dolary.

Modele rozumujące czynią taką weryfikację ważniejszą, ponieważ mogą wytwarzać ogromne liczby wewnętrznych tokenów myślowych — a część z nich jest rozliczana. Anthropic podaje, że Claude Sonnet 5.5 zużywa mniej tokenów na zadanie niż Sonnet 5, co może czynić go tańszym w realnych przepływach pracy nawet tam, gdzie ceny katalogowe wyglądają podobnie. Firmy coraz częściej śledzą koszt pomyślnie ukończonego zadania, a nie tylko koszt za milion tokenów.

Co utrzymuje spadek cen

Trzy siły pchają koszty inferencji w dół: wydajniejszy sprzęt, wydajniejsze konstrukcje modeli i silna konkurencja między dostawcami.

OpenAI obniżyło ceny API GPT-6 Sol i Luna o około 50% w porównaniu z ich promocyjnymi odpowiednikami GPT-5.6, poprawiając przy tym zdolności. Anthropic podaje, że Haiku 5.5 kosztuje o około 75% mniej na typowe obciążenie niż Haiku 4.5. Google też konkuje na cenach tokenów.

Efekt: zastosowania AI, które dwa lub trzy lata temu były zbyt drogie, dziś mieszczą się w zwykłych produktach.

Spadające koszty mogą zwiększać łączne wydatki

Tańsze AI nie zawsze oznacza niższe wydatki branży. Firma może nie zautomatyzować miliona rozmów z klientami, jeśli każda kosztuje dolara. Po centa od sztuki może zautomatyzować je wszystkie.

Wzorzec przypomina paradoks Jevonsa, w którym wydajniejsze korzystanie z zasobu prowadzi do większego łącznego użycia. Może to pomóc wyjaśnić, dlaczego największe firmy chmuarnicze nadal wydają setki miliardów dolarów na centra danych AI, podczas gdy koszt pojedynczego zapytania spada.

Konkluzja

Ekonomia AI porusza się w dwóch kierunkach naraz. Na granicy możliwości koszty treningu rosły szybko: GPT-4 potrzebował szacunkowo 79 mln dolarów mocy obliczeniowej do treningu, Gemini 1.0 Ultra około 192 mln, a Llama 3.1 405B około 170 mln, a Epoch AI szacuje, że koszty treningu modeli granicznych rosły około 2,4 raza rocznie.

Gdy modele stają się dostępne, koszt ich używania szybko spada. Inferencja na poziomie GPT-3.5 spadła z około 20 dolarów za milion tokenów w 2022 roku do 0,07 dolara w 2024 roku, a nowsze badania Epoch określają spadek kosztu stałego poziomu wydajności AI na około 47% kwartalnie, czyli około 13 razy rocznie. W październiku 2026 roku małe komercyjne modele kosztowały już od 0,10 dolara za milion tokenów wejściowych i 0,50 dolara za milion tokenów wyjściowych.

Krótko mówiąc, najbardziej zaawansowane modele kosztują więcej w budowie, a ich wyniki kosztują mniej w użytkowaniu. Jeśli to trwa będzie dalej, wpływ AI może zależeć mniej od kosztu wytrenowania pojedynczego modelu, a bardziej od tego, co się stanie, gdy miliardy ludzi i firm będą mogły sięgać po sprawne AI w cenach zbliżonych do zwykłego oprogramowania chmurowego.

Źródła

  • Epoch AI: The Plunging Price of Thought
  • Epoch AI: How Much Does It Cost to Train Frontier AI Models?
  • Stanford University: 2025 AI Index Report, Research and Development
  • Stanford University: 2026 AI Index Report
  • DeepSeek: DeepSeek-V3 Technical Report
  • OpenAI: Introducing GPT-6 Sol and Luna
  • OpenAI: API Pricing
  • Anthropic: Claude Haiku 5.5
  • Anthropic: Claude Sonnet 5.5
  • Google AI: Gemini 4 Argon Pricing

Ten artykuł został pierwotnie opublikowany na CoinCentral.