AktualnościAkcjeTokenMaxxing: Jak w pełni wykorzystać kosztowne modele AI

TokenMaxxing: Jak w pełni wykorzystać kosztowne modele AI

Autor: Decrypt·

Najważniejsze informacje

  • •Najdroższe modele Anthropic i OpenAI kosztują za token 100 razy więcej niż najmniejsze modele w ich ofercie, mimo że wielu użytkowników wybiera model flagowy do wszystkich zadań.
  • •Uber zużył budżet na narzędzia AI na 2026 rok w około cztery miesiące, a pracownicy Meta wykorzystali 60 bilionów tokenów w 30 dni, rywalizując w wewnętrznym rankingu nazwanym „Claudeonomics”.
  • •Do zalecanych sposobów ograniczania kosztów należą dobór wielkości modelu do trudności zadania, tworzenie jednego jasnego promptu zamiast wielu poprawek, buforowanie stabilnych instrukcji i przetwarzanie zadań pakietowych z rabatem 50% w OpenAI i Anthropic.
  • •Dyrektor generalny Nvidia Jensen Huang powiedział w marcu, że byłby „głęboko zaniepokojony”, gdyby inżynier zarabiający 500 000 dolarów nie zużywał tokenów o wartości co najmniej 250 000 dolarów, przyczyniając się do popularyzacji trendu tokenmaxxing.
  • •Ceny tokenów spadły od 2023 roku o ponad 90%, ale wydatki na duże modele językowe podwoiły się od końca 2025 roku. To przykład paradoksu Jevonsa, w którym według briefu Bain koszty tokenów zmniejszyły się o połowę, a ich zużycie wzrosło o 450%.
TokenMaxxing: Jak w pełni wykorzystać kosztowne modele AI

Najdroższe modele Anthropic i OpenAI kosztują za token 100 razy więcej niż najmniejsze modele w ich ofercie, a mimo to wielu użytkowników domyślnie wybiera model flagowy do wszystkiego.

Rankingi wykorzystania w Meta, Amazonie i Uberze przyczyniły się do gwałtownego wzrostu rachunków za AI, a Uber zużył budżet na narzędzia AI na 2026 rok w około cztery miesiące.

Kierowanie zadań do odpowiedniego modelu, ograniczanie kontekstu, buforowanie i przetwarzanie pakietowe znacznie obniżają koszty, ale istnieją też inne sposoby oszczędzania.

Na początku tego roku pracownicy Meta zużyli 60 bilionów tokenów AI w ciągu 30 dni, walcząc o miejsca w wewnętrznym rankingu nazwanym „Claudeonomics”. Publicysta technologiczny Gergely Orosz oszacował rachunek według cennika Anthropic na około 900 milionów dolarów, choć Meta prawdopodobnie płaci znacznie mniej.

Konsultantka Bain \u0026 Company Jue Wang dostrzega spokojniejszą wersję tego marnotrawstwa wszędzie: „Tak wiele firm i tak wielu użytkowników domyślnie korzysta z Opus do wszystkiego, w tym do tworzenia e-maili” — powiedziała latem Associated Press, odnosząc się do zaawansowanych modeli Anthropic. Jeśli robisz to samo, zatrudniasz Alberta Einsteina do obliczenia reszty w McDonald’s.

Każde słowo wpisane do ChatGPT lub Claude’a i każde słowo wygenerowane przez model jest mierzone w tokenach — fragmentach tekstu, które średnio odpowiadają około trzem czwartym słowa. Przy subskrypcji za 20 dolarów ten licznik decyduje o tym, jak szybko osiągniesz limit wykorzystania. W API, czyli dostępie płatnym za token, którego deweloperzy używają do podłączania modeli do własnych aplikacji, decyduje o wysokości rachunku.

Oto aktualny cennik Anthropic za milion tokenów:

Stawka Haiku dotyczy promptów krótszych niż 100 000 tokenów; dłuższe prompty kosztują pięć razy więcej.

Najdroższy model kosztuje 100 razy więcej niż najmniejszy, a oferta OpenAI ma podobną rozpiętość — od 10 do 0,10 dolara za milion tokenów wejściowych. Te ceny za token szybko się sumują — zarówno po stronie laboratoriów, jak i użytkowników: roczny poziom przychodów Anthropic wzrósł z około 9 miliardów dolarów na koniec 2025 roku do ponad 47 miliardów dolarów w maju, podczas gdy OpenAI prowadzi wojnę cenową, by dotrzymać kroku.

Kilka nawyków może znacznie ograniczyć te wydatki, a pierwsze pięć porad nie wymaga żadnego kodowania.

Co oznacza tokenmaxxing (i co powinien oznaczać)

Tokenmaxxing zaczął się jako demonstracja statusu w Dolinie Krzemowej, podobna do Claudeonomics w Meta. Microsoft, Shopify i Amazon tworzyły rankingi pracowników na podstawie podobnego wykorzystania tokenów. Dyrektor generalny Nvidia, Jensen Huang, dolał oliwy do ognia, gdy w marcu powiedział w podcaście „All-In”, że byłby „głęboko zaniepokojony”, gdyby inżynier zarabiający 500 000 dolarów nie zużywał tokenów o wartości co najmniej 250 000 dolarów.

I rzeczywiście zużywali tokeny… na głupie, nieproduktywne zadania.

W Amazonie pracownicy przyznali, że zawyżali swoje wyniki, uruchamiając wewnętrzne narzędzie AI przy nieistotnych zadaniach, dopóki starszy wiceprezes nie powiedział im: „Proszę, nie używajcie AI tylko po to, żeby używać AI”.

Ten poradnik wykorzystuje znaczenie, które obecnie promują inżynierowie: maksymalizowanie wartości każdego tokena, a nie liczby wydawanych tokenów.

Trzy pojęcia wyjaśniają, gdzie trafiają tokeny — zaczynając od pętli agenta. Agent to model, który może korzystać z narzędzi, więc analizuje, przeszukuje internet lub uruchamia kod, odczytuje wynik i zaczyna kolejną iterację, aż uzna, że zadanie jest zakończone, za każdym razem ponownie wysyłając całą rozmowę.

Orkiestracja zwielokrotnia ten koszt: jeden model działa jako menedżer, dzieląc żądanie na części, przekazując je modelom roboczym nazywanym subagentami i łącząc ich odpowiedzi. Każdy pracownik wykonuje własną pętlę i korzysta z własnej pamięci. Dlatego Anthropic twierdzi, że zespoły agentów w Claude Code mogą używać około siedem razy więcej tokenów niż standardowa sesja, gdy członkowie zespołu pracują w trybie planowania — ustawieniu omówionym w dalszej części poradnika.

Grafy pomagają deweloperom powstrzymywać te pętle przed błądzeniem. Frameworki takie jak LangGraph pozwalają narysować przepływ pracy przypominający mapę metra, gdzie stacje (węzły) wykonują zadania, a tory (krawędzie) decydują, dokąd należy przejść, dzięki czemu model podąża ustaloną trasą zamiast zapętlać się aż do wyczerpania pomysłów lub budżetu.

Innymi słowy, pętle pomagają automatyzować zadania i zwiększać jakość, ale wiążą się też z dużymi wydatkami, dlatego efektywność ma ogromne znaczenie. Oto kilka porad, które mogą pomóc.

Początkujący: małe zadania, małe modele

  1. Wybierz model odpowiedni do zadania

Jeśli dopiero zaczynasz, prawdopodobnie korzystasz z graficznego interfejsu do uruchamiania AI.

Kliknij nazwę modelu w aplikacji czatu (u góry rozmowy w ChatGPT, obok przycisku wysyłania w Claude lub Hermesie) i przełącz się na mniejszą, szybszą opcję przy e-mailach, podsumowaniach i przeredagowywaniu tekstu. Najlepszy model zachowaj do trudnego rozumowania i decyzji, przy których subtelny błąd może kosztować realne pieniądze.

Uruchom pięć zadań z ubiegłego tygodnia równolegle na obu modelach. Jeśli mniejszy model sobie poradzi, pozostań przy nim. W przypadku subskrypcji pozwoli to wolniej zużywać limit, a w API może obniżyć rachunek nawet o 99%.

  1. Napisz jeden dobry prompt zamiast pięciu złych

Trzy rundy komunikatów w rodzaju „nie, tylko suma” albo „zrób to lepiej i dokładniej” za każdym razem ponownie wysyłają całą rozmowę. Jeden jasny prompt określa zadanie i dokładny format odpowiedzi. Możesz użyć czegoś takiego:

Wyodrębnij z poniższego tekstu numer faktury, datę, dostawcę i sumę. Zachowaj każdą wartość dokładnie w zapisanej formie. Zwróć po jednym wierszu dla każdego pola i wpisz „brak”, jeśli któregoś pola nie ma.

Własne testy OpenAI wykazały, że krótsze i jaśniejsze prompty uzyskiwały lepsze wyniki przy użyciu mniejszej liczby tokenów.

  1. Rozpocznij nowy czat po zmianie tematu

Model za każdym razem ponownie czyta całą rozmowę po naciśnięciu przycisku wysyłania, więc 50-wiadomościowy wątek o wakacjach sprawia jednocześnie, że pytanie podatkowe staje się droższe i mniej trafne.

Anthropic nazywa ten proces „gniciem kontekstu”.

Dlatego rozpoczynaj nowy czat za każdym razem, gdy zmienia się temat.

  1. Poproś o odpowiedź o potrzebnej długości

Tokeny wyjściowe kosztują pięć razy więcej niż wejściowe w najdroższych modelach Anthropic i OpenAI. Kończ prompty instrukcjami w rodzaju „trzy wypunktowania, mniej niż 100 słów” albo „tylko zmienione wiersze”, aby model miał mniej miejsca na rozwlekłość.

Jeśli model ma ograniczenie długości odpowiedzi, zaoszczędzi tokeny, szczególnie gdy zadanie jest kreatywne — na przykład pisanie lub research — a nie deterministyczne, jak kodowanie lub rozwiązywanie zadań matematycznych.

  1. Wypróbuj bezpłatną opcję, zanim zapłacisz

OpenRouter, serwis łączący za pośrednictwem jednego konta z setkami modeli AI, ma bezpłatny router, który kieruje żądanie do jednego z około 20 darmowych modeli. Możesz też uruchamiać modele lokalnie za pomocą LM Studio lub Ollama na karcie graficznej z 8 GB pamięci wideo albo na komputerze Mac z procesorem Apple z serii M.

Bezpłatne poziomy mogą zniknąć z dnia na dzień, dlatego nie buduj na nich niczego ważnego i przeczytaj zasady dotyczące danych, zanim wkleisz poufne informacje.

Mimo to darmowe oferty pozwalają maksymalizować liczbę iteracji. Hermes ma dobry wybór bezpłatnych modeli, które mogą wykonać potrzebne zadanie, podobnie jak Nvidia. Lepiej poprawiać prompt za pomocą darmowego, mniej inteligentnego modelu niż płacić za model premium, który zrobi to samo, tylko szybciej.

Dodatkowe porady dla początkujących

Pomiń rozszerzone myślenie przy prostych pytaniach albo obniż ustawienie wysiłku w nowszych modelach Claude, w których nie można wyłączyć myślenia. Anthropic rozlicza cały proces myślenia jako wyjście, w tym jego część, której nigdy nie widzisz.

Abonenci Claude Pro i Max, którzy włączą kredyty na wykorzystanie, mogą ustawić miesięczny limit wydatków w sekcji Settings, a następnie Usage.

Poziom średniozaawansowany: twój agent czyta zdecydowanie za dużo

Od tego miejsca przykłady wykorzystują Claude Code — agenta Anthropic działającego w terminalu i edytującego pliki; polecenia trafiają bezpośrednio do jego pola czatu. Inne narzędzia mają podobną logikę.

Jeśli korzystasz wyłącznie z aplikacji czatowych, porada numer 8 działa w każdym oknie czatu.

  1. Zacznij tanio, a po błędzie zwiększ poziom

Wpisz /model, aby zmienić model. Utrzymuj Sonnet jako domyślną opcję, a przechodź na Opus dopiero wtedy, gdy Sonnet nie poradzi sobie z konkretnym problemem, na przykład błędem, którego nie może naprawić po dwóch próbach. Przy prostych zadaniach subagentów dokumentacja Anthropic sugeruje ustawienie model: haiku w konfiguracji subagenta.

  1. Czyść kontekst między zadaniami

Wpisz /clear po przejściu do niezwiązanego zadania. Nic to nie kosztuje i usuwa starą historię. Używaj /compact z notatką określającą, co należy zachować, na przykład /compact keep the database decisions, tylko wtedy, gdy potrzebujesz historii, ponieważ samo skracanie kontekstu jest dużym żądaniem.

  1. Pozwól kodowi wykonywać nudne obliczenia

Wklejenie do czatu arkusza kalkulacyjnego z 5 000 wierszy zmusza model do przeczytania każdego wiersza, a mimo to model może źle policzyć wynik, ponieważ model językowy nie jest kalkulatorem — niezależnie od tego, ile za niego płacisz.

Poproś zamiast tego o formułę lub krótki skrypt, uruchom go samodzielnie i przekaż modelowi tylko wynik.

  1. Ogranicz liczbę narzędzi

Serwery MCP to wtyczki łączące model z aplikacjami takimi jak GitHub lub Google Drive. Każda z nich dodaje nazwy narzędzi i instrukcje do każdej sesji.

Wpisz /context, aby sprawdzić, co zajmuje miejsce, oraz /mcp, aby wyłączyć serwery, których projekt nie używa.

Dodatkowe porady dla średniozaawansowanych

Wpisz /usage, aby sprawdzić, gdzie trafiły tokeny. Plik CLAUDE.md (lub Soul.md), czyli plik instrukcji odczytywany przez agenta na początku każdej sesji, powinien mieć mniej niż 200 wierszy.

Przy większych zmianach naciśnij Shift+Tab, aby przełączyć się na tryb planowania, w którym agent przedstawia plan do zatwierdzenia przed modyfikacją plików. Naciśnij Esc, gdy tylko zacznie podążać w złym kierunku. Użyj /effort, aby obniżyć poziom rozumowania przy prostych zadaniach, takich jak zmiana nazwy zmiennej.

Anthropic pokazał, że wykorzystanie tokenów przez agenta spadło ze 150 000 do 2 000, gdy agent załadował tylko potrzebne definicje narzędzi. Dlatego narzędzia wiersza poleceń, takie jak gh należące do GitHub, które nie kosztują nic, dopóki nie zostaną uruchomione, często są lepsze niż stale aktywna wtyczka.

Zaawansowane: wbuduj zabezpieczenia w system

Wyobraź sobie dewelopera, który musi przetworzyć 1 000 faktur zawierających po 2 000 tokenów, a odpowiedzi mają po 200 tokenów. Zanim zastosuje poniższe rozwiązania, zadanie kosztuje około 30 dolarów w Fable 5.1 i około 0,30 dolara w Haiku 5.5.

  1. Buforuj elementy, które nigdy się nie zmieniają

Umieść stabilne instrukcje na początku, zmienne elementy na końcu i oznacz stabilny blok do buforowania. W API Anthropic jest to jedno dodatkowe pole:

"system": [{

"type": "text",

"text": "Your invoice instructions...",

"cache_control": {"type": "ephemeral"}

}]

Odczyt z pamięci podręcznej kosztuje ułamek normalnej ceny danych wejściowych, podczas gdy zapis do domyślnej pamięci podręcznej na pięć minut wiąże się z dodatkową opłatą. Sprawdzaj pole cache_read_input_tokens w każdej odpowiedzi. Jeśli po pierwszym wywołaniu nadal ma wartość zero, buforowanie nie działa.

  1. Grupuj wszystko, co może poczekać

OpenAI i Anthropic przetwarzają zadania pakietowe z rabatem 50%, a OpenAI obiecuje wyniki w ciągu 24 godzin. Prześlij 1 000 faktur jako jeden plik pakietowy zamiast wykonywać 1 000 wywołań na żywo, a rachunek znacznie spadnie.

  1. Trzymaj agentów na smyczy

Ustal maksymalną liczbę kroków i limit kwotowy dla każdego uruchomienia agenta oraz zdefiniuj, jak wygląda stan „ukończone”, zanim agent zacznie pracę. Claude Code akceptuje flagę --max-budget-usd przy uruchomieniach skryptowych, a Shopify korzysta z wyłączników awaryjnych, które mogą natychmiast odciąć deweloperowi dostęp, jeśli jego wydatki gwałtownie wzrosną w ciągu jednego dnia. Mechanizmy te mają wykrywać agentów wymykających się spod kontroli.

Obecnie standardem jest faktyczne uwolnienie agentów i pozwolenie im na zapętlanie się aż do uznania wyniku za idealny. Jeśli nie masz na to pieniędzy, nie pozwalaj agentom samodzielnie decydować, co jest, a co nie jest „idealne”.

Dodatkowe porady zaawansowane

Umieszczaj najważniejsze fakty na początku lub końcu długiego promptu. Badanie prowadzone przez Stanford wykazało, że modele najlepiej wykorzystują informacje znajdujące się w tych miejscach, a najgorzej te ukryte w środku.

Płać za sprawdzenie pracy przez drugi model tylko wtedy, gdy błąd jest kosztowny, na przykład w przypadku klauzuli umownej lub kwoty płatności. W API OpenAI włącz twardy limit wydatków dla każdego projektu, ponieważ alerty o wydatkach jedynie powiadamiają i nie zatrzymują ruchu.

Zacznij od jednego testu

Ustaw na tydzień jako domyślny najtańszy model, który przejdzie test pięciu zadań z porady numer 1, i zmieniaj go tylko wtedy, gdy sobie nie poradzi. Następnie porównaj stronę wykorzystania z poprzednim tygodniem. W zadaniu dotyczącym faktur samo kierowanie zadań obniżyło rachunek z 30 do 3,90 dolara, nawet po zapłaceniu Opus 5.5 za ponowne wykonanie 300 nieudanych zadań.

Tańsze tokeny same nie rozwiążą problemu: według indeksu Token Expenditure Index firmy Silicon Data cena pojedynczego tokena spadła od 2023 roku o ponad 90%, ale wydatki na duże modele językowe podwoiły się od końca 2025 roku.

Ekonomiści nazywają to paradoksem Jevonsa — sytuacją, w której zasób staje się tak tani, że ludzie zaczynają wydawać na niego więcej w ujęciu całkowitym. Brief Bain \u0026 Co. z czerwca wykazał ten sam wzorzec: koszty tokenów zmniejszyły się o połowę między grudniem 2024 a 2025 rokiem, podczas gdy liczba zużywanych tokenów wzrosła o 450%.

Zaletą jest to, że te same spadające ceny zaczynają działać na twoją korzyść, gdy przestajesz zużywać tokeny dla samego zużywania. Połącz je z opisanymi wyżej nawykami, a AI stanie się jednocześnie tańsza i lepsza.