AI stanie się tańsza, ale rachunki za AI w firmach prawdopodobnie nie spadną
Najważniejsze informacje
- •Pylon spodziewa się gwałtownego wzrostu wydatków na Anthropic po przekroczeniu 150 stanowisk, ponieważ plan cenowy zmienia się z rozliczeń pakietowych na osobne rozliczanie tokenów.
- •Artykuł wskazuje, że AI w przedsiębiorstwach często staje się droższa w skali całej organizacji, nawet gdy koszt pojedynczego użycia modelu spada.
- •Rozliczanie tokenowe może generować nierówne i trudne do śledzenia koszty, ponieważ różni użytkownicy i systemy mogą zużywać bardzo różne ilości mocy obliczeniowej.
- •Autor twierdzi, że firmy powinny oceniać AI przez ekonomię jednostkową, na przykład koszt jednej rozwiązanej sprawy lub koszt jednego użytecznego wyniku, a nie tylko przez wskaźniki adopcji.
- •Przedsiębiorstwa, które potrafią powiązać wydatki na AI z przychodami, marżą, zdolnością operacyjną lub przewagą strategiczną, częściej będą dalej inwestować mimo wyższych kosztów bezwzględnych.

Marty Kausas, CEO firmy Pylon tworzącej oprogramowanie do obsługi klienta, zwrócił ostatnio uwagę na problem budżetowania AI, z którym prawdopodobnie zmierzy się wiele przedsiębiorstw. Jak napisał, roczny rachunek Pylon za Anthropic miał wzrosnąć z około 400 000 do 1,4 miliona dolarów po przekroczeniu przez firmę 150 stanowisk. Nie wynikało to z nagłego skoku użycia. Źródłem wzrostu była zmiana struktury cenowej: powyżej 150 stanowisk Pylon miał przejść z planu obejmującego użycie do planu korporacyjnego, w którym tokeny są rozliczane oddzielnie według standardowych stawek API.
Kausas ocenił to bez ogródek: po latach zachęcania pracowników do korzystania z narzędzi AI Pylon zaczął wprowadzać limity wydatków i wymagać akceptacji dla dodatkowego zużycia.
Sytuacja Pylon pokazuje szerszą zmianę, która jest w toku. Wiele firm zaczęło wdrażać AI na wyjątkowo korzystnych warunkach — z pakietowym użyciem, cenami promocyjnymi, hojnymi rabatami dla klientów korporacyjnych i stosunkowo ograniczonym wdrożeniem. Gdy te warunki wygasają, a projekty pilotażowe przechodzą do systemów produkcyjnych, rzeczywisty koszt korporacyjnego AI staje się bardziej widoczny.
Jednocześnie sama technologia staje się tańsza. Koszty inferencji znacząco spadły, konkurencja między dostawcami modeli pozostaje ostra, a organizacje mają dziś więcej możliwości kierowania zadań do mniejszych, bardziej efektywnych modeli. Główni dostawcy, w tym OpenAI, Anthropic i Google, wielokrotnie obniżali ceny API dla swoich flagowych modeli w ciągu ostatnich dwóch lat, a otwarte alternatywy od Meta i innych firm wywarły dodatkową presję na spadek cen.
Paradoksalny efekt jest taki, że AI może być tańsza w pojedynczym zastosowaniu, a jednocześnie znacznie droższa w obsłudze w całej organizacji. W miarę jak modele stają się bardziej zaawansowane, firmy powierzają im więcej zadań, udostępniają je większej liczbie pracowników i włączają do większej liczby produktów. Wzrost skali i złożoności może z łatwością przewyższyć oszczędności wynikające z niższych cen jednostkowych.
Nie jest to zjawisko wyłącznie związane z AI. Obliczenia stawały się tańsze, a organizacje zużywały ich znacznie więcej. Ceny przechowywania danych spadały, więc firmy zatrzymywały coraz większe ilości informacji. Koszt przepustowości malał, a wideo zaczęło dominować w ruchu internetowym. Wydajność konsekwentnie powiększa rynki — to wzorzec obserwowany przez ekonomistów od XIX wieku, kiedy bardziej wydajne maszyny spalające węgiel paradoksalnie zwiększały jego całkowite zużycie zamiast je ograniczać. AI prawdopodobnie podąży tą samą ścieżką — z jedną istotną różnicą: duża część jej zużycia będzie trudna do zaobserwowania przez kadrę zarządzającą.
Tradycyjne oprogramowanie dla przedsiębiorstw jest zwykle wyceniane według widocznej jednostki: stanowiska, transakcji lub konta klienta. Systemy agentowe mogą natomiast generować koszty autonomicznie i nierówno. Dwóch pracowników z tą samą licencją może zużywać skrajnie różne ilości mocy obliczeniowej. System może stawać się bardziej zdolny, a jednocześnie korzystać z dłuższego kontekstu, większej liczby kroków rozumowania i większej liczby wywołań zewnętrznych narzędzi.
To tworzy nowy problem zarządczy. Przedsiębiorstwa nie mogą już zakładać, że kupno dostępu do AI oznacza kontrolę nad jego kosztem.
W pierwszej fazie korporacyjnego wdrażania AI było to łatwe do zignorowania. Większość organizacji prowadziła eksperymenty i dystrybuowała ograniczoną liczbę licencji. Pokazywało to, czy ludzie będą korzystać z AI, ale nie odpowiadało na pytanie, które teraz ma znaczenie: czy to użycie tworzy wystarczającą wartość ekonomiczną.
Gdy budżety AI przechodzą z fazy eksperymentalnej do materialnej, firmy będą musiały zastąpić wskaźniki adopcji ekonomią jednostkową. W systemie obsługi klienta istotne mogą być takie miary jak koszt skutecznie rozwiązanej sprawy, czas rozwiązania oraz wskaźnik eskalacji. W mojej firmie Smartling, zajmującej się tłumaczeniami wspieranymi przez AI, mogą to być koszt tworzenia treści na uzgodnionym poziomie jakości, czas potrzebny na wejście na nowy rynek albo ilość treści, jaką firma może ekonomicznie udostępnić w każdym języku.
Takie miary są trudniejsze do obliczenia niż sama skala wykorzystania. Wymagają od firm zdefiniowania oczekiwanego rezultatu przed wdrożeniem technologii, ustalenia punktu odniesienia oraz uwzględnienia zarówno kosztu technologii, jak i pracy ludzkiej, która nadal pozostaje wokół niej.
W ciągu ostatnich kilku lat budowanie Smartling wokół AI pokazało, że głównym wyzwaniem nigdy nie było wprowadzenie AI do organizacji ani przekonanie ludzi do korzystania z niej. Prawdziwym wyzwaniem było ustalenie, gdzie AI w sposób istotny zmienia ekonomię pracy.
Tańsze tłumaczenie, na przykład, ma ograniczoną wartość, jeśli wymaga tak dużej korekty ludzkiej, że oszczędności znikają. Właściwą miarą nie jest liczba słów, które przeszły przez system AI, lecz koszt i wartość biznesowa tworzenia użytecznych treści wielojęzycznych.
Ta sama zasada dotyczy całego przedsiębiorstwa. Każde wdrożenie AI powinno zaczynać się od hipotezy ekonomicznej: który koszt spadnie, jakie ograniczenie zostanie usunięte albo jakie źródło przychodów wzrośnie? Następnie należy je oceniać wobec tej hipotezy, a nie wobec ilości zużytego AI.
Kolejna faza korporacyjnego AI nie będzie więc definiowana przez to, które firmy osiągną najwyższy poziom adopcji. Będzie definiowana przez to, które firmy rozumieją ekonomię tego, co wdrożyły.
Organizacje, które potrafią powiązać wydatki na AI z przychodami, marżą, zdolnością operacyjną lub przewagą strategiczną, będą nadal inwestować, nawet jeśli ich bezwzględne wydatki wzrosną.
AI nie musi stać się tania, aby uzasadnić swoje miejsce w przedsiębiorstwie. Musi stać się ekonomicznie czytelna. Firmy, które to osiągną, niekoniecznie wydadzą najmniej na AI, ale będą wiedziały, co kupuje każdy dodatkowy dolar.
Opinie wyrażone w komentarzach na Fortune.com są wyłącznie opiniami ich autorów i nie muszą odzwierciedlać poglądów i przekonań Fortune.
Ten materiał został pierwotnie opublikowany na Fortune.com