CEO Amazona Andy Jassy: popyt na AI ma kształt „hantli”, a wysokie koszty inferencji pozostawiają rynek środkowy niewykorzystany
Najważniejsze informacje
- •Jassy scharakteryzował obecny popyt na AI jako skoncentrowany na wysoko- i niskokosztowych końcach rynku, pozostawiając znaczny potencjał pomiędzy nimi.
- •Inferencja generuje powtarzający się koszt przy każdej odpowiedzi modelu AI, co ogranicza szerszą adopcję w przedsiębiorstwach.
- •Amazon promuje układy Trainium, które według firmy zapewniają konkurencyjny stosunek ceny do wydajności dla obciążeń AI w AWS.
- •Inwestycja Amazona w Anthropic wiąże perspektywy finansowania i wyceny startupu z szerszą ekonomiką wdrażania AI.
- •Przyszłe inicjatywy Amazona na rzecz redukcji kosztów lub ogłoszenia Anthropic dotyczące finansowania i partnerstw mogą wpłynąć na postrzeganie rynku.
CEO Amazona Andy Jassy opisał popyt na sztuczną inteligencję jako „hantle”: z jednej strony znajdują się laboratoria AI, z drugiej przedsiębiorstwa dążące do oszczędności, podczas gdy potencjał pomiędzy nimi pozostaje w dużej mierze niewykorzystany z powodu wysokich kosztów inferencji.
Inferencja — obliczeniowo intensywny proces uruchamiania wytrenowanych modeli w celu generowania odpowiedzi — to koszt ponawiany przy każdym zapytaniu obsłużonym przez model. Uwagi Jassy'ego podkreślają wyzwanie, przed którym stoi Amazon w dążeniu do tego, aby technologia AI była ekonomicznie opłacalna dla szerszego zastosowania w przedsiębiorstwach. Wypowiada je w momencie, gdy firma promuje swoje dedykowane akceleratory AI — specjalistyczne układy do obliczeń AI — takie jak Trainium, które według doniesień oferują lepszy stosunek ceny do wydajności niż produkty konkurencji. Trainium jest opracowywany przez jednostkę Amazona Annapurna Labs i obsługuje obciążenia AI w ramach chmurowej platformy firmy Amazon Web Services (AWS).
Wypowiedź ta ma znaczenie dla całej branży AI, w tym dla firm takich jak Anthropic, twórca asystenta AI Claude. Amazon zainwestował w Anthropic miliardy dolarów, a modele startupu są udostępniane klientom za pośrednictwem AWS.
Wyceny rynkowe przywoływane w kontekście uwag Jassy'ego podkreślają wyzwania kosztowe związane z adopcją AI i obciążają perspektywy wyceny firm takich jak Anth. Aktualne wyceny wydają się spójne ze scenariuszami, w których Anthropic może być zmuszony zająć się potrzebami inwestycyjnymi wynikającymi z wysokich kosztów inferencji. Wskaźniki rynkowe sugerują mimo wszystko umiarkowany optymizm, że do końca roku wycena Anthropic może osiągnąć określone cele.
Uwaga skupia się teraz na działaniach Amazona dotyczących strategii obniżania kosztów inferencji AI, które mogą wpłynąć na szersze postrzeganie rynku. Ewentualne ogłoszenia Anthropic dotyczące rund finansowania lub partnerstw również mogą zmienić wyceny rynkowe. Obserwatorzy będą uważnie śledzić inicjatywy strategiczne lub postępy technologiczne, które mogłyby zmienić obecne dynamikę kosztów wdrażania AI.
